NVIDIA, bu hafta GTC’de yeni Jetson Orin Nano™ sistem modüllerini tanıttı. Orin Nano, önceki nesile göre 40 kat ile 80 kat arasında performans sunacak ve 5W’dan 15W’a kadar güç seçenekleriyle giriş seviyesi kenar AI ve robotik için yeni bir standart belirleyecek. Kenar AI uygulama hattını hızlandırmak için Jetson Orin Nano, 6 çekirdekli Arm Cortex-A78AE CPU, video çözümleme motoru, ISP, video görüntü kompozitörü, ses işleme motoru ve video giriş bloğu içeriyor.
Bugünkü paylaşımda, bir göz atalım
- Orin Nano modülünün tam özellikleri, önceki nesille karşılaştırma
- Seeed’in yeni Orin tabanlı reComputer’ı
- AGX Orin’de Orin modül performansını taklit etme
- Orin serisi üzerinde Robotik, OTA ve Model Optimizasyonu geliştirmek için ortaklarımızın platformlarından yararlanma.
Orin Nano modülü
Yeni SoM, 6x A78 ARM CPU Cortex-A78AE, 32 Tensor çekirdeği ile 1024 çekirdekli NVIDIA Ampere mimarisi GPU ve Jetson Orin NX modülü ile aynı 260-pin SO-DIMM konektörünü içeriyor. Jetson Nano modülünün yalnızca 4GB versiyonu sunduğu göz önüne alındığında, bu seri 4GB ve 8GB seçenekleriyle geliyor. Jetson Orin Nano seri üretim modülleri, Ocak ayında 199 $’dan satışa sunulacak.
Orin Nano vs önceki nesil Jetson Nano ve TX2 NX
NVIDIA Ampere Mimarisi üçüncü nesil Tensor Çekirdekleri, önceki nesile göre watt başına 50 kat daha fazla performans sunuyor ve seyrekliği destekleyerek daha fazla performans getiriyor; artık geliştiriciler, derin öğrenme ağlarındaki ince yapılandırılmış seyrekliği kullanarak Tensor Çekirdek işlemleri için verimliliği iki katına çıkarabilirler.
- Orin Nano hem FP16 hem de Int 8’i desteklerken, Jetson Nano yalnızca FP16’yı destekliyor.
- Daha iyi çıkarım: NVIDIA, yeni modülde yoğun INT8 ve FP16 önceden eğitilmiş modelleri NGC ve standart ResNet-50 modelini test etti, sonuçlar önceki nesil giriş seviyesi modüllerden çok daha iyi.
- CPU: Jetson Nano 4 çekirdekli A57 ile 6 çekirdekli A78AE Orin NANO ile.
- GPU: 128 çekirdekli Maxwell’den NVIDIA Ampere Mimari GPU ile 1024 CUDA çekirdeği ve AI işleme için 32 Tensor Çekirdeği içeren 8 akış çoklu işlemci (SM) ile.
- Kodlama yetenekleri yükseldi! Orin Nano, 1080p/30 kare hızında kodlama için 1-2 CPU çekirdeğini destekler, bu da kenar video analizleri için daha iyi gerçek zamanlı işleme sağlar.
- Hafıza bant genişliği iyileştirildi: TX2NX 51.2GB/s sağlarken, Jetson Nano 25.6GB/s, Orin NANO 34GB/s sağlıyor ve 8GB 68GB/s’ye kadar çıkabiliyor.
- Orin NANO’da eMMC yoktur ve veri depolama için doğrudan harici NVME’yi destekler.
- Kompakt boyut, 70x45mm 260-pin SODIMM ayak izi kadar küçük, Jetson Orin Nano modülleri çeşitli yüksek hızlı arayüzler içeriyor, hangi taşıyıcı kartları bekliyorsunuz? Bize bildirin!
- Yedi adede kadar PCIe Gen3 hattı
- Üç yüksek hızlı 10-Gbps USB 3.2 Gen2 portu
- Sekiz hat MIPI CSI-2 kamera portu
- Çeşitli sensör I/O
Orin Nano ve Orin NX serisinin yeni reComputer’ı
reComputer J3010 ve J3011, NVIDIA Jetson Orin Nano üretim modülleri ile inşa edilmiş kompakt kenar bilgisayarlardır. NVIDIA Ampere Mimari GPU, 1024 CUDA çekirdeği ve AI işleme için 32 Tensor Çekirdeği içeren 8 akış çoklu işlemci (SM) ile.
Orin Nano reComputer, J401 taşıyıcı kartı ile inşa edilecek ve işlevselliği artırmak için zengin bir I/O seti sunacak: 2x CSI, 1x M.2 Anahtar M, 1x M.2 Anahtar E, 4x USB 3.2, 1x USB 2, HDMI, CAN, RTC ve 40-pin GPIO ile yetenekleri genişletecek, ayrıca bir soğutucu ve alüminyum kasa ile birlikte. Tam sistem, Jetpack 5 ile önceden yüklenmiş olacak ve önde gelen AI çerçeveleri ile geliştirme için hazır hale getirilecek ve her yerde dağıtım için uygun olacaktır.
NVIDIA Tercihli Ortak olarak, Orin NX ve Orin Nano etrafında yeni taşıyıcı kartlar ve tam sistemler üzerinde de çalışıyoruz. Orin Nano ve Orin NX’i Jetson serisi reComputer’a ekleyeceğiz. Tam sistem, J401 taşıyıcı kartı, üretim modülü, muhafaza ve soğutucu ile bir araya getirilecek ve önceden yüklenmiş Jetpack 5 ile birlikte olacak. Bu makalede Jetpack 5 hakkında daha fazla bilgi edinin.
- reComputer 3010 – Orin Nano 4GB modülü
- reComputer 3011 – Orin Nano 8GB modülü
- reComputer 4011 – Orin NX 8GB modülü
- reComputer 4012 -Orin NX 16GB modülü
Diğer form faktörü taşıyıcı kartlar ve eklemeler gibi daha fazla donanım beklentilerinizi Discord‘da bize bildirin!
Jetson Orin Nano/Orin NX için reComputer J401 taşıyıcı kartı
Taşıyıcı Kart Özellikleri
| Form faktörü | 100mm * 80mm |
| Ekran | 1x HDMI |
| CSI Kamera | 2x CSI |
| Ethernet | 1x Gigabit Ethernet(101001000M) |
| M.2 Anahtar M | 1x M.2 Anahtar M, NVME |
| M.2 Anahtar E | 1x M.2 Anahtar E |
| USB | 4x USB 3.2 Type-A; 1x USB2.0 Type-C(Kurtarma) |
| Çok Fonksiyonlu Port | 1×2.0 Pitch 40-Pin |
| FAN | 1x FAN(5V PWM) |
| RTC | 1x RTC Soketi; 1x RTC 2-pin |
| So-DIMM | 260 Pin |
| Güç | DC 9-19V |
| CAN | 1x CAN |
| Düğme Bağlantısı | 1×12, 2.54mm aralık |
Prototipten çözümlere tek durak donanım hizmeti sunan Seeed, taşıyıcı kart özelleştirmesi ve özel görüntü entegrasyon hizmeti dahil olmak üzere 0.1’den ∞’ye kadar üretim sunmaktadır. Seeed’deki diğer NVIDIA Jetson ürün serisi, geliştirici araçları ve kullanım durumları hakkında daha fazla bilgi edinin. Daha fazla bilgi için Jetson ekosistem sayfamıza göz atın!
GTC 2022 sırasında, NVIDIA, Kenar AI ve Robotik için NVIDIA Jetson Yol Haritası oturumunda yeni Orin Nano da dahil olmak üzere Jetson Orin platformu hakkında ek detaylar açıkladı, tüm GTC kayıtlı katılımcıları için talep üzerine mevcuttur.
Seeed, NVIDIA’nın gömülü sistem distribütörü ve tercih edilen ortağıdır. Tam sistem cihazları, taşıyıcı kartlar ve çevre birimleri donanımı sağlamanın yanı sıra, Seeed, geliştiricilerin özel uygulamalar oluşturmasını ve bunları üretim için ölçeklenebilir kenar cihazlarına dağıtmasını sağlayan ekosistem yazılım platformları üzerinde de çalışmaktadır. Müşteriler, NVIDIA Jetson platformu için kenar AI, robotik, AIoT ve gömülü çözümler geliştirebilir ve ardından uygulamalarını Jetson Orin modüllerinde dağıtıp ölçeklendirebilirler.
Robot ve ROS Geliştirme
GTC sırasında, Jetson Orin Nano’nun NVIDIA Isaac robotik yığını çalıştırdığını ve ROS 2 GPU hızlandırmalı çerçevesini içerdiğini duyurdu ve NVIDIA Isaac Sim, bir robot simülasyon platformu, bulutta mevcuttur. AWS RoboMaker kullanan robotik geliştiriciler için, Huang, robotik geliştirme için NVIDIA Isaac platformuna ait konteynerlerin AWS pazarında mevcut olduğunu duyurdu.
NVIDIA Isaac ROS GEM’leri, ROS geliştiricilerinin NVIDIA donanımında yüksek performanslı çözümler oluşturmasını kolaylaştıran donanım hızlandırmalı paketlerdir. Daha fazla bilgi için NVIDIA Geliştirici Araçları sayfasını ziyaret edin.
Orin serisini tamamen destekleyen Cogniteam Nimbus bulut tabanlı bir çözümdür ve geliştiricilerin otonom robotları daha etkili bir şekilde yönetmelerini sağlar. Nimbus platformu ayrıca NVIDIA® Jetson™ ve ISAAC SDK ve GEM’leri kutudan çıktığı gibi destekler. Jetson Xavier NX kullanarak Nimbus ile ROS Projenizi Buluta Bağlama konulu webinarımıza göz atın.
Tarayıcıdan birkaç tıklama ile geliştiriciler, Nimbus’ta “dockerize” bileşenler olarak hazır NVIDIA Isaac yazılım geliştirme kiti (SDK) GEM’lerini sürükleyip bırakabilirler, dedi Cogniteam. Kullanıcılar ayrıca ROS 2 bileşenleri için daha iyi destek alır ve bunları dünyanın her yerinden uzaktan güncelleyebilirler, diye ekledi.
Uzaktan Filoya Yönetim
Allxon, sektörün önde gelen çözümler sağlayıcısı ve Seeed Edge AI ortağı, güçlü uzaktan kenar cihazı yönetimi sunmaktadır.
Orin serisini tamamen destekleyerek, güvenli OTA ve uzaktan cihaz yönetimini Allxon ile etkinleştirebilirsiniz. Kod ile 90 günlük ücretsiz deneme sürümünü açın H4U-NMW-CPK.
Allxon’un plugIN’i, geliştiricilerin uzaktan izleme işlevinin yanı sıra yeni Jetson Power GUI ile daha fazlasını yapmasına yardımcı olabilir. NVIDIA Jetson Orin’in sistem performansını ve güç tüketimini izlemekle birlikte, Allxon, geliştiricilerin sistem hatalarını anında çözmek, önleyici tedbirler almak ve özellikle birden fazla eşzamanlı AI uygulama hattı çalıştırırken CPU, GPU, termal ve EMC performanslarını optimize etmek için saat frekanslarını yönetmelerine yardımcı olabilir.
OTA Güncellemeleri
Geliştiriciler, Allxon’un OTA güncelleme özelliğini kullanarak NVIDIA Jetson Orin modüllerinin filolarına güncellemeleri kolayca dağıtabilir ve tüm işlemlerin en son ve en güvenli sürümlerde çalışmasını sağlayabilirler.
Uzaktan Tetikleme Kurtarma
Allxon, geliştiricilere NVIDIA Jetson Orin tabanlı ürünleri kurtarma moduna geçirmek için uzaktan araçlar sunarak, yerinde bulunma gereksinimi olmadan işlemleri kesintisiz bir şekilde geri yüklemelerine ve geri almalarına yardımcı olur. Geliştiriciler ayrıca otomatik cihaz günlük toplama kurarak cihaz işlemlerini yakından izleyebilir, analiz edebilir ve takip edebilir ve manipüle edilmiş veri setlerini adli analiz için izole edebilirler.
Herhangi bir Jetson Orin modülünü AGX Orin’de doğru bir şekilde taklit edin
Bir Jetson Orin modülünü taklit ederken, tüm Jetson yazılım yığını ile çalışabilirsiniz. NVIDIA DeepStream, NVIDIA Isaac ve NVIDIA Riva gibi çerçeveler taklit modunda çalışır ve TAO Toolkit gibi araçlar, NGC’den önceden eğitilmiş modellerle beklendiği gibi performans gösterir. Yazılım yığını, taklitten bağımsızdır ve performans, taklit edilen hedefin performansıyla doğru bir şekilde eşleşir.
Bir robotik kullanım durumu geliştiriyorsanız veya bir görsel AI hattı geliştiriyorsanız, bugün Jetson AGX Orin Geliştirici Kiti ve taklit modunu kullanarak herhangi bir Jetson Orin modülü için uçtan uca geliştirme yapabilirsiniz.
Orin Nano modülleri, daha önce duyurulan Orin NX modülleri ile form faktörü ve pin uyumluluğuna sahiptir. AGX Orin’e sahip müşteriler için tam taklit desteği sunar ve AGX Orin geliştirici kiti kullanarak Orin Nano serisi için geliştirmeye başlamanızı sağlar. Lütfen buradan adım adım öğreticiye göz atın.
orin-nano-overlay-351.tbz2 dosyasını indirebilirsiniz; bu dosya, Jetson AGX Orin Geliştirici Kiti’nin bir Jetson Orin Nano serisi modülünü taklit etmesi için gerekli olan flaş yapılandırma dosyalarını içerir. Flaş talimatları için buraya bakın. Jetpack 5.0.1 geliştirici önizlemesi üzerinde çalışıyorsanız, lütfen Jetpack 5.0.2’ye yükseltin.
Deci platformu ile Jetson Orin’de Model Performansını Maksimize Edin
Deci’nin donanım farkındalığına sahip model hayvanat bahçesi, çeşitli SOTA bilgisayarla görme modellerini ve bunların doğruluğu ve çalışma süresi performans sonuçlarını (verimlilik, gecikme, model boyutu ve bellek ayak izi dahil) çeşitli donanım türlerinde görmenizi sağlar. MobileVITV2-1.5 modelini alarak NVIDIA TensorRT ile derleme ve 16 bit kuantizasyon uygulayarak, 91.3 kare/saniye verimlilik hızına ulaşabilirsiniz. Deci ile üstün bir mimari oluşturarak ve ardından aynı sıkıştırmayı (TensorRT kullanarak) uygulayarak, NVIDIA Jetson AGX Orin Geliştirici Kiti üzerinde 214 kareye ulaşmak için 2.34 kat daha yüksek verimlilik elde edebilirsiniz. Deci’nin AutoNAC motoru ile üretilen model, MobileVIT’e (80.3) kıyasla daha hızlı ve daha doğru (80.44) değildir.
Deci’nin AutoNAC’ı, ihtiyaçlarınıza özel bir model oluşturmanıza yardımcı olur. AutoNAC ile AI ekipleri genellikle en son modellerle karşılaştırıldığında %500’e kadar bir çıkarım performansı artışı elde eder (bu aralık çeşitli faktörlere bağlı olarak 2.5-10 kat arasında değişmektedir). Deci’nin platformu, modelinizi otomatik olarak derlemek ve kuantize etmek için NVIDIA TensorRT kullanabilir. Optimizasyon, Jetson Orin gibi istenen donanımı ve kuantizasyon seviyesini seçmeyi içerir. Deci, model boyutunu azaltmak için 16-bit FP sonrası kuantizasyon ve 8-bit tam sayı kuantizasyonu (premium özellik) sunar. Optimizasyon süreci sadece birkaç dakika sürer ve ardından aşağıda gösterildiği gibi optimize edilmiş bir MobileVit varyantı alırsınız.
Seeed Jetson Ekosistemi
Seeed, NVIDIA Partner Ağı’nda bir gömülü sistem distribütörü ve tercih edilen ortaktır. Tam sistem cihazları, taşıyıcı kartlar, çevre birimleri ve donanım sağlamanın yanı sıra, Seeed, geliştiricilerin özel uygulamalar oluşturmasına ve kenar cihazlarını üretim için ölçeklendirmesine yardımcı olmak amacıyla ekosistem yazılım platformları üzerinde de çalışmaktadır. Müşteriler, bugün NVIDIA Jetson Orin geliştirici kitini kullanarak kenar AI, robotik, AIoT ve gömülü çözümlerini oluşturabilir ve ardından uygulamalarını Jetson Orin modüllerinde dağıtıp ölçeklendirebilirler.
AI uzmanları, yazılım işletmeleri ve sistem entegratörleri ile çalışmayı dört gözle bekliyoruz:
- Özgün teknolojinizi entegre edin, bizimle lisanslı çözümü yeniden satabilir veya ortak marka oluşturabilirsiniz.
- NVIDIA Jetson modülü ile güçlendirilmiş yeni nesil AI ürünleri geliştirin, Seeed’in üretim, sipariş karşılama ve dağıtım hizmetleri ile ürününüzü pazara tek noktadan getirin.
- Seeed Harika Ekosistem Ortakları ile birlikte çalışarak daha fazla AI olasılığını açığa çıkarın.
Daha fazla NVIDIA Jetson ürün serisi bilgisi, geliştirici araçları ve Seeed’deki kullanım senaryaları için Seeed’in NVIDIA Jetson ekosistem sayfasını ziyaret edin veya bizimle edgeai@seeed.cc adresinden iletişime geçin.