NVIDIA Jetson AGX Orin: Robotik ve Kenar AI için 275 TOPS, 2048 NVIDIA® CUDA® çekirdeği, 64 Tensor Cores ile Büyük Bir Adım
? Heyecan verici haberler! NVIDIA Jetson AGX Orin Geliştirici Kiti artık Seeed’de ön sipariş için mevcut, AGX Orin Geliştirici Kitini almak için ilk olan siz olun!
GTC 2021 ve 2022’de, NVIDIA Jetson AGX Orin Modülü ve Geliştirici Kitini tanıttı; bu, Jetson ailesindeki en son ve en güçlü GPU’dur. Jetson AGX Orin, perakende, üretim, ulaşım, AgTech, akıllı şehir, havacılık vb. alanlarda çalışan yeni nesil otonom makineler, robotlar veya dronlar için hazırdır. Tüm heyecan verici özelliklere göz atalım!
- Jetson ailesinin en güçlü üyesi: NVIDIA Jetson AGX Orin, 2048 NVIDIA® CUDA® çekirdeği ve 64 Tensor Core ile Ampere mimarisine dayanmaktadır.
- Kenar AI için kompakt bir sıçrama: Jetson AGX Xavier ile karşılaştırıldığında, 100mm x 87mm boyutunda aynı form faktörüne ve aynı pin uyumluluğuna sahip olup, 270 TOPS ile 8 kat AI performansı sunmaktadır.
- Doğal dil anlama, 3D algılama ve çoklu sensör füzyonu gibi sorunları çözmek için büyük ve karmaşık derin öğrenme modellerini destekler.
- NVIDIA JetPack™ ve robotik için Isaac, sağlık hizmetleri için Clara ve akıllı şehirler için Metropolis gibi belirli yazılım platformları tarafından desteklenmektedir.
Jetson AGX Orin ve tüm Jetson aileleri etrafında daha fazla eğitim, uygulama ve ekosistem güncellemeleri için bizimle kalın!
Jetson AGX Orin Modül Teknik Özellikleri
Jetson AGX Orin, 2048 NVIDIA® CUDA® çekirdeği ve 64 Tensor çekirdeği ile NVIDIA Ampere mimarisi GPU’sunu ve 12 çekirdekli Arm Cortex-A78AE v8.2 64-bit CPU’yu kullanmaktadır.
AGX Orin geliştirici kiti, soğutucu ve referans taşıyıcı kart ile birlikte bir Jetson AGX Orin modülü, 802.11ac/abgn kablosuz Ağ Arayüz Kontrolcüsü, USB-C güç adaptörü ve kablosu ile birlikte hızlı başlangıç ve destek kılavuzunu içermektedir.
| AI Performansı | 275 TOPS (INT8) |
| GPU | NVIDIA Ampere mimarisi 2048 NVIDIA® CUDA® çekirdeği ve 64 Tensor Cores ile |
| Max GPU Frekansı | 1 GHz |
| CPU | 12 çekirdekli Arm® Cortex®-A78AE v8.2 64-bit CPU 3MB L2 + 6MB L3 |
| CPU Max Frekansı | 2 GHz |
| DL Hızlandırıcı | 2x NVDLA v2.0 |
| Görsel Hızlandırıcı | PVA v2.0 |
| Hafıza | 32GB 256-bit LPDDR5 204.8 GB/s |
| Depolama | 64GB eMMC 5.1 |
| CSI Kamera | En fazla 6 kamera (16 sanal kanal üzerinden*) 16 hat MIPI CSI-2 D-PHY 1.2 (en fazla 40Gbps) | C-PHY 1.1 (en fazla 164Gbps) |
| Video Kodlama | 2x 4K60 | 4x 4K30 | 8x 1080p60 | 16x 1080p30 (H.265) |
| Video Çözme | 1x 8K30 | 3x 4K60 | 6x 4K30 | 12x 1080p60| 24x 1080p30 (H.265) |
| UPHY | 2 x8 (veya 1×8 + 2×4), 1 x4, 2 x1 (PCIe Gen4, Root Port & Endpoint) 3x USB 3.2 Tek hat UFS |
| Ağ | 1x GbE 4x 10GbE |
| Ekran | 1x 8K60 çok modlu DP 1.4a (+MST)/eDP 1.4a/HDMI 2.1 |
| Diğer G/Ç | 4x USB 2.0 4x UART, 3x SPI, 4x I2S, 8x I2C, 2x CAN, DMIC & DSPK, GPIO’lar |
| Güç | 15W | 30W | 50W |
| Mekanik | 100mm x 87mm 699-pin Molex Mirror Mezz Connector Entegre Termal Transfer Plakası |
Jetson AGX Orin Referans Taşıyıcı Kartı
| Kamera | 16 hat MIPI CSI-2 konektörü |
| PCIe | x16 PCIe yuvası, x8 PCIe Gen4’ü destekler |
| RJ45 | En fazla 10 GbE |
| M.2 Anahtar M | x4 PCIe Gen 4 |
| USB Type-C | 2x USB 3.2 Gen2, USB-PD desteği ile |
| USB Type-A | 4x USB 3.2 Gen2 |
| USB Micro-B | USB 2.0 |
| DisplayPort | DisplayPort 1.4a (+MST) |
| microSD yuvası | UHS-1 kartlar, SDR104 moduna kadar |
| Diğer | 40-pin başlık (I2C, GPIO, SPI, CAN, I2S, UART, DMIC) 12-pin otomasyon başlığı, 10-pin ses paneli başlığı 10-pin JTAG başlığı 4-pin fan başlığı 2-pin RTC pil yedekleme konektörü DC güç jakı Güç, Kurtarma Zorla ve Sıfırlama düğmeleri |
| Boyutlar | 110mm x 110mm x 71.65mm (Yükseklik ayaklar, taşıyıcı kart, modül ve termal çözümü içerir) |
Yeni Jetson AGX Orin modülü hakkında daha fazla bilgi edinmek için teknik brifingi kontrol etmenizi öneririz.
Gerekli ML araçları ile Jetson Yazılımına başlayın
Jetson Platformu, bir sonraki AI ürününüzü hızlı bir şekilde piyasaya sürmek için gerekli tüm ML araçlarını içerir. Yazılım yığınının temelinde, JetPack SDK, önyükleme yükleyici, Linux çekirdeği, sürücüler, araç zincirleri ve Ubuntu tabanlı bir referans dosya sistemi ile birlikte Tahta Destek Paketi (BSP) içerir.
Jetson Yazılımı, JetPack SDK, NVIDIA NGC™ kataloğundan TAO & Önceden Eğitilmiş AI Modelleri, Triton Çıkarım Sunucusu, NVIDIA Riva, DeepStream SDK ve NVIDIA Isaac’tan oluşmaktadır. Jetson AGX Orin ile uygulama yapmadan önce daha ayrıntılı bir açıklama için Jetson Yazılımı web sitesini kontrol edebilirsiniz.
Jetson yazılımı ayrıca konteynerleri ve konteyner orkestrasyonunu destekler; bu, bulut yerelini kenara getirir. NVIDIA JetPack, Jetson platformunda GPU hızlandırmalı konteynerleştirilmiş uygulamalar için Docker entegrasyonu ile birlikte NVIDIA Container Runtime’ı içerir. NVIDIA Triton™ Çıkarım Sunucusu ile, AI üretimi için modellerin dağıtımını da basitleştirebilirsiniz.
NVIDIA TensorRT ve cuDNN kullanarak GPU’da çıkarımı hızlandırın
NVIDIA® TensorRT™ yüksek performanslı derin öğrenme çıkarımı için bir SDK’dır. Düşük gecikme süresi ve yüksek verimlilik sunan bir derin öğrenme çıkarım optimizasyoncusu ve çalışma zamanı içerir.
TensorRT ile geliştiriciler, çıkarım dağıtımı için performans ayarlamaları yapmak yerine yenilikçi AI destekli uygulamalar yaratmaya odaklanabilirler.
cuDNN (CUDA Derin Sinir Ağı kütüphanesi), derin sinir ağları için NVIDIA tarafından geliştirilen bir hızlandırma kütüphanesidir. Derin sinir ağları için bir GPU hızlandırma kütüphanesidir. cuDNN, sinir ağlarını eğitmeye ve yazılım uygulamaları geliştirmeye odaklanmış yüksek performanslı GPU hızlandırmasını sağlar.
Yeni Jetpack 5.0
Jetson yazılım yol haritasına göre, JetPack 5.0 (mevcut en son sürüm JetPack 4.6.1) Ubuntu 20.04’ü kuracak, Orin ve Xavier Jetson modüllerini destekleyecek. JetPack 5.0 önizleme sürümü 2022’nin 1. çeyreği için hedefleniyor ve üretim sürümü 2022’nin ikinci yarısı için planlanıyor.
Yeni nesil otonom makineler için
200 TOPS AI işlem gücüne sahip Jetson AGX Orin Modülü ile (AGX Xavier’ın 32 TOPS’ına kıyasla) geliştirici kitinde, geliştiriciler, üretim, lojistik, perakende, hizmet, tarım, akıllı şehir, sağlık hizmetleri ve yaşam bilimleri için kenar AI uygulamalarında zorlu sorunları çözmek için makine öğrenimi modellerini dağıtabilirler.
Otonom sürüş araçları
Girişim ortamında “gerçek zamanlı kritik” otonom sürüş araçları gibi robotik sistemler genellikle milisaniye içinde yanıt vermek zorundadır ve bu, çok sayıda TOPS ile mümkündür. Otonom sürüş araçlarının altı seviyesi vardır – L0 (otomasyon yok), L1 (sürücü yardımı), L2 (kısmi otomasyon), L3 (koşullu otomasyon), L4 (yüksek otomasyon) ve L5 (tam otomasyon) ve her bir otonom sürüş aracı seviyesi için gereken bilgisayar gücü L2 için 10 TOPS’tan az, L3 için 30 ila 60 TOPS, L4 için 100 TOPS’tan fazla ve L5 için yaklaşık 1,000 TOPS tahmin edilmektedir.
Perakende
NVIDIA Jetson platformunda Makine Öğrenimi yeteneklerini kullanarak, stok yönetimi için tahmin doğruluğunu artırabilir. Bu, tedarik zincirinin optimize edilmesi üzerinde önemli bir etki yaratır. Makine Öğrenimi algoritmaları, perakendecilerin mağazalarındaki ürünlerin talebini daha verimli bir şekilde tahmin etmelerini ve alışverişçi trendlerine göre yeniden stoklamalarını sağlamak için NVIDIA’nın RAPIDS açık kaynak veri işleme ve makine öğrenimi kütüphaneleri ile daha hızlı eğitilebilir. Bu, ölçekli envanter maliyet tasarrufu sağlar.
Üretim
Üretim fabrikaları, üretim yeteneklerini otomatikleştirmek için NVIDIA’nın açık Isaac robotik yazılım platformu mimarisini kullanıyor. Gelişmiş lojistik robotlar sayesinde, malzemelerin otonom olarak taşınması sağlanırken, manipülasyon robotları parçaları seçip düzenliyor.
Trafik
AI geliştirme süreci, mevcut toplanmış trafik veri seti ile NGC’den önceden eğitilmiş TrafficCamNet modeli ve NVIDIA TAO Toolkit ile Jetson NVIDIA Jetson kenar AI platformunda hızlandırılabilir. Bu, geliştirme süresini sadece birkaç haftaya indirmeye yardımcı oldu, şehre otomatik olarak tespit eden, sayan, hız ölçen ve yaya, bisiklet ve araç yoğunluğunu takip eden bir trafik güvenliği çözümü sunarak.
Sağlık hizmetleri
Çok modlu AI ile akıllı sensörlerin geliştirilmesi ve dağıtımı, NVIDIA Clara™ Guardian, bir uygulama çerçevesi ve ortak ekosistem ile hızlandırılabilir. Clara Guardian, sosyal mesafe, ateş taraması, koruyucu ekipman tespiti ve yüksek riskli hasta izleme yoluyla güvenliği sağlamak için gerçek zamanlı içgörüler sunar ve akıllı video analitiği ve konuşma AI yeteneklerini birleştirir.
Seeed’de, NVIDIA Jetson Platforması ile çalışmak için ihtiyacınız olan her şeyi bulacaksınız – resmi NVIDIA Jetson Geliştirici Kitleri, Seeed tasarımı taşıyıcı kartlar ve kitler, ayrıca üçüncü taraf kartlar ve aksesuarlar.
Seeed, Jetson ürün serisi üzerinde çalışmaya devam edecek ve ortaklarımızın benzersiz becerilerini Seeed’in donanım uzmanlığı ile birleştirerek uçtan uca bir çözüm sunmaya hazır olacaktır.