NVIDIA, çok beklenen Jetpack 6’yı piyasaya sürdü; bu, kenar AI çözüm geliştirmelerinde daha fazla ilerlemeyi işaret eden heyecan verici bir gelişme. Temelde, JetPack, Jetson Linux’un (L4T, BSP + sürücüler ve bazı temel paketler) ve JetPack bileşenlerinin (CUDA, cuDNN, TensorRT paketleri vb.) bir kombinasyonu olarak düşünülebilir. Bu JetPack bileşenlerini seçerek kurabilir veya minimal bir yapılandırma elde etmek için Ubuntu GUI ile ilgili paketleri kaldırabilirsiniz.
Şimdi daha derinlemesine inceleyelim!
Jetpack Yol Haritası
Jetpack 4, 2024’te son sürümü 4.6.1’i piyasaya sürecek ve ardından yaşam döngüsünün sonuna ulaşacak. Jetson Xavier NX kullanan müşterilerin, devam eden destek için Jetpack 5’e yükseltmeleri şiddetle önerilmektedir. Bir sonraki sürümle birlikte, Jetpack 5 güvenlik düzeltmeleri ve kritik güncellemeler üzerine odaklanacak. Bu arada, gelecekteki Jetpack 6 sürümleri yeni özellikler ve hesaplama güncellemeleri sunacak ve yaşam döngüsü esasen beş yıl sürecektir.
Jetpack 6 Yayını
Öne Çıkanlar
- Jetpack 6, Linux çekirdek seçimi (Kernel 5.15 ve üzeri) ve Linux Kernel 5.15 ve Ubuntu 22.04 tabanlı kök dosya sistemi ile Jetson Linux 36.2’de daha fazla esneklik sunar.
- Geliştiriciler artık özel çekirdekler kullanma özgürlüğüne sahiptir; 5.0 veya daha yüksek sürümlerle.
- Yayın ayrıca, Jetpack’ten bağımsız olarak güncellenebilen en son CUDA-X hesaplama yığını ile Canonical gibi ortaklardan daha geniş bir Linux tabanlı dağıtım seçeneği sunar.
JetPack 6’nın geliştirici önizlemesi, kernel 5.15, CUDA 12.2 ve TensorRT 8.6’yı tanıtmaktadır. Ancak, henüz üretim için hazır değildir ve güvenlik özellikleri ile OTA yeteneklerinden yoksundur. Bunlar, Mart 2024’te piyasaya sürülmesi planlanan ana üretim sürümünde yer alacaktır. JetPack 6.1’in 2024’ün 3. çeyreğinde çıkması planlanmaktadır ve bu arada JetPack 5 sürümleri yayınlanmaya devam edecektir.
Kendi Çekirdeğinizi Getirin
NVIDIA, ticari Linux dağıtımlarını desteklemek için birkaç yıldır yukarı akış çekirdeğine katkıda bulunmaktadır. Kendi çekirdeğinizi kullanmak için, ilk yamanın listesini belirlemeniz ve sürücüler için bir dizi ağaç dışı modül oluşturmanız gerekecektir. Ayrıca, resmi NVIDIA sürümündeki çekirdeği incelemek ve ek gerekli yamaları gözden geçirmek de önemlidir.
Jetson’daki Linux Dağıtımları
JetPack 6, kutudan çıkar çıkmaz Jetson Linux’u içerir, ancak Jetson ekosistem ortakları, Jetson üzerinde çeşitli Linux tabanlı dağıtımlar sunmaktadır, bunlar arasında:
- Canonical Ubuntu: Canonical tarafından sunulan Ubuntu 22.04.
- Red Hat: Red Hat tarafından sunulan Red Hat Enterprise Linux 9.3.
- Windriver: Windriver’dan ticari gömülü Linux işletim sistemi.
- RedHawk: Kritik görevler için gerçek zamanlı Linux işletim sistemi.
- Yocto tabanlı dağıtımlar ve meta-Tegra’yı kullanan hizmetler, ekosistem ortakları tarafından sunulmaktadır.
- Balena, Foundaries.io & TimeSys.
Yükseltilebilir Hesaplama Yığını
JetPack 6, Jetson destekli sistemler geliştirmek için önemli bir ilerleme olan yükseltilebilir bir hesaplama yığını tanıtmaktadır. Geleneksel olarak, sistem ekipleri, Üretim Desteği Paketlerini (BSP’ler) doğrulayarak ve güvenlik ile OTA özelliklerini etkinleştirerek üretime hazırlanır. Aynı zamanda, uygulama ekipleri, genellikle en son AI yığını gerektiren geliştirme kitleri kullanarak AI modelleri ve uygulamaları üzerinde çalışır.
Daha önce, en son AI yığınına erişmek, en yeni JetPack sürümüne geçiş yapmak anlamına geliyordu; bu da hesaplama yığını ile BSP’yi birbirine bağlayarak bir bağımlılık oluşturuyordu. JetPack 6, hesaplama yığını ile BSP’yi ayırarak bu durumu çözüyor. Bu değişiklik, uygulama ekiplerinin en son AI hesaplama yığınına bağımsız olarak yükseltmelerine olanak tanır; böylece BSP güncellemelerini beklemeden geliştirmeyi hızlandırır ve bağımlılıkları azaltır.
Jetpack 6’yı JetPack 5’ten Taşıma
Taşınırken, 5.10’dan 5.15’e çekirdek değişikliğini ve dosya sistemi güncellemesini not edin. Güvenilir OS değişmeden kalır, güç performansı ve saatleme tutarlılığını sağlar. Kamera sürücüleri artık “ağaç dışı” sürücüler olarak paketlenmiştir ve multimedya, grafik ve güvenlikte minimal değişiklikler vardır.
Üretim durumları için, yerinde Jetson cihaz filolarını yönetmek amacıyla NVIDIA, farklı ana sürümler arasında geçiş yapabileceğiniz görüntü tabanlı OTA araçları sağlayacaktır. Müşterilerimiz ayrıca, bu araçlarla entegre edilebilen ekosistem ortaklarımız tarafından sunulan bir dizi cihaz yönetim aracı sunmaktadır.
Testlerimize dayanarak, görüntüyü flaşlarken karşılaşabileceğiniz bazı sorunlar şunlardır. Jetpack geliştirici önizlemesi henüz bir üretim sürümü değildir ve Seeed Jetson cihazları için BSP’yi koruma konusunda geliştiricilerin önerileri çok önemlidir. Geri bildiriminizi bekliyoruz.
Sistem Kullanılabilirliği ve Flaşlama
Jetpack 6 Geliştirici Önizlemesinde bazı kullanılabilirlik ve flaşlama sorunları vardır. Örneğin, Jetson AGX Orin geliştirme kitleri duraklatıldıktan sonra doğru bir şekilde devam etmeyebilir ve rtl8822ce WiFi sürücüsünü kullanan Jetson cihazları TLP paket format hataları yaşayabilir. Bunu çözmek için lütfen cihazı yeniden başlatın.
Flaşlama sorunları için, kurulum için kullanılan Linux ana bilgisayarında qemu-user-static paketini güncellemeniz önerilir.
Kamera
Jetson Orin NX ve Jetson Orin Nano cihazları ile IMX219 veya IMX477 kameraları kullanırken, gstreamer nvarguscamera öğesinde doğru sensor-id’yi belirtmek önemlidir.
Daha iyi stabilite ve performans için, JetPack 6.0’ın bir geliştirici önizleme sürümü olduğunu ve üretim için tasarlanmadığını unutmayın. JetPack 6 yazılım yığını ile Jetson Orin üzerinde geliştirmeye başlamak için hazırdır. Bu sürüm, herhangi bir güvenlik özelliği veya OTA özelliği içermez. JetPack 6’nın üretim kalitesindeki sürümü Mart 2024 için hedeflenmiştir ve güvenlik ve OTA özellikleri ile birlikte üretim kalitesinde bir yığın içerecektir. Bilinen sorunlar ve diğer detaylar için lütfen JetPack 6.0 Geliştirici Önizleme Sürüm Notlarını dikkatlice okuyun. Seeed Studio’nun teknik destek ekibi, profesyonel rehberlik sağlamak için hazırdır.
Jetpack 6 Tabanlı Gen AI Uygulamaları Geliştirin
Transformer modelini ve büyük dil modelini birleştirerek, üretken AI, geleneksel konvolüsyonel sinir ağına dayalı modelin ötesine geçer ve daha esnek bir şekilde algılama, segmentasyon, izleme ve arama yapabilir. İnsan dilinin anlaşılmasına dayalı olarak, modeli geliştirme ve kenar AI’nın geliştirilmesi, dağıtımı ve yönetimini basitleştirmek için kullanılabilirliği önemli ölçüde artırır. Üretken modeller ve kullanım durumları artık Üretken AI Lab‘da deneyimlenebilir; bu laboratuvar ayrıca Jetpack 6’yı destekler ve metin üretimi, LLaVa, görsel transformerlar, görüntü/video arama ve daha fazlası hakkında eğitimler sunar.
Metropolis Mikroservisi: Görüş AI çözümü oluşturma için bulut yerel mikroservislerin benzersiz bir seti.
Metropolis Mikroservisi, Jetson uygulamalarına üretken AI ve çok modlu yaklaşımlar dahil olmak üzere AI yeteneklerini sorunsuz bir şekilde entegre ederek, çoklu kamera izleme ve az sayıda örnek öğrenme gibi karmaşık görevleri yerine getirmek için kurumsal kullanıcılar için görüş AI destekli çözümler sunar; kritik operasyonel verimlilik ve güvenlik sorunlarını iyileştirir.
“`html
Bu platform, geliştiricilerin karmaşık görsel tabanlı uygulamaları hızlı bir şekilde geliştirmeleri için güçlü bir API ve mikro hizmet seti sunar. Jetson üzerindeki Metropolis uçtan uca iş akışı ile LLM (Büyük Dil Modeli) mikro hizmetleri, doğal dil istemleri ile kolay etkileşim için bulutta veya Jetson üzerinde çalışabilir. Kullanıcılar, gelişmiş sıfır örnek çıkarım modellerini çalıştırabilir ve bunları dinamik olarak istemler kullanarak güncelleyebilir.
Önceden tanımlanmış uygulama yapısı ve mikro hizmet yapılandırmasının ötesinde, geliştiriciler önceden eğitilmiş modelleri, API’leri ve hatta mikro hizmet kodunu değiştirme esnekliğine sahiptir. NVIDIA TAO gibi kodsuz araçlar, AI modellerini yeniden eğitmeyi kolaylaştırarak süreci daha da basitleştirir. Bu güçlü ve özelleştirilebilir bulut yerel yapı taşlarını kullanarak bir sonraki Görüntü AI çözümünüzü oluşturma zamanı.
Seeed NVIDIA Jetson Ekosistemi
Seeed, NVIDIA Partner Network çerçevesinde kenar AI için bir Elite ortaktır. Daha fazla taşıyıcı kart, tam sistem cihazları, özelleştirme hizmetleri, kullanım durumları ve geliştirici araçları keşfetmek için Seeed’in NVIDIA Jetson ekosistemi sayfasını ziyaret edin.
Bizimle AI inovasyonunun ön saflarında yer alın! Keskin donanım ve teknolojinin gücünü kullanarak makine öğreniminin gerçek dünyada çeşitli endüstrilerde uygulanmasını devrim niteliğinde değiştirin. Geliştiricilere ve işletmelere mevcut en iyi ML çözümlerini sağlama misyonumuzun bir parçası olun. Daha fazla kenar AI olasılıklarını keşfetmek için başarı vakası çalışma kataloğumuzu gözden geçirin!
İlk adımı atın ve bu heyecan verici yolculuğun bir parçası olmak için bize bir e-posta gönderin: edgeai@seeed.cc !
Size uygun bir seçenek bulmak için en son Jetson ürün Kataloğumuzu indirin. İhtiyaçlarınız için hazır Jetson donanım çözümünü bulamazsanız, lütfen özelleştirme hizmetlerimizi kontrol edin ve değerlendirme için yeni bir ürün talebi gönderin: odm@seeed.cc
“`