Haberler

JetPack 7.2: Platform-Level Reset ve Agentic AI’nin Yeni Dönemi

NVIDIA, JetPack 7.2’yi resmi olarak duyurdu. Bu, sıradan bir yineleme güncellemesinden çok daha fazlasıdır; tam anlamıyla bir “Platform Sıfırlama.” temsil eder. Temel misyonu, Jetson’u “modelleri çalıştırabilen bir geliştirme kartı” olmaktan çıkarıp “üretim kalitesinde bir kenar düğümü” haline getirmektir; bu sayede çoklu ajan sistemleri, bölümlendirme ve yeniden üretilebilir yapılar dağıtılabilir. NVIDIA’nın seçkin bir ortağı olarak, Seeed Studio, Jetson Orin serimizin bu önemli güncelleme ile tamamen uyumlu olduğunu duyurmaktan heyecan duyuyor.

Bu sürüm, yalnızca NemoClaw ve devrim niteliğindeki Agent Skills için kutudan çıkar çıkmaz destek sağlamakla kalmaz, aynı zamanda AI çıkarım verimliliğini ve kenar cihazları için üretim dağıtım yeteneklerini, tam yığın bileşen yükseltmeleri ve sistem düzeyinde optimizasyonlar aracılığıyla önemli ölçüde artırır.

📦 Orin “Aile Sepeti” JetPack 7 Çağına Girdi

7.x ürün serisinde ilk kez, JetPack 7.2, Jetson Orin ailesinin tamamını (AGX Orin / Orin NX / Orin Nano) desteklemektedir. Bu, mevcut Orin cihazlarının artık gelecekteki Thor platformuyla aynı işletim sistemi, konteyner ve BSP temeline sahip olacağı anlamına gelir. Seeed geliştiricileri için bu, çapraz sürüm bakım maliyetlerini ortadan kaldırır ve Orin serisine Ubuntu 24.04 LTS için tam yaşam döngüsü desteği sağlar.

Tam Yığın Bileşen Yükseltmesi

JetPack 7.2, Jetson Orin serisine Ubuntu 24.04 LTS ve Linux Kernel 6.8 tabanlı birleşik bir hesaplama yığını sunarak, temel bileşenler için önemli bir sıçrama işaret eder:

Bileşen JetPack 7.2 JetPack 6.2 (Ref)
Jetson Linux / L4T 39.2 36.4.3
Ubuntu rootfs 24.04 LTS 22.04 LTS
Linux Kernel 6.8 5.15
CUDA 13.2.1 12.6
TensorRT 10.16.2 8.6 / 10.x
DeepStream 8 6.4

Data Center CUDA 13 ile bu uyum, çapraz platform taşınmasında sürüm farkını önemli ölçüde azaltarak, x86/Arm sunucu kodunu kenara taşımak için maliyeti büyük ölçüde düşürmektedir.

Mimari Evrim & Kurulum Değişiklikleri

JetPack 7.2, Orin’i SBSA (Server Base System Architecture) temel standardı ile uyumlu hale getirir. AGX Orin’i R39.2’ye flaşladıktan sonra, yeniden paketleme olmadan doğrudan ana akım Arm64 konteynerlerini (örneğin, yukarı akış vLLM konteynerleri) çalıştırabilir.

⚠️ Kritik Göç Notları:

  • Birleşik ISO Kurulumu: Orin Nano Geliştirici Kiti artık bir SD kart görüntüsü sağlamamaktadır. Sistem dağıtımı için USB ISO yükleyicisini kullanmalısınız.
  • Hiçbir apt upgrade yok: JetPack 6’dan 7’ye geçiş, büyük bir işletim sistemi ve çekirdek yükseltmesidir. Basitçe apt upgrade çalıştırmayın. Lütfen OTA paketini kullanın veya ISO/BSP aracılığıyla tam bir flaş gerçekleştirin.
  • Motor Yeniden Derlemesi Gerekli: CUDA 13 / TensorRT 10.16 ile oluşturulan motorlar eski sürümlerle uyumsuzdur. Mevcut modellerin yeniden derlenmesi gerekmektedir.

⚡ Performans Serbest Bırakıldı: Süper Mod & Bellek Verimliliği Devrimi

JetPack 7.2, Jetson donanımının tam potansiyelini serbest bırakmak için tasarlanmış derin alt katman optimizasyonları içerir. Yaklaşan reComputer mini J5011 de Jetpack 7.2 süper modunu desteklemektedir.

Daha fazla bilgi için buraya tıklayın.

reComputer Robotics j5011-AGX Orin 32GB Süper Mod Açıklaması

Bütçe dostu projeler için Süper Mod, son derece maliyet etkin bir “tatlı nokta” yapılandırması sunar. MAXN_SUPER modunu etkinleştirerek, 32GB modül 64GB sürümünün performansına yaklaşabilir:

  • AI Performansı: 200 TOPS’tan 241 TOPS‘a (↑ 20.5%) arttı.
  • GPU Frekansı Açık: 930 MHz’den 1300 MHz‘e (↑ 39.8%) yükseldi.
  • Maliyet Avantajı: Modül maliyeti, 64GB sürümüne göre yaklaşık %45 daha düşüktür ve güç limiti 60W’a çıkarılmıştır.

Edge LLM Çıkarım Testi: Bellek Kullanımı %40 Azaldı

Üretken AI senaryolarındaki performans kazançlarını sezgisel olarak göstermek için, AGX Orin 32GB kullanarak Qwen3.5-27B-Q4_K_M modeli üzerinde çıkarım testleri gerçekleştirdik. TensorRT-Edge-LLM 0.8.0(CUDA 13 optimizasyonları ve Süper Mod’un sağladığı artırılmış hesaplama performansı ile desteklenmektedir) sayesinde etkileyici sonuçlar elde ettik:

Metri̇k JetPack 6.2 JetPack 7.2 Gelişme
Bellek Kullanımı 24.6 GB 14.7 GB 📉 ~%40 Azalma
İstek İşleme 18.2 tok/s 25.8 tok/s 🚀 %41.8 Daha Hızlı
Token Üretimi 4.3 tok/s 5.5 tok/s 🚀 %27.9 Daha Hızlı

Geri kazanılan ~10GB bellek, çoklu hizmetlerin birlikte dağıtımını mümkün kılarak, GR00T N1.7 çift modüllü VLA’nın Orin üzerinde tamamen yüklenmesine olanak tanır.

🤖 Ajanik AI: NemoClaw’dan Cihaz Becerilerine

JetPack 7.2, kenar AI geliştirme paradigmasını “insanların kod yazması ve manuel ayarlama yapması” anlayışından “AI ajanlarının donanımı otonom olarak kontrol etmesine” kaydırmaktadır.

NemoClaw Tek Tıklama ile Dağıtım

JetPack 7.2’den önce, NemoClaw çalıştırmak genellikle manuel çekirdek yükseltmeleri veya karmaşık ortam yapılandırmaları gerektiriyordu. Artık tüm bağımlılıklar ve yazılım yığınları önceden yapılandırılmıştır. Seeed Jetson cihazınızda NemoClaw iş akışını başlatmak için terminalinizde aşağıdaki komutu çalıştırın:

curl -fsSL nvidia.com/nemoclaw.sh | bash

Jetson Cihaz Becerileri: Ajanlara Donanım Kontrolü Sağlamak

NVIDIA, kenar cihazları için özel olarak tasarlanmış yerel becerilerden oluşan jetson-device-skills deposunu açık kaynak olarak sunmuştur. Bu beceriler, AI ajanlarının donanım bilgilerini otonom olarak okumasını, otomatik olarak optimize etmesini ve modelleri tek tıklama ile dağıtmasını sağlar. Ana beceriler şunlardır:

  • jetson-diagnostic: Tıkanıklıkları hızlı bir şekilde belirlemek için bir tıklama ile tam cihaz durumunu (model, GPU bellek yükü, sıcaklık, yüksek kullanımda olan süreçler) çıktılar.
  • jetson-memory-audit: Sistem DRAM ve NvMap GPU bellek kullanımını hassas bir şekilde hesaplar, uzun süreli çalışmada bellek sızıntısı sorunlarını çözer.
  • jetson-inference-mem-tune: vLLM, SGLang ve llama.cpp gibi ana akım motorlar için özel bellek parametrelerini otomatik olarak önerir.
  • jetson-llm-benchmark: Yapılandırılmış performans metriklerini tek tip olarak çıktılar, token üretim hızını ve gecikmeyi otomatik olarak hesaplayarak kolay model karşılaştırması sağlar.
  • jetson-speculative-decoding: Jetson’a özel EAGLE-3 spekülatif kodlama yapılandırmalarını sağlar, küçük belleğe sahip cihazlarda üretim hızlarını önemli ölçüde artırır.

Daha önce haftalar süren manuel hata ayıklama ve optimizasyon gerektiren görevler, artık AI ajanlarının bu becerileri kullanarak günler içinde tamamlanabilir.

🛡️ Üretim Kalitesinde Güvenlik: Başlangıçtan Disk’e Tam Kapsama

Endüstriyel ve otomotiv sektörlerinin güven zincirleri, hileye karşı direnç ve güvenli güncellemeler taleplerini karşılamak için, JetPack 7.2 altı katmanlı bir güvenlik mimarisi sunmaktadır:

  1. Boot Katmanı: Güvenli Boot PKC, bootloader ve çekirdek imzalarının özel bir anahtar ile imzalanmasını sağlamak için fuse’lara dayalı RSA genel anahtar hash’lerini yakma.
  2. UEFI Katmanı: UEFI Güvenli Boot, extlinux.conf ve çekirdek görüntüleri gibi UEFI yüklerini doğrulama.
  3. TEE Katmanı: Güvenli anahtar depolama ve Güvenilir Uygulamaları çalıştırmak için OP-TEE Güvenilir Çalışma Ortamı.
  4. Disk Katmanı: Fiziksel çıkarımı önlemek için OTP’de depolanan şifreleme anahtarları ile NVLuks / LUKS statik veri şifrelemesi.
  5. Güncelleme Katmanı: Mender / RAUC aracılığıyla atomik A/B bölüm güncellemelerini destekler, başarısızlık durumunda otomatik geri alma ile.
  6. Filoya Katmanı: Balena / Peridio ile birleştirilmiş uzaktan görüntü dağıtımı ve cihaz yönetimi.

🏁 Seeed Geliştirici Araçları ile Hızla Başlayın

JetPack 6.x’tan yeni JetPack 7.2’ye mümkün olan en hızlı şekilde geçiş yapmanıza yardımcı olmak için Seeed Studio, kullanışlı geliştirici araçları sunmaktadır. Seeed Geliştirici Aracı ile BSP flaşlama ve sistem geçiş sürecini basitleştirebilirsiniz. Bu araç, en son JetPack 7.2 görüntülerine tamamen uyumlu olup, Seeed Jetson cihazlarınızı tek tıklama ile en son sisteme OTA yapmanızı sağlar ve Agentic AI ve üretim kalitesinde güvenlik mimarisinin güçlü özelliklerini hemen deneyimlemenizi sağlar.

Bugün Seeed Jetson cihazınızı yükseltin ve JetPack 7.2’nin sunduğu sonsuz olanakları keşfedin!

Leave a Reply

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir