Haberler

NVIDIA JetPack 7.2 Sürümü: Agentic AI Jetson AGX Orin’e Geliyor

NVIDIA JetPack 7.2, sıradan bir yazılım güncellemesinden daha fazlasıdır. JetPack 6.2, Jetson Orin’den daha fazla AI performansı elde etmeye odaklanırken, JetPack 7.2, Agentic AI, robotik ve üretim ölçeğinde kenar dağıtımları için tasarlanmış yeni bir yazılım temeli sunmaktadır.

Ubuntu 24.04, Linux Kernel 6.8 ve CUDA 13 üzerine inşa edilen JetPack 7.2, tüm Jetson Orin ailesine en son hesaplama yığınını getirirken, Jetson Agent Skills, NemoClaw desteği, resmi Yocto entegrasyonu ve Jetson AGX Orin 32GB için geliştirilmiş performans gibi yeni yetenekler eklemektedir.

Peki, JetPack 6.2’den 7.2’ye geçiş yapan geliştiriciler için gerçekten önemli olan nedir?

Jetson Artık Agentic AI İçin Hazır

JetPack 7.2’nin en büyük teması Agentic AI’dır.

NVIDIA, Jetson’u akıl yürütebilen, plan yapabilen ve fiziksel dünya ile etkileşimde bulunabilen AI ajanlarını barındırabilen bir platform olarak konumlandırmaktadır.

JetPack 7.2, iki büyük ekleme sunmaktadır:

  • NVIDIA NemoClaw’un tek komutla dağıtımı
  • Linux özelleştirmesi, bellek optimizasyonu, performans ayarı ve model benchmark’ı gibi görevlerde yardımcı olan Jetson Agent Skills.

Her adımı manuel olarak yapılandırmak yerine, geliştiriciler dağıtımı hızlandırmak ve mühendislik çabasını azaltmak için AI destekli iş akışlarından yararlanabilirler.

Yeni Bir Yazılım Temeli: Ubuntu 24.04 + CUDA 13

JetPack 7.2, tüm Jetson yazılım yığınını yükseltmektedir:

JetPack 6.2 JetPack 7.2
Ubuntu 22.04 Ubuntu 24.04
Linux Kernel 5.15 Linux Kernel 6.8
CUDA 12.x CUDA 13
Jetson Linux 36.x Jetson Linux 39.2

JetPack 7.2, Jetson Orin ve gelecekteki Jetson Thor platformları arasında yazılım temelini birleştirerek, geçiş çabasını azaltmakta ve uzun vadeli bakımı basitleştirmektedir. Geliştiriciler, farklı Jetson nesilleri arasında ölçeklenmesi daha kolay uygulamalar geliştirirken en son CUDA yeteneklerine erişebilirler.

JetPack 6.2 ve JetPack 7.2 ile yaptığımız testlerde, reComputer AGX Orin geliştirici paketi üzerinde aynı Jetson AGX Orin 32GB modülünü kullandık ve Qwen 3.5 27B modelinin LLM çıkarım yükü ile iki versiyon yazılım ortamını karşılaştırdık. Test sonuçlarının tamamını Seeed wiki kılavuzu üzerinden kontrol edebilirsiniz.

Öğe JetPack 6.2 testi JetPack 7.2 testi
Modül Jetson AGX Orin 32GB Jetson AGX Orin 32GB
Jetson Linux L4T 36.4.3 L4T 39.2
Ubuntu 22.04 24.04
CUDA 12.6 13.x
Çıkarım motoru llama.cpp llama.cpp
Model Qwen3.5-27B-Q4_K_M.gguf Qwen3.5-27B-Q4_K_M.gguf
Ana parametreler -ngl 999 -fa on -ub 512 -t 12 -ngl 999 -fa on -ub 512 -t 12

JetPack 7.2’nin model yüklemesinden sonra bellek kullanımını azalttığını ve hem istem işleme hızını hem de token üretim hızını artırdığını fark ettik.

Metrekare JetPack 6.2 JetPack 7.2 Gözlemlenen değişim
Model yüklemesinden sonraki bellek 24.6 GB / 30 GB 14.7 GB / 30 GB Yaklaşık %40 daha düşük
Çıkarım sırasında GPU frekansı 930 MHz 1.36 GHz Daha yüksek artırma frekansı
İstem işleme 18.2 token/s 25.8 token/s Yaklaşık %41.8 daha hızlı
Token üretimi 4.3 token/s 5.5 token/s Yaklaşık %27.9 daha hızlı

En pratik iyileştirme, bellek başlığıdır. JetPack 6.2’de, 27B modeli yüklemeden hemen sonra mevcut sistem belleğinin çoğunu kaplamaktaydı. JetPack 7.2’de, sistem yaklaşık 10 GB ek boş bellek korumakta ve LLM yükü ile birlikte görsel ön işleme, robotik ara yazılım veya diğer hizmetler gibi eşzamanlı iş yükleri için önemli ölçüde daha fazla alan bırakmaktadır.

JetPack 6.x’den JetPack 7.x’e geçiş gibi büyük sürüm geçişleri için Jetson firmware indirme, flaşlama, cihaz bağlantısı ve OTA işlemleri için genel iş akışını tamamlamak üzere Seeed Jetson DevelopTool‘u bulabilirsiniz:

  • İlk açılış ayarını tamamlayın ve sistem sürümünü doğrulayın.
  • Seeed Jetson DevelopTool’u yükleyin ve açın.
  • Jetson ürününü veya taşıyıcı kart modelini seçin.
  • JetPack 7.2 ile eşleşen hedef L4T veya JetPack sürümünü seçin.
  • Araçtan BSP paketini indirin ve çıkarın.
  • Jetson cihazını Zor Kurtarma Moduna alın.
  • Host PC’den cihazı tespit edin.
  • Flaşlamayı başlatın ve cihaz yeniden başlatılana kadar bekleyin.

Resmi Yocto Desteği Nihayet Geldi

Endüstriyel müşteriler için en önemli güncellemelerden biri resmi Yocto desteğidir.

Tarihsel olarak, birçok üretim dağıtımı, özelleştirilmiş Jetson Linux dağıtımları oluşturmak için OE4T ve Meta-Tegra gibi topluluk tarafından sürdürülen projelere dayanıyordu.

JetPack 7.2 ile NVIDIA artık doğrulanmış tarifler, referans görüntüler, CI/CD bakımı ve belgeler dahil resmi Yocto desteği sunmaktadır.

Robotları, akıllı makineleri ve ölçekli kenar AI sistemlerini dağıtan şirketler için Yocto’nun birkaç avantajı vardır:

  • Daha küçük ve daha hafif sistem görüntüleri
  • Daha iyi yeniden üretilebilirlik
  • Daha kolay OTA yönetimi
  • Uzun vadeli bakım kolaylığı

Bu özellik, CUDA 13 veya Agentic AI kadar dikkat çekmese de, ticari dağıtım hazır olma durumu üzerinde en büyük etkiye sahip olduğu söylenebilir.

Mevcut Donanımdan Daha Fazla Performans

JetPack 7.2, yeni donanım gerektirmeden ek performans iyileştirmeleri de sunmaktadır.

En dikkat çekici güncelleme, Jetson AGX Orin 32GB için Super Mode’un tanıtılmasıdır; bu, AI performansını 200 TOPS’tan 241 TOPS’a çıkararak standart yapılandırmaya göre %20’den fazla bir iyileşme sağlamaktadır.

Aşağıdaki uygulamaları çalıştıran geliştiriciler için:

  • Görsel-dil modelleri (VLM’ler)
  • Robotik algılama hatları
  • Çoklu kamera uygulamaları
  • Kenar AI ajanları

Bu, aynı donanım platformunu korurken ek alan sağlamaktadır.

JetPack 7.2 ayrıca JetPack 7 yazılım yığınını tüm Jetson Orin ailesine genişleterek, Orin kullanıcılarının yeni bir donanım nesli beklemeden gelecekteki platform iyileştirmelerinden yararlanmasını sağlamaktadır.

JetPack 7.2 vs JetPack 6.2: Gerçek Fark

JetPack 6.2, Jetson Orin’den daha fazla performans elde etmekle ilgiliyken, JetPack 7.2, Jetson’u fiziksel AI uygulamalarının bir sonraki dalgasına hazırlamakla ilgilidir.

Başlıca özellikler—Agent Skills, NemoClaw, CUDA 13, Ubuntu 24.04 ve Yocto desteği—hepsi aynı yöne işaret etmektedir:

Jetson’u bir kenar çıkarım platformundan Agentic AI ve Fiziksel AI için üretime hazır bir platforma taşımak.

Robotlar, otonom makineler ve akıllı kenar sistemleri geliştiren geliştiriciler için JetPack 7.2, sadece başka bir SDK sürümü değildir. Bu, AI yerel gömülü hesaplama için bir sonraki neslin temeli olmaktadır.

Leave a Reply

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir