Trilyonlarca IoT Sensöründen Verileri Değerli İçgörülere Dönüştürün
Dünyada kullanılan bir milyardan fazla ağ kamerası ile, en yaygın kullanılan IoT sensörlerinden biri olan bu sistemler, birçok endüstri için kritik hale gelmiştir. Kenar (edge) tabanlı AI video analitiği, güvenliği artırmak, trafiği yönetmek ve kameralar aracılığıyla gerçek zamanlı veri toplamak için kullanılmaktadır; her bir kareyi analiz ederek önemli olayları çıkarır ve güvenli bir şekilde depolar. Bu, işletmelerin video akışlarından değerli içgörüler elde etmesine olanak tanır. Ancak, video içeriğinin büyük miktarı yönetilmesi zor bir durum yaratmaktadır. Analizden sorumlu ekipler, sınırlı zaman ve kaynaklar nedeniyle tüm görüntüleri gözden geçirmekte sıkıntı çekmekte ve insan hatası her zaman bir risk oluşturarak video verilerinin çoğunun yeterince kullanılmamasına neden olmaktadır.
Bu blogda, NVIDIA Jetson Orin platformunun video analitiği çözümlerinin geliştirilmesini nasıl hızlandırdığını tanıtacağız. Jetson’ın çoklu video akışlarını destekleyen donanım tasarımı ve performansını inceleyerek neden ideal bir seçim olduğunu açıklayacağız. Özellikle, NVIDIA’nın ekosistemi, işletmelerin ürünlerini pazara sunma mühendislik süresini hızlandırmaktadır. En son JetPack 6 güncellemesi, Jetson Platform Hizmetlerini tanıtarak, görsel AI uygulamaları oluşturmak için özelleştirilebilir yazılım ve yeniden kullanılabilir mikro hizmetlerin kapsamlı bir koleksiyonunu içeren modüler bir mimari sunmaktadır. Altyapı yetenekleri için temel hizmetler, içgörü üretmek için AI hizmetleri ve güvenli kenar-bulut bağlantısı için bir referans bulut sunmaktadır.
Donanım Tasarımı ve Performans: Çoklu Video Akışlarını Destekleme
NVIDIA Jetson Orin, çoklu kameraları ve karmaşık AI video analiz görevlerini yönetmek için ideal bir seçimdir; özellikle yüksek performans, düşük gecikme ve verimli, kompakt bir tasarımın kritik olduğu kenar bilişim senaryolarında. Sunucular büyük ölçekli dağıtımlar için ana akım seçim olmaya devam etse de, NVIDIA Jetson Orin, kenar bilişim senaryoları için dengeli bir çözüm sunarak yüksek gerçek zamanlı performans sağlar. Örneğin, Jetson Orin NX 16GB, 18 adet 1080p30 akışını yönetebilir, bu da süpermarket bölümleri, benzin istasyonları ve perakende mağazaları gibi orta ölçekli senaryolar için uygun hale getirir.
Kendine ait GPU’lara sahip kenar sunucuları genellikle video analitiği için kullanılır, çünkü büyük ölçekli video akışlarını, yüksek çözünürlüklü (4K) veya birden fazla 1080p video akışını işlemek üzere tasarlanmıştır. Ancak, 100 akıştan daha az olan küçük kurulumlar için ekonomik değildirler çünkü kenar sunucuları daha yüksek enerji tüketimi ile gelir ve daha karmaşık sistem entegrasyonu gerektirir. Öte yandan, mikrodenetleyiciler gibi düşük hesaplama gücüne sahip işlemciler, görsel AI çözümlerinde de popülerdir ancak gerçek zamanlı analitik gerektirmeyen ve yalnızca tek akış tespiti içeren senaryolar için uygundur. Bu işlemciler genellikle video akışları yerine görüntü verisi gönderir, bu da onları karmaşık, gerçek zamanlı video analiz görevleri için daha az uygun hale getirir.
Projeniz için uygun kare hızlarını ve bir cihaza bağlanabilecek maksimum kamera sayısını belirlemek için, lütfen kamera sayısını model performans karşılaştırması ile ilgili wiki eğitimimize göz atın.
| Model | AI Performansı (TOPS) | CPU | Video Çözme | Güç Tüketimi |
| Orin Nano 4GB | 20 TOPS | 6 çekirdekli Arm Cortex-A78AE v8.2 64-bit CPU 1.5MB L2 + 4MB L3 | 2x 4K30 11x 1080p30’a kadar |
5W – 10W |
| Orin Nano 8GB | 40 TOPS | 6 çekirdekli Arm Cortex-A78AE v8.2 64-bit CPU 1.5MB L2 + 4MB L3 | 2x 4K30 11x 1080p30’a kadar |
7W – 15W |
| Orin NX 8GB | 70 TOPS | 6 çekirdekli A78 Arm V8 1.5MB L2 + 4MB L3 | 4x 4K60 | 25W’a kadar |
| Orin NX 16GB | 100 TOPS | 8 çekirdekli A78 Arm V8 2MB L2 + 4MB L3 | 8x 4K60 | 25W’a kadar |
| AGX Orin 32GB | 200 TOPS | 8 çekirdekli A78 Arm V8 2MB L2 + 4MB L3 | 16x 4K60 32x 1080p30’a kadar |
60W’a kadar |
| AGX Orin 64GB | 275 TOPS | 12 çekirdekli A78 Arm V8 3MB L2 + 6MB L3 | 32x 4K60 64x 1080p30’a kadar |
60W’a kadar |
Paralel İşlemeyi Serbest Bırakma: Birden Fazla Derin Öğrenme Modelini Çalıştırma
NVIDIA Jetson Orin serisi, paralel hesaplamada mükemmel performans gösterecek şekilde tasarlanmıştır ve güçlü eşzamanlı işleme yetenekleri sunar. Örneğin, trafik akış analizi ve blok programlama için bir video analitiği çözümünü düşünün. Bu kadar karmaşık bir görev, tek bir nesne tespit modeli ile ele alınamaz. Mevcut trafik durumunu kapsamlı bir şekilde anlamak için, yoğunluk tahmini, trafik akış analizi, araç sayımı, sınıflandırma, plaka tanıma, yasadışı dönüş tespiti ve yaya tespiti gibi birden fazla AI görevinin entegre edilmesi gerekmektedir. Her görev, belirli bir AI modeli veya algoritması gerektirir. Bu nedenle, kritik soru şudur: kenar cihazınız birden fazla modeli eşzamanlı olarak çalıştırdığında nasıl performans gösteriyor?
Jetson Orin serisi, 275 TOPS’a kadar AI performansı sunarak (bkz. Jetson MLPerf İnferans Karşılaştırması), çoğu diğer gömülü AI sistemlerinden daha üstün GPU yeteneklerine sahiptir. Bu önemli AI yeteneği, yalnızca bilgisayarla görme modellerini değil, aynı zamanda Görsel Dil Modelleri (VLM’ler) gibi büyük modelleri de çalıştırmasına olanak tanır; bu modeller, görsel modları LLM’lerle birleştirerek görüntülerin ve videoların anlamsal anlayışını sağlar. NVIDIA Jetson Orin kullanarak video analitiğinde üretken AI’nın geleceği hakkında daha fazla bilgi edinmek için bu bloga göz atın. NVIDIA Jetson cihazları ile uyumlu pratik geliştirme yazılım çözümleri için lütfen video analitiği çözüm sayfamıza gidin ve başlayın.
reServer Jetson Orin Serisi: AI NVR için Yerel Çıkarım Merkezi Tasarımı
Karmaşık modelleri ve büyük veri girişlerini yönetmek için, en iyi gizlilik koruması ile minimal bakım gerektiren reServer Jetson Orin serisini öneriyoruz:
- Yeterli Yerel Depolama: Yerel SSD/HDD için 2x sürücü yuvası ile donatılmıştır, video görüntülerini tamamen yerel olarak çalışırken geçici olarak önbelleğe alabilir. Uzun vadeli depolama için, yalnızca kritik olayları bulutta depolayarak bulut iletimi bant genişliğini yönetmeye yardımcı olabilir.
- Hibrit Bağlantı: Birden fazla gerçek zamanlı işleme akışı için 5x RJ45 GbE içerir. Bu portların dördü 802.3af PSE’dir, bu da daha iyi bir yerleşim tasarımı için güç kaynağı ve veri iletim portlarını entegre etmenizi sağlar.
Güçlü Bir NVIDIA Ekosistemi ile Gelişimi Hızlandırın
Kenar bilişim, donanım, işletim sistemleri, ağ bağlantısı ve veri işleme gibi çeşitli teknolojileri ve bileşenleri entegre eder. Bu karmaşıklık, genellikle uzun geliştirme döngülerine ve artan proje risklerine yol açar, özellikle de karmaşık AI uygulamaları oluştururken. Geliştiricilerin, sistem karmaşıklığı, donanım uyumluluğu ve yazılım geliştirme döngüleri gibi bu zorlukları yönetmek için disiplinler arası becerilere ve AI teknolojilerinde derin uzmanlığa ihtiyaçları vardır.
Jetson Platform Hizmetlerini Tanıtma: Yeni Modüler ve Esnek Mimari
Geliştiricilerin uygulama geliştirme konusundaki endişelerini gidermek için NVIDIA, Jetson Platform Hizmetleri’ni (JPS) tanıttı. NVIDIA JetPack SDK’sının bir parçası olan JPS, NVIDIA Jetson modülleri için özel olarak tasarlanmış olup, uçtan uca hızlandırılmış AI uygulamaları oluşturmak için kapsamlı bir çözüm sunmaktadır. JetPack 6 sürümü, mikro hizmetler ve bir dizi yeni özellik ekleyerek Jetson platformunun esnekliğini ve ölçeklenebilirliğini daha da artırmakta ve bu da onu 2024’te en popüler JetPack sürümü. yapmaktadır.
Jetson Platform Hizmetleri, hepsi bir arada bir araç kutusu gibi çalışarak, görsel AI uygulamaları oluşturmak için sağlam destek sunmaktadır. JPS, birçok özelleştirilebilir yazılım bileşeni ve yeniden kullanılabilir mikro hizmetler içeren modüler bir mimari benimsemektedir. Bu mikro hizmetler, geliştiricilerin görsel AI uygulamaları için çeşitli işlevsellikler oluşturmak üzere özgürce birleştirebileceği yapı taşları gibidir.
Bu araç kutusunda, geliştiriciler çeşitli pratik mikro hizmetler bulabilir. Örneğin, Video Depolama Araç Takımı (VST), kameralarla video akışlarını kolayca yönetmeye yardımcı olur. NVIDIA DeepStream tabanlı AI Algılama Servisi, makinelerin dünyayı insanlar gibi “anlamasını” sağlamak için gelişmiş derin öğrenme tekniklerini kullanır. Ayrıca, AI uygulamaları için güçlü içgörüler ve analitik yetenekler sunan üretken AI çıkarım hizmetleri ve analitik hizmetler de mevcuttur.
Sahada Uygulanan Başarı Kullanım Durumu
- Güvenlik yönetimi: Evde/tüm çalışma alanında ihlal tespiti tamamlamak için bir AI NVR olarak dağıtım yapın. İtalya’daki 20 lokasyondaki otomotiv bayileri için uyguladığımız güvenlik çözümüne göz atın.
- Perakende operasyon yönetimi ve müşteri analizi: İnsan sayımı, müşteri tercih analizi, ısı haritası takibi, kuyruk yönetimi, personel tahsisi, stok dışı uyarıları gibi çözümlerle perakende operasyonlarını geliştirin. Ekosistem ISV ortağımız Isarsoft ile birlikte, müşteri tercihleri temelinde eyleme geçirilebilir içgörüler ve pazarlama stratejisi elde etme hakkında daha fazla ayrıntı bulabilirsiniz.
- Trafik analizi: Çok açılı araç tespiti, plaka tespiti, trafik akışını izleme, otopark doluluk tespiti, yasadışı dönüşler, çizgi geçme gibi uygulamaları gerçekleştirin. Kendi akıllı ulaşım çözümünüzü nasıl oluşturacağınızı keşfedin, no-code Lumeo AI platformu ile.
Bunlar, en son popüler görsel AI çözümlerinden sadece birkaçıdır. Başarıyla uygulanan daha fazla vaka çalışmasını keşfedin!
Seeed NVIDIA Jetson Ekosistemi
Seeed, NVIDIA Partner Network’te uç AI için bir Elite ortaktır. Daha fazla taşıyıcı kart, tam sistem cihazları, özelleştirme hizmetleri, kullanım durumları ve geliştirici araçları keşfedin Seeed’in NVIDIA Jetson ekosistemi sayfasında.
Global donanım inovasyonunun öncüsü olarak, teknolojiyi herkes için erişilebilir kılmaya kendimizi adadık. IoT ve AI alanında uzmanlaşan Seeed, donanım inovasyonunun eşiğini düşürmeyi amaçlayan açık donanım, tasarım ve çevik üretim yelpazesini sunmaktadır.