Grafana’yı kenarda gerçek zamanlı AI destekli mikroskop görüntü analizi için kullanma

Theiascope™ platformını kullanan bir mikroskopist, elektron mikroskobu ile görüntü alırken.

Haziran ayında, Volkov Labs ve Theia Scientific, Docker konteynerleri arasında dış depolama paylaşmak için NFS (Ağ Dosya Sistemi) Sunucusu kullanımı hakkında bir blog yazısı yayınladı. Theia web uygulaması, Balena, Grafana, Ray, NGINX ve PostgreSQL üzerine kuruludur ve birden fazla Docker görüntüsünden oluşmaktadır.

Mimari özellikle şunlarla inşa edilmiştir:

Dış NVMe SSD ile birlikte bir PostgreSQL veritabanı konteyneri.
PostgreSQL veritabanına bağlanan Python ile oluşturulmuş bir REpresentational State Transfer (REST) Uygulama Programlama Arayüzü (API) sunucusu.
Kullanıcıların görüntüleri analiz etmelerine ve uygulamayı en iyi performans için yapılandırmalarına olanak tanıyan bir Grafana Kullanıcı Arayüzü (UI).
Ayrı konteynerlerde çalışan REST API ve Grafana UI’ye erişim sağlayan bir NGINX ters proxy.

Balena: *NFS Sunucu/Müşteri mimarisi, birden fazla Docker konteynerini bağlar.*

Theia Scientific ve Volkov Labs, GrafanaCONline 2022’de bu harika web semineri‘ni de birlikte düzenledi. Webinar, Balena’yı uzaktan cihaz yönetimi için ve Grafana’yı uygulama kontrolü ve görselleştirmesi için kullanarak, bir kenar bilişim cihazında gerçek zamanlı mikroskop görüntü analizi için makine öğrenimi (ML) modellerinin dağıtımını göstermektedir.

Özellikle, Theia Scientific tarafından oluşturulan Theiascope™ platformu, optik, elektron ve X-ışını bazlı mikroskopi kullanarak araştırma yapan bilim insanları ve mühendisler için gerçek zamanlı görüntü ve veri analizi otomasyonu teknolojisi sunmaktadır. Bu teknoloji, iş gücü maliyetlerini %80 oranında azaltabilir, eğitim süresini ve operasyonel uzmanlığı azaltabilir ve enerji, sağlık, üretim ve ulaşım sektörlerinde tarafsız sonuçların yıllardan, aylardan, günlerden sevilere hızla teslim edilmesini sağlayabilir.

Theia Scientific ile çalışarak, Dr. Christopher Field, Theia Scientific’in Kurucu Ortağı, Başkanı ve Baş Araştırmacısı, “Jetson AGX Orin ve Jetpack 5.0.2 ile bir sonraki nesil ürün geliştirmeye başladık ve donanımın tam gücünü ve en son sürücüleri serbest bırakmak için heyecanlıyız, böylece gerçek zamanlı, nicel görüntü analizi için daha büyük performans ve esneklik sağlanacak.” Jetpack 5.0.2 hakkında en son bilgileri NVIDIA’dan bu blogdan alabilirsiniz.

Theiascope™ platformu

Yazılım perspektifinden, Jetpack v5.0.2 ve CUDA v11’in yanı sıra, Theiascope™ platformu ayrıca filo yönetimi, uzaktan güncellemeler ve uygulamalarını konteynerleştirmek için balenaOS ve balenaCloud ile çalışmaktadır.

Theia Scientific ekibi, web uygulamalarının sunucu tarafı, yani “backend” için PyTorch, Ray.io ve özel Python kodu kombinasyonunu kullandı. Özel eklentiler ve açık kaynak topluluğundan ve/veya Volkov Labs tarafından Grafana için geliştirilen veri kaynakları, yazılımın istemci tarafı, yani “frontend” için kullanıldı. Volkov Labs, bu gelişmelerin birçoğunu açık kaynak ve Grafana topluluklarıyla paylaştı ve şu anda Grafana için en büyük eklenti koleksiyonlarından birini sürdürmektedir.

Tüm yazılım yığını, bir web sunucusu olarak işlev gören NVIDIA Jetson cihazlarında barındırılmaktadır ve uygulama, bir web tarayıcısına sahip herhangi bir bilgisayardan erişilebilir. Tüm boru hattı, Grafik İşlem Birimi (GPU) tabanlı donanım hızlandırması ile çeşitli ML modellerini barındırmak ve çalıştırmak için tasarlanmış ve optimize edilmiştir.

Donanım olarak, Jetson AGX Xavier ve Jetson Xavier NX modüllerini Seeed Studio Jetson Mate taşıyıcı kartına (şu adreste mevcut: Amazon) bağlı olarak kullanıyorlar ve Theiascope™ platformu için donanım olarak paketlenmiştir.

Neden NVIDIA Jetson?

“Theiascope™ platformı için başlangıçta Jetson ailesindeki gömülü cihazları hedefledik çünkü çeşitli ML [Makine Öğrenimi] modellerimizi 30 FPS [Kare/Saniye] veya daha yüksek hızda çalıştırmak için bir GPU [Grafik İşlem Birimi] hızlandırmasına ihtiyacımız vardı, böylece gerçek zamanlı otomatik görüntü analizi ve nicelleştirme sağlanabilsin.

Ürün Ar-Ge [Araştırma ve Geliştirme] sürecimizin bir parçası olarak, performans için Jetson cihazlarının tüm ailesini, Nano’dan AGX’e kadar test ettik ve Xavier NX’in gerçek zamanlı hızlarda ML modellerimizi çalıştırmak için minimum donanım spesifikasyonu olduğunu bulduk. AGX’i daha büyük GPU belleği için beğendik, bu da daha büyük ML modellerini barındırmamıza ve çalıştırmamıza olanak tanıdı.

Jetson Mates, birden fazla ML modelini aynı anda çalıştırma ve saha ziyaretleri ve gösterimler için taşınabilir bir GPU kümesi olarak işlev görme araştırmasına başlamak için seçildi.” — Dr. Christopher Field, Theia Scientific’in Kurucu Ortağı, Başkanı ve Baş Araştırmacısı

Aşağıdaki resimler, Xavier NX (ağ anahtarının altındaki bir kutuda), iki AGX ve iki Jetson Mate (Tam yüklü, bir mate 3 Jetson Xavier NX modülü ve 1 Nano ile bağlanmış ve diğer küme 4 NX içermektedir) içeren son dağıtımları göstermektedir. Jetson Mate üzerindeki fanlar beyaz renge değiştirilmiş ve diğerinin LED’i devre dışı bırakılmıştır. Birçok mikroskop karanlık odalarda çalıştığı için, parlak renkler sorun yaratabilir.

Kenar Bilişim, elektron mikroskopları için zorunludur

Kenar bilişim, Theia Scientific için hayati öneme sahipti çünkü milyonlarca dolarlık elektron mikroskopları ve ekipmanları genellikle Bulut veya İnternet tabanlı hesaplama kaynaklarına erişim sağlamaz. Kenar AI ile ilgili ne, neden ve nasıl başlanacağı hakkında bilgi almak için bu blogu kontrol edin.

Mikroskoplar genellikle “ağ kısıtlı” ortamlarda dağıtılmakta ve hesaplama için özel GPU’lara sahip değildir. Bu nedenle, mikroskopa Bulut benzeri hesaplama kaynaklarını getirmek, mikroskopları Bulut’a taşımaktan daha önemlidir.

“GPU destekli kenar bilişim cihazları, mikroskop donanımında herhangi bir değişiklik yapmadan ve sıfır yazılım kurulumu ile ağ kısıtlı mikroskoplar için ML modellerimizi ve yazılımımızı dağıtmamıza olanak tanıdı.” – Dr. Christopher Field

Theia Scientific, LLC Hakkında

Theia Scientific, mikroskopi ekipmanlarına ve nicel görüntü analizi iş akışlarına bulutsuz makine görüşü sağlayan bir teknoloji şirketidir. Ekip, bilimsel ekipmanlar için kenar bilişim mimarileri, veri analitiği ve AI model geliştirme konularında uzmanlardan oluşmaktadır.

Volkov Labs Hakkında

Volkov Labs, Grafana için açık kaynak ve ticari özel eklenti geliştirme hizmetleri sunmaktadır. Daha fazla bilgi için web sitelerini ziyaret edebilir ve Canlı projelerini kontrol edebilirsiniz.

Grafana Hakkında

Grafana, Grafana Labs tarafından geliştirilen profesyonel, çok platformlu açık kaynak veri görselleştirme ve metrik analiz aracıdır. Grafana, kullanıcıların birden fazla veri kaynağından metrikleri sorgulamasına, görselleştirmesine, uyarı vermesine ve anlamasına olanak tanır. Verilerin nerede olduğu veya hangi tür veritabanı olduğu fark etmeksizin, Grafana mükemmel bir şekilde eşleşebilir. Kendi Grafana panonuzu oluşturmak ve reTerminal ile arayüz oluşturmak için bu eğitimi kontrol edin: Kendi Grafana panonuzu oluşturun ve reTerminal ile arayüz oluşturun.

Balena Hakkında

Balena, müşterilerin her ölçekten Nesnelerin İnterneti (IoT) filolarını geliştirmelerine, sağlamalarına, dağıtmalarına ve yönetmelerine yardımcı olmak için tam bir teknoloji yığını sunmaktadır. balenaCloud, hem uygulama hem de cihaz yönetim özelliklerini etkinleştiren bir Hizmet Olarak Yazılım (SaaS) platformudur.

balenaCloud ile, API ve SDK’lar gibi çeşitli özellikleri kullanarak yüz binlerce cihaz için uygulama görüntüleri oluşturabilir ve sağlayabilirsiniz. Ayrıca, müşteriler, dostça bir GUI kullanarak veya Komut Satırı Arayüzü ile görevleri otomatikleştirerek filoları ölçekli bir şekilde yönetebilirler.

Ortaklığımızı okuyun
ICYMI: Arm Dev Summit, LoRa, LoRaWAN nedir öğrenin ve ilk LoRaWAN geçidinizi inşa edin. Şimdi kaydolun ve 26 Ekim tarihini kaydedin.

Bu atölyeyi Balena ile gerçekleştiriyoruz ve bir Raspberry Pi ve balena üzerinde çalışan bir LoRa konsantratörü ile nasıl kolayca bir LoRaWAN geçidi inşa edileceğini göstermek istiyoruz. Bu atölyenin iki amacı var: birincisi, geliştiricileri bu basit ve harika LPWAN teknolojisi hakkında eğitmek, ikincisi ise, Seeed ve balena arasındaki ortaklığı vurgulamak; bu ortaklık, dünya genelinde Raspberry Pi 4 üzerinde başarıyla çalışan +100K LoRaWAN geçidini yönetmektedir.