Haberler

Yüksek Performanslı Kenar Hesaplama için Kenar Süper Bilgisayarları

İlk bakışta, bir süper bilgisayar, uzay keşfi veya kuantum mekaniği gibi en son uygulamalar için özel olarak kullanılan, başka bir dünyadan gelmiş gibi görünen bir ekipman parçası olabilir. Bu, geleneksel anlamda doğru olsa da, bugünkü makale süper bilgisayarları açıklığa kavuşturmayı amaçlıyor – ve özellikle, bunları yüksek performanslı kenar bilişim için nasıl kullanabileceğimizi!

Bu makalede, aşağıdaki içerikleri ve daha fazlasını ele alacağız:

  • Süper Bilgisayar Nedir?
  • Kenar Bilişim için Neden Süper Bilgisayar Kullanmalıyız?
  • Kenar Süper Bilgisayarlar İnşa Etmenin Zorlukları
  • Kenar Süper Bilgisayar Platformu Önerileri
  • NVIDIA Süper Bilgisayarı ile Jetson Mate

Süper Bilgisayar Nedir?

Tanım olarak, bir süper bilgisayar, dizüstü bilgisayarlar veya masaüstü bilgisayarlar gibi genel amaçlı bilgisayarlara kıyasla yüksek performans seviyesine sahip bir bilgisayardır. Genellikle, kuantum mekaniği, hava tahmini veya çeşitli karmaşık simülasyonlar gibi özel bilim ve mühendislik alanlarının gerektirdiği son derece iş yükü yoğun görevleri yerine getirmek için kullanılırlar.

Çoğu süper bilgisayar aslında tekil bir yapıda değildir. Bunun yerine, her biri kendi işlemcilerine sahip ayrı bilgisayarlardan oluşur ve bir ağda bir araya gelerek tek bir varlık olarak çalışırlar. Bu duruma kümeleme denir.

Japonya’nın Fugaku Süper Bilgisayarı

Örneğin, şu anda dünyanın en hızlı süper bilgisayarı olan Fugaku, her biri 48 çekirdeğe sahip 158,976 CPU’dan oluşmaktadır. Yakından takip eden Summit ise her biri 22 çekirdeğe sahip 9,216 CPU ve 27,648 NVIDIA Tesla V100 GPU kullanmaktadır.


Kenar Bilişim için Süper Bilgisayarlar

Bahsettiğimiz süper bilgisayarların ölçeği göz önüne alındığında, bunların etkili bir şekilde çalışabilmesi için özel tesislerde, hem alan, hem güç hem de soğutma kapasitesine sahip olmaları gerekecektir. Doğal olarak, bu kadar yüksek performanslı bilişimi kenar bilişime uygulamak imkansız olurdu – ya da öyle mi?

Öncelikle, Kenar Bilişim Nedir?

Kenar bilişim, veri işlemenin sahada ve aktif dağıtımda bulunan dağıtılmış cihazlarda gerçekleşmesi anlamına gelir (veya kenarda). Kenar cihazlarına örnek olarak akıllı telefonlar, çeşitli SBC’ler ve mikrodenetleyiciler verilebilir.

Daha önce, bu konuyu kapsamlı bir şekilde ele aldım Edge AI – Nedir ve Kenar IoT için Ne Yapabilir? makalemde, bu konuyu devam etmeden önce incelemenizi şiddetle tavsiye ederim – özellikle bu konuya yeniyseniz!

Süper Bilgisayarların Kenar Bilişimde Bir Rolü Var mı?

Elimizdeki soruya geri dönersek: Kenarda aynı tür süper bilgisayar bilişimini elde edebilir miyiz? Evet ve hayır. Açıklayayım.

Hayır – Geleneksel olarak bildiğimiz süper bilgisayarlar kenar senaryoları için uygun değildir.

Kenar bilişim uygulamaları genellikle kompakt ve enerji verimli olacak şekilde tasarlanmıştır. Bunun nedeni, doğrudan geniş enerji şebekelerine erişiminin zor veya tamamen imkansız olabileceği sahada çalışmalarıdır. Ayrıca, kenar bilgisayarları genellikle diğer ekipmanlarla birlikte çalışır ve hatta robotlar veya fabrika ekipmanları gibi mobil platformlara doğrudan monte edilebilir. Bu nedenle, kenar uygulamaları için aynı ölçekli süper bilgisayarların kullanılmasını görmek pek olası değildir.

Evet – Uzmanlaşmış kenar donanımı ile aynı avantajları elde edebiliriz.

Ancak bu, kenar bilişim için bir çözüm olmadığı anlamına gelmez. Hem donanım hem de yazılım alanındaki gelişmeler sayesinde, artık kenar bilişim için özel olarak tasarlanmış süper şarjlı bilgisayar kümelerinden faydalanmak mümkün. Hesaplama gücü, tam ölçekli süper bilgisayarlara göre o kadar büyük olmayacak, ancak boyutları, enerji tüketimleri ve maliyetleri ile karşılaştırıldığında, bu kenar süper bilgisayarlar kesinlikle kendi başlarına süperdir!

Kenar süper bilgisayarlarla, veri merkezi hizmetlerini kenara taşıyarak bunları yerel bir düğümde sağlamaktayız. Bu düğümler daha sonra bireysel olarak dağıtılmış bir şekilde daha fazla hizmet ve uygulama barındırır.


Kenar Bilişim için Neden Bir Süper Bilgisayara İhtiyacınız Var?

Daha önce belirtildiği gibi, kenar bilişim, geleneksel bulut bilişime kıyasla benzersiz bir dizi avantaj sunar. Kenar süper bilgisayarları ile şimdi bunları bir üst seviyeye taşıyarak bazı benzersiz zorluklarla başa çıkabiliriz!

1. Yerel Düzeyde Hesaplama Kapasitelerini Artırın

Hesaplama kapasitesine gelince, belirli bir boyut veya bütçe gereksinimi içinde daha fazla, daha iyidir. Kenardaki süper bilgisayarlar, kompakt ve enerji verimli kalacak şekilde tasarlanmıştır ve SBC’ler veya mikrodenetleyiciler gibi normal kenar cihazlarının kapasitelerinin birkaç katını sunar. Bu, mevcut kenar uygulamalarınızı daha güvenilir hale getirmekle kalmaz, aynı zamanda gelecekte daha fazla işlev ekleme esnekliği sağlar ve donanım değiştirme endişesi taşımamanızı sağlar!

2. Daha Düşük Gecikme ve Bant Genişliği Tasarrufu Sağlayın

Kenar süper bilgisayarları, ağır hesaplama görevlerinizi bulut bilişim hizmetlerine dış iletişim bağımlılığı olmadan gerçekleştirmenizi sağlar. Bunun en doğrudan avantajı, artık verileri buluta ve buluttan iletme gereksiniminin olmamasıdır. Sonuç olarak, veri işleme gecikmeleri büyük ölçüde azaltılabilir. Aynı zamanda, dış iletimlerin azaltılması, ağ bant genişliği için daha düşük gereksinimler ve dolayısıyla daha düşük maliyetler anlamına gelir.

Bir görüntü işleme görevini örnek alalım. Bulut bilişime bağımlı olduğunuzda, tüm görüntü gönderilmelidir. Ancak bir kenar süper bilgisayarı ile artık verileri yerel ağ içinde işleyebilirsiniz. Bu sadece daha hızlı değil, aynı zamanda uzun vadede muazzam miktarda bant genişliği maliyetinden de sizi kurtarır!

3. Veri Güvenliğini Artırın

Dış mekanlara veri iletimindeki bir azalma, daha az açık bağlantı ve siber saldırılar için daha az fırsat anlamına gelir. Bu, yerel ağlarınızı potansiyel bir kesinti veya veri ihlali tehdidinden uzak bir şekilde güvenli bir şekilde çalıştırır. Ayrıca, veriler merkezi bulutta saklanmadığı için, tek bir ihlalin sonuçları büyük ölçüde azaltılmış olur!

4. Gerçek Zamanlı Analitik ve Yapay Zeka

Kenar AI ve makine öğrenimi, son zamanlarda büyük ilgi gören alanlardır ve kenardaki süper bilgisayarlar, kaynak yoğun algoritmalarını çalıştırmak için gerekli donanımı sağlar. Yerel bilişimin sunduğu düşük gecikme avantajları sayesinde, kenarda toplanan verileri işleyerek gerçek zamanlı olarak dinamik bir şekilde yanıt verebilen akıllı sistemler tasarlamak artık mümkün.

Örneğin, görsel tabanlı analitik kullanarak, robotlar artık deterministik komutlarla programlanmıyor, bunun yerine genelleştirilebilir bir AI algoritması ile çalışıyor. Bu, üretim ortamlarının son derece özelleştirilebilir ürünler oluşturmasına ve kalite kontrol veya hatta gerçek zamanlı süreç optimizasyonu gibi akıllı görevler gerçekleştirmesine olanak tanır!

“`html

Gerçek zamanlı görsel görevler yüksek donanım gereksinimlerine sahiptir, Kaynak: Medium

Yüksek Performanslı Kenar Süper Bilgisayarlarının Zorlukları

Süper bilgisayarların kenar bilişim uygulamalarına sağladığı faydalara rağmen, uygulanması bir zorluk olmaya devam etmektedir. Örneğin, çözümün kompakt kalmasını ve sisteminizin diğer bileşenleriyle kolayca entegre olmasını sağlamak için genellikle özel donanım ve yazılım gereklidir. Bu bölümde, kenar süper bilgisayarınızı tasarlarken dikkate almanız gereken bazı özel faktörleri kısaca tartışacağım!

Form Faktörü & Yerel Ağ Altyapısı

Geleneksel süper bilgisayarlar gibi, kenar süper bilgisayarları da genellikle bir küme altyapısı üzerine inşa edilir. Birkaç tek kart bilgisayarı bir araya getirerek toplu işlem yeteneklerinden yararlanmak oldukça mümkündür; birçok kişi popüler Raspberry Pi 4 ile bunu yapmıştır. Ne yazık ki, böyle bir çözüm, saha dağıtımı için pek uygun olmayan karmaşık bir kablo ağına yol açar.

Öte yandan, yerel ağ altyapısı için önlemler almak önemlidir. Örneğin, bilgisayar kümelerinde, bireysel bilgisayarlar birbirine bağlantılarla bağlanır. Eğer bu bağlantılar büyük bant genişliklerini yönetme kapasitesine sahip değilse, bu, bilgisayar düğümleriniz arasındaki etkili iletişimi engelleyebilir ve kümenizin genel performansını olumsuz etkileyebilir.

Bilgisayar kümeleri hakkında daha fazla bilgi için önceki makaleme buradan göz atabilirsiniz!

Küme Bilişim Mimarisi: Ana Düğüm + 3 Köle

Kümeler için Etkili Yazılım

Donanımın yanı sıra, yazılım da etkili bilgisayar kümeleri için eşit derecede önemlidir. Çoğu platform, bağımsız uygulama örneklerini yönetmek için Kubernetes kullanır. Kubernetes, kümenizdeki farklı düğümler arasında iş yükü gereksinimlerini otomatik olarak dağıtmaya yardımcı olarak yalnızca yüksek performans sağlamakla kalmaz, aynı zamanda yüksek kullanılabilirlik ve güvenilirlik de sunar.

Elbette, seçeceğiniz konteyner çalışma zamanı ve konteyner yönetim platformu, çalıştırmayı planladığınız uygulama ile uyumlu olmalıdır. Uyumların zamanla değişebileceğini unutmayın; bu, uygulamanızda değişiklik yapmanızı gerektirebilir. Örneğin, uzun süredir tercih edilen konteyner çalışma zamanı docker, Kubernetes 1.20 itibarıyla artık desteklenmiyor ve geliştiricileri containerd veya cri-o gibi diğer seçeneklere geçmeye zorlamaktadır.

Bu nedenle, çözümünüzü tasarlarken bu hususları akılda tutmak da önemlidir; çünkü herhangi bir yazılım altyapısına aşırı bağımlılık, çözümünüzü daha sonra uyarlamada önemli zorluklara yol açabilir.

IoT Bağlantısıyla Entegrasyon

Uçtan uca entegrasyon başka bir önemli zorluktur. Birçok kenar sistemi, büyük ölçüde dağıtılmış ağları içeren IoT için tasarlanmıştır. Bu nedenle, sistem tarafından üretilen verilerin, kenar süper bilgisayar tarafından kurumsal uygulamaları güçlendirmek için uygun şekilde kullanılmasını sağlamak için yüksek derecede esneklik gereklidir. Aslında, bu, kenar ile bulut mimarilerini entegre etmede de yaygın bir zorluktur ve kenar süper bilgisayarların artık çok yönlü bağlantı gibi kenar özelliklerini benimsemesini gerektirebilir.


Kenar Süper Bilgisayarları İnşa Etmek

Neyse ki, bu tür hususları aşmanıza yardımcı olmak için tasarlanmış birkaç entegre kenar süper bilgisayar platformu bulunmaktadır; bu sayede ihtiyaçlarınıza uygun uygulamalar geliştirmeye odaklanabilirsiniz! Daha fazla uzatmadan, hemen başlayalım.

reServer’ı Tanıtıyoruz reServer

reServer, Seeed’in reThings ailesine en son eklenen üründür ve hem kenar hem de bulut süper bilgisayar senaryolarında kullanılabilen kompakt ve güçlü bir sunucudur. ODYSSEY x86 v2 kartına dayanan ve en son 11. Nesil Intel Core i3 CPU ile Intel UHD Xe Grafiklerle güçlendirilmiş reServer, hayal edebileceğiniz her senaryo için gerçek bir işlem ve AI yetenekleri sunar.

reServer, iki yüksek hızlı 2.5-Gigabit Ethernet portu ve 5G LoRaWAN, BLE ve WiFi ile hibrit bağlantı dahil olmak üzere çeşitli ağ bağlantı yetenekleri ile kenar süper bilgisayarlarının yeni bir çağını temsil etmektedir. Uyumlu donanım ve bağlantı toplama ile reServer, yüksek veri aktarım gereksinimlerini karşılamak için 5Gbps’ye kadar iletim hızlarına ulaşabilir!

Ürün Özellikleri

  • CPU: En son 11. Nesil Intel® Core™ i3 CPU, 4.10GHz’ye kadar çalışır
  • Grafikler: Intel UHD Graphics Xe G4 48EUs, 1.25 GHz’ye kadar çalışır
  • Zengin Periferikler: Çift 2.5-Gigabit Ethernet, USB 3.0 Type-A, USB 2.0 Type-A, HDMI ve DP çıkışı
  • 5G, LoRa, BLE ve WiFi dahil hibrit bağlantı (5G ve LoRa için ek modüller gereklidir)
  • Yeterli iç muhafaza depolama alanına sahip 3.5” SATA sabit disk sürücüleri için çift SATA III 6.0 Gbps veri bağlantıları
  • SSD’ler veya 4G ve 5G modülleri ile genişletilebilirlik için M.2 B-Key/ M-Key/ E-Key
  • Kompakt sunucu tasarımı, toplam boyut 124mm*132mm*233mm
  • Harika ısı dağılımı için büyük VC ısı emici ile sessiz soğutma fanı
  • İç bileşenlere kolay erişim ile kolay kurulum, yükseltme ve bakım

reServer hakkında daha fazla bilgi almak için Seeed Online Store‘a göz atın!

Jetson Mate Kümesi Standart / Gelişmiş

Daha önce de belirtildiği gibi, kenar süper bilgisayar çözümleri oluştururken kümeleme oldukça yaygındır. Seeed, Jetson Mate ve NVIDIA’nın Jetson modülleri ile birlikte tam kenar GPU kümeleme çözümünü paylaşmaktan gurur duyar. Taşıyıcı kart ve Jetson modülleri ile birlikte, kenar uygulamaları için NVIDIA’nın sektör lideri GPU’larıyla güçlendirilmiş tam bir NVIDIA GPU Kümesi elde etmek oldukça kolaydır!

Artık Seeed’den tam bir kenar GPU kümesi için donanımı iki pratik paket halinde alabilirsiniz:

Kenar GPU Jetson Kümesi oluşturma hakkında daha fazla bilgi için önceki NVIDIA Jetson Kümesi makalemizi, ya da bir NVIDIA Süper Bilgisayarı nasıl oluşturacağınızı öğrenmek için okumaya devam edin!

“`


Jetson Mate ile NVIDIA Süper Bilgisayar

Bu bölüm, Jetson Mate kullanarak bir SHA-256 hash’ini kıran Gary Explains’in bu son derece bilgilendirici videosundan uyarlanmıştır!

Gary, YouTube videosunda dört NVIDIA Jetson Modülü çalıştırıyor.

SHA-256 hash, bir kaynaktan, örneğin şifre gibi şifrelemek istediğimiz bir kaynaktan, kriptografik bir şifreleme fonksiyonu tarafından üretilen bir karakter dizisidir. Algoritmayı kullanarak, kaynaktan hash’e ulaşmak oldukça kolaydır, ancak Gary’nin paylaştığı gibi, tersini yapmak o kadar basit değildir. Yaklaşık 38 milyon kombinasyonun deneme yanılma sürecini içeren bir SHA-256 hash’ini zorla çözmek, oldukça kaynak yoğun bir görevdir ve bu videoda Jetson süper bilgisayarının performansını değerlendirmek için kullanılmıştır.

Videodaki küçük deneylerin sonuçlarını özetlediğimizde, aşağıdaki sonuçları elde ediyoruz:

Kurulum Geçen Süre
1x Jetson Nano, Sadece CPU 5 Dakika
1x Jetson Xavier NX, 3x Jetson Nano, Sadece CPU 67 Saniye
1x Jetson Nano, GPU ile 45 Saniye
2x Jetson Nano, GPU ile 27 Saniye
1x Jetson Xavier NX, 3x Jetson Nano, GPU ile 15 Saniye

Gördüğünüz gibi, kümeleme, aynı görev için geçen süreyi önemli ölçüde azaltmıştır, Jetson Mate içinde kompakt bir form faktörü korumaya rağmen! Benzer şekilde, kaynak yoğun hesaplama, birden fazla sistemin gücünü koordine ederek, bilgisayarla görme, tahmin ve gerçek zamanlı simülasyonlar gibi çok sayıda senaryo için bir kenar süper bilgisayarı oluşturmak için yönetilebilir!

Bunu kendiniz denemek isterseniz, Jetson Mate ve Jetson Nano / Xavier modüllerini Seeed Online Store’dan alabilir ve Gary’nin Github’da sağladığı talimatları buradan takip edebilirsiniz.

Alternatif olarak, Seeed Wiki de Jetson Mate ile nasıl kurulabileceğinize dair ayrıntılı, adım adım talimatlar sunmaktadır.


Özet & Daha Fazla Kaynak

Süper bilgisayarların tanımı değişiyor. Tam ölçekli süper bilgisayarların keskin araştırmalardaki rolü devam ederken, kenar süper bilgisayarlar daha akıllı, gerçek zamanlı uygulamaları mümkün kılmak için daha fazla bulut hizmetini kenara getiriyor. Jetson Mate gibi daha fazla kaynak, kompakt ve uygun fiyatlı donanım sağlarken, NVIDIA EGX, hızlandırılmış kenar hesaplama için tam yığın altyapı sağlıyor; bu dönüşümler artık gerçeğe daha yakın hale geliyor!

Daha fazla bilgi edinmek için, aşağıdaki kaynakları kontrol etmeyi unutmayın:

Leave a Reply

Your email address will not be published. Required fields are marked *