TensorFlow Lite hakkında yeni mi duydunuz ve daha fazla bilgi mi almak istiyorsunuz? Bugün TensorFlow Lite ile ilgili her şeyi tartışacağız. Umarım bu blog, konuyu daha iyi anlamanızı sağlar:
- TensorFlow Lite nedir?
- TensorFlow Lite’ın Mimari Tasarımı
- TensorFlow Lite nasıl çalışır?
- TensorFlow Lite ile TensorFlow arasındaki önemli fark nedir?
- TensorFlow Lite ile makine öğrenimi modelini dağıtmaya başlayın
- TF Lite ile Makine Öğrenimi Dağıtımı için En İyi MCU Seçenekleri
- [Proje] TensorFlow Lite ile XIAO BLE Sense üzerinde Ses Tanıma
TensorFlow Lite nedir?
TensorFlow Lite (TF Lite), Google tarafından cihaz üzerinde çıkarım yapmak için başlatılan açık kaynaklı, çok platformlu bir derin öğrenme çerçevesidir. Android ve iOS cihazları, gömülü Linux ve mikrodenetleyiciler gibi birçok platformu desteklemek için tasarlanmıştır. TensorFlow önceden eğitilmiş modellerini hız veya depolama için optimize edilebilecek özel formatlara dönüştürebilir. Ayrıca geliştiricilerin TensorFlow modellerini mobil, gömülü ve IoT cihazlarında çalıştırmalarına yardımcı olur.
Kısacası, TensorFlow Lite, eğitilmiş modeli mobil veya gömülü terminalde dağıtmayı hedefler.
TensorFlow Lite’ın özellikleri nelerdir?
- Hafif: Cihaz üzerinde makine öğrenimi modeli çıkarımını küçük bir ikili ölçek ve hızlı başlatma ile sağlar.
- Yüksek performans: Daha hızlı model yükleme süresi, donanım hızlandırma desteği vb. için optimize edilmiştir.
- Çoklu platform: Android ve iOS cihazları, gömülü Linux ve mikrodenetleyicileri destekler.
- Düşük gecikme: Sunucuya veri gönderme veya alma ihtiyacı yoktur.
- Güvenli: Herhangi bir kişisel veri cihazdan çıkmayacak ve gizliliği ifşa etmeyecektir.
- Desteklenen çoklu diller: Java, Swift, Objective-C, C++ ve Python dahil.
- Zengin örnek referansı: Görüntü sınıflandırma, nesne tespiti gibi çoklu platformlarda yaygın makine öğrenimi görevleri için uçtan uca örnekler sağlar.
Özel referans belgeleri TensorFlow Lite Github‘da bulunabilir.
Yukarıdaki TensorFlow Lite özellikleri, kenar çıkarımı için gereken tüm özelliklerle mükemmel bir şekilde örtüşmektedir.
TensorFlow Lite’ın Mimari Tasarımı
Şemadan görebildiğimiz gibi, bu üç bileşeni içermektedir:
- TensorFlow Modeli: Eğitilmiş TensorFlow modelini diske kaydeder.
- TensorFlow Lite Dönüştürücü: Bu program, eğitilmiş modeli TensorFlow Lite dosya formatına dönüştürür.
- TensorFlow Lite Model Dosyası: Bu format, FlatBuffers’a dayanır ve maksimum hız ve minimum boyut için optimize edilmiştir.
Peki bu nasıl çalışır? Yukarıdaki üç bileşenin işlevleri nelerdir? Şimdi bir sonraki bölüme geçiyoruz.
TensorFlow Lite nasıl çalışır?
1、Bir model seçin ve eğitin
Bir görüntü sınıflandırma görevi gerçekleştirmek istediğinizi varsayalım. İlk olarak, görev için modeli belirlemeniz gerekir. Seçenekleriniz:
–Inception V3, MobileNet gibi önceden eğitilmiş modelleri kullanın.
Burada TensorFlow Lite örnek uygulamalarını kontrol edebilirsiniz. Önceden eğitilmiş TensorFlow Lite modellerini keşfedin ve bunları örnek uygulamada çeşitli ML uygulamaları için nasıl kullanacağınızı öğrenin.
–Kendi özel modellerinizi oluşturun
Kendi veri setlerinizle modeller oluşturmak için TensorFlow Lite Model Maker aracını kullanın.
–Önceden eğitilmiş modellere transfer öğrenimi uygulayın
2、Dönüştürücü kullanarak modelleri dönüştürün
Model eğitimi tamamlandıktan sonra, modeli TensorFlow Lite modeline dönüştürmek için TensorFlow Lite Dönüştürücüsünü kullanmanız gerekir. TensorFlow Lite modeli, doğruluk açısından çok verimli olan ve daha küçük bir ayak izine sahip hafif bir versiyondur. Bu özellikler, TF Lite modellerini mobil ve gömülü cihazlarda çalışmak için ideal hale getirir.
Kaynak:https://www.tensorflow.org/lite/convert/index
Önceden eğitilmiş modellerin seçimi bölümüne gelince, bunun hakkında daha fazla bilgi almak isteyebilirsiniz. TensorFlow Lite, birçok eğitilmiş ve optimize edilmiş modeli desteklemektedir:
- MobileNet: 1000 farklı nesne sınıfını tanıyabilen bir görsel model sınıfıdır, mobil ve gömülü cihazlarda verimli bir şekilde çalışmak için özel olarak tasarlanmıştır.
- Inception v3: Görüntü tanıma modeli, MobileNet ile benzer işlevselliğe sahip olup daha yüksek doğruluk sunar ancak daha büyüktür.
- Smart Reply: Gelen konuşma sohbet mesajlarına tek tıklama ile yanıt vermeyi sağlayan cihaz üzerindeki bir konuşma modelidir. Birinci ve üçüncü taraf mesajlaşma uygulamaları, bu özelliği Android Wear’da kullanmaktadır.
Inception v3 ve MobileNet’ler ImageNet veri seti üzerinde eğitilmiştir. Kendi görüntü veri setinizde transfer öğrenimi ile yeniden eğitebilirsiniz.
TensorFlow Lite ile ilgili daha fazla bilgi için Cihaz Üzerinde Konuşma Modelleme makalesine başvurabilirsiniz.
TensorFlow Lite ile TensorFlow: Önemli fark nedir?
TensorFlow Lite, TensorFlow’un hafif çözümüdür ve özellikle mobil platform ve gömülü cihazlar için tasarlanmıştır.
TensorFlow Lite, eğitilmiş bir model üzerinde tahmin yapma yeteneği sağlamak için tasarlanmıştır (modeli eğitmek yerine yükler). Öte yandan, TensorFlow, modeli oluşturmak (eğitmek) için kullanılır.
TensorFlow, ağ eğitimi ve çıkarımı için kullanılabilirken, TensorFlow Lite, TensorFlow’un ağ eğitimi ve çıkarımı için kullanıldığı ve cihazın hesaplama gücü üzerinde belirli gereksinimleri olduğu için tasarlanmıştır. Mobil telefonlar, tabletler ve diğer gömülü cihazlar gibi sınırlı hesaplama gücüne sahip cihazlar için TensorFlow Lite, verimli ve güvenilir çıkarım sağlayabilir.
TensorFlow Lite ile makine öğrenimi modelini dağıtmaya başlayın
Makine öğrenimi (ML), bilgisayarların veriler temelinde modeller oluşturduğu ve bu modelleri insan zekasını simüle etmek için kullandığı bir disiplindir. Makine öğrenimi, hayatımızı ve işimizi derinden değiştirmektedir. Yapay zekanın (AI) temelidir ve bilgisayarları akıllı hale getirmenin temel yoludur.
TensorFlow Lite, düşük gecikme ve küçük depolama ile cihaz üzerinde makine öğrenimi çıkarımını destekler. Görüntü sınıflandırma, nesne tespiti, poz tahmini, soru yanıtlama ve metin sınıflandırma gibi çoklu platformlarda yaygın makine öğrenimi görevleri için uçtan uca örnekler sağlar. Bu, TensorFlow Lite modelini makine öğrenimi için, özellikle küçük, düşük güçlü mikrodenetleyicilerde ideal hale getirir.
Makine Öğrenimi için TensorFlow Lite şunlara uygulanabilir:
- Mobil cihazlar (iOS ve Android)
- Nesnelerin İnterneti (IoT)
- Gömülü Linux cihazları (Raspberry Pi, reTerminal)
- Mikrodenetleyiciler
TensorFlow Lite ile ilgili birçok uygulama bulunmaktadır. Bu blogu kontrol etmenizi öneririm. TensorFlow Lite Runtime ile reTerminal üzerinde TensorFlow modelini çalıştırmayı anlatmaktadır.
Ve başka bir blog Wio Terminal ve mikrodenetleyiciler için TensorFlow Lite kullanarak akıllı bir metro istasyonu oluşturma hakkında.
Mikrodenetleyiciler genellikle küçük, düşük güç tüketen bilgisayar cihazlarıdır ve çeşitli işlevleri gerçekleştirmek için temel hesaplamalar yapması gereken donanıma entegre edilebilir.
Makine öğrenimini küçük mikrodenetleyicilere neden getirelim?
Makine öğrenimini küçük mikrodenetleyicilere getirerek, hayatımızdaki milyarlarca cihazı daha akıllı hale getirebiliriz. Bu tür uygulamalar ev aletleri ve IoT cihazlarına da uygulanabilir. Ve mikrodenetleyicide akıllı öğrenmenin uygulanması, pahalı donanım ekipmanları gerektirmediği gibi, güvenilir bir internet bağlantısı da gerektirmediği için ML uygulamasının zorluğunu ve maliyetini büyük ölçüde azaltır.
Bu nedenle, makine öğrenimini mikrodenetleyicilere getirmek, MCU’larda makine öğrenimi modellerini dağıtmak için mantıklıdır.
?️Makine öğrenimini dünyaya uygulamaya hazır mısınız?
Şimdi, küçük boyutu ve yüksek maliyet performansı ile TensorFlow Lite’ı destekleyen bir mikrodenetleyiciyi tanıtacağım.
Haydi keşfedelim!
TensorFlow Lite ile Makine Öğrenimi Dağıtımı için En İyi MCU Seçeneği
Seeed XIAO BLE nRF52840 Sense – TinyML/TensorFlow Lite Desteği
Neden XIAO BLE Sense, TensorFlow Lite ile makine öğrenimi dağıtımı için en iyi mikrodenetleyici seçeneğidir?
Seeed XIAO BLE nRF52840 Sense, IoT ve AI uygulamaları için tasarlanmış küçük bir Bluetooth BLE geliştirme kartıdır. Üzerinde bir anten, 6 Dof IMU ve mikrofon bulunur, bu da onu TinyML ve TensorFlow Lite kullanarak AI çalıştırmak için ideal bir kart haline getirir.
XIAO BLE Sense’in ana özellikleri şunlardır:
- Güçlü CPU: ARM® Cortex™-M4 32-bit işlemci, makine öğreniminin dağıtımını ve çalıştırılmasını destekler
- Kablosuz yetenekler: Bluetooth 5.0, NFC ve ZigBee desteği, IoT proje uygulamaları için daha fazla olasılık sunar
- Ultra küçük boyut giyilebilir ve diğer küçük cihazlar için uygundur
- Ultra düşük uyku gücü: 5 μA, derin uyku modu
- Arduino/MicroPython/CircuitPython desteği kullanıcı dostu geliştirme ve kullanım için
- Üzerinde PDM mikrofon ve 6 eksenli IMU
——kullanıcılar için büyük bir kolaylık sağlar & TensorFlow Lite ile makine öğrenimi dağıtımı için uygundur, ses, hareket tanıma vb.
- Fiyat avantajları, yüksek maliyet performansı ile
——Arduino Nano 33 BLE Sense’in resmi fiyatına kıyasla, Seeed XIAO BLE Sense fiyatı yarıdan fazla, sadece 15.99 $.
Yukarıdaki özellikler göz önüne alındığında, XIAO BLE Sense gerçekten TensorFlow Lite dağıtımı ve gömülü makine öğrenimi projeleri için uygundur.
Gömülü makine öğrenimi programlamaya ilginiz varsa, kendi ML projenize hızlı bir şekilde başlamanıza yardımcı olabilecek Codecraft grafik programlamamız var. Ayrıca, Discord sunucumuzda #tinyml kanalını oluşturduk, lütfen tıklayıp katılın, 7/24 yapma, paylaşma, tartışma ve birbirimize yardım etme imkanı bulacaksınız.
[Proje] XIAO BLE Sense ile TensorFlow Lite üzerinde Ses Tanıma
Bu proje, XIAO BLE Sense üzerinde TensorFlow Lite modelini kullanarak, üzerindeki mikrofon ile ses tanıma gerçekleştirmektedir.
Öncelikle XIAO BLE Sense için başlangıç donanım ve yazılım kurulumuna ihtiyacınız var, “XIAO BLE (Sense) Başlarken” wiki’sindeki adımları takip edebilirsiniz. Ayrıca, tflite-micro-arduino-examples kütüphanesini zip dosyası formatında indirip Arduino IDE’ye aktarmanız gerekiyor.
Sonrasında, veri eğitimi yapın ve bir TensorFlow Lite modeli oluşturun ve çıkarım sürecini gerçekleştirin. Belirli yazılım kodunu bu wiki’de görüntüleyebilirsiniz.
Özet
TensorFlow Lite hakkında temel bilgilere ve XIAO BLE Sense’in özelliklerine sahip olduğunuzda, güçlü MCU, XIAO BLE Sense üzerinde TensorFlow Lite ile makine öğrenimi projenizi dağıtabilir ve çalıştırabilirsiniz!
Bu kılavuzda TensorFlow Lite hakkında daha fazla bilgi edinmenizi umuyoruz! TensorFlow Lite ile ilgili herhangi bir sorunuz varsa, lütfen aşağıdaki yorumlar bölümünde bir yorum bırakmaktan çekinmeyin.
XIAO serisi ürünlerine ilgi mi duyuyorsunuz? Tüm XIAO aile ürünlerimizi burada görüntüleyebilirsiniz!