Yapay zekanın yenilikçi bir hızda geliştiği bir dünyada, insan-bilgisayar etkileşim biçimi ses etkileşimine doğru devrim niteliğinde bir dönüşüm geçirmiştir. Bu değişim, akıllı evlerde, kişisel asistanlarda ve müşteri hizmetleri desteklerinde, kesintisiz ve duyarlı sesli sohbet botlarına olan talebin artmasıyla özellikle belirgindir. Ancak, bulut tabanlı çözümlere olan bağımlılık, veri gizliliği ve ağ gecikmesi ile ilgili endişeleri beraberinde getirmiştir. Bu zorluklara yanıt olarak, yerel olarak çalışan, gizlilik sorunlarını ele alan ve hızlı yanıtlar sağlayan yenilikçi bir Yerel Sesli Sohbet Botu projesi sunuyoruz.
Geleneksel sesli sohbet botları, bulut bilişim hizmetlerine büyük ölçüde bağımlıdır ve bu durum veri gizliliği ve ağ gecikmesi ile ilgili geçerli endişeleri artırmaktadır. Daha güvenli ve verimli bir çözüme olan ihtiyaç giderek daha belirgin hale gelmiş ve yerel olarak işletilen bir ses etkileşim sistemi geliştirilmesine zemin hazırlamıştır.
Projemiz, tamamen donanım üzerinde çalışan bir sesli sohbet botu dağıtmaya odaklanarak gizlilik endişelerini azaltmakta ve daha hızlı bir yanıt süresi sunmaktadır. Bunu başarmak için, Nvidia Riva ve Meta Llama2’nın güçlü yeteneklerinden yararlanarak, kullanıcı verilerinin güvende kalmasını sağlayan sağlam ve özel bir ses etkileşim sistemi oluşturuyoruz.
Şimdi, sistem mimarisini adım adım inceleyelim:
- Kullanıcı mikrofona konuşur ve ses girişi, Jetson cihazında yerel olarak çalışan Riva ASR hizmeti tarafından işlenir.
- ASR hizmeti, söylenen kelimeleri metne dönüştürür ve ardından niyet tanıma ve diyalog yönetimi için yerel Llama2 modeline gönderir.
- Llama2 metni işler, uygun yanıtı belirler ve bir metin yanıtı oluşturur.
- Metin yanıtı, sentezlenmiş konuşmaya dönüştüren Riva TTS hizmetine gönderilir.
- Sentezlenmiş konuşma, bağlı hoparlör aracılığıyla çalınır ve kullanıcı sohbet botunun yanıtını duyar.
Bir şey daha, hem Riva Sunucusu hem de Llama2, sohbet botunun işlevselliğini sürdürmek için ayrı terminallerde çalıştırılmaktadır. Genel mimari, veri gizliliği ve ağ gecikmesi endişelerini ele alarak bulut hizmetlerine bağımlı olmadan güvenli, özel ve hızlı yanıt veren bir ses etkileşim sistemi sağlar.
Daha ayrıntılı kurulum bilgileri ve gelişmiş yapılandırmalar için lütfen wiki sayfamıza başvurun.
Etki Gösterimi: