@adavapuruSesli yapay zeka asistanı kurmak: gecikme, araya girme ve telefon hattı gerçekleri
Bir randevu merkezi için sesli asistan kurduk ve dört aydır çalışıyor. Metin tabanlı bir asistan kurmakla sesli asistan kurmak arasında uçurum var, bunu baştan bilmek isterdim. Yaşadıklarımızı yazayım.
Birinci gerçek: gecikme her şeydir. İnsan konuşmasında sessizlik yarım saniyeyi geçince karşı taraf kafasını kaldırıyor, bir saniyeyi geçince "alo" diyor. Zincirin tamamı, yani sesi metne çevirme, modelin cevabı üretmesi ve metni sese çevirme, bu bütçenin içine sığmak zorunda. Bizim ilk sürümümüzde toplam gecikme 2,4 saniyeydi ve aramaların yarısı daha ilk cümlede kopuyordu.
Nasıl düşürdük: modelden cevabı akış halinde alıp ilk cümle tamamlanır tamamlanmaz seslendirmeye gönderdik. Cevabın tamamını beklemek yerine parça parça seslendirmek, algılanan gecikmeyi 2,4 saniyeden 0,8 saniyeye indirdi. Gerçek toplam süre çok değişmedi, ama kullanıcı için değişen her şeydi.
İkinci gerçek: araya girme. İnsanlar asistan konuşurken araya giriyor. Asistan susmazsa insan sinirleniyor. Araya girme tespiti ve o anda seslendirmeyi kesme, teknik olarak sandığımızdan zor çıktı. Hoparlörden çıkan sesin mikrofona geri dönmesi tespiti bozuyor, yankı bastırma şart. Telefon hattında bu durum daha da kötü.
Üçüncü gerçek: Türkçe seslendirme ve tanıma kalitesi İngilizceden geride. Özellikle sayıların, tarihlerin ve özel isimlerin tanınmasında hata çok. Çözümümüz: isimleri ve tarihleri serbest konuşmadan almak yerine onaylatmak. Asistan "ad soyadınızı alabilir miyim" diyor, sonra duyduğunu tekrar edip onaylatıyor. Bir adım fazladan ama hata oranını çok düşürüyor. Telefon numarası gibi kritik alanlarda tuş takımına yönlendiriyoruz, çünkü sesten rakam almak Türkçede hala sorunlu.
Dördüncü gerçek: telefon hattının kendi dünyası var. Ses kalitesi dar bantlı, arka plan gürültüsü yüksek, hat kopmaları oluyor. Bir de operatör tarafındaki gecikme zincire ekleniyor. Bunu test ortamında hiç göremezsiniz, gerçek hattan aramak zorundasınız. Bizim en büyük hatamız, dört hafta boyunca tarayıcı üzerinden test edip hattı en sona bırakmaktı.
Beşinci gerçek: insana devir hattı olmalı ve çalışıyor olmalı. Kullanıcı "temsilciye bağlan" dediğinde bir saniye içinde bağlanmalı. Bizde ilk sürümde asistan bunu anlamıyordu ve müşteriler telefonu kapatıyordu.
Altıncı gerçek: maliyet. Dakika başına maliyeti hesaplarken üç kalemi de toplayın. Bizde ortalama bir arama 2 dakika 40 saniye sürüyor ve toplam maliyeti, aynı aramayı bir insanın karşılamasının maliyetinin oldukça altında. Ama bu hesap ancak arama hacmi yüksekse anlamlı; günde 30 arama alan bir yer için kurulum emeği kendini çıkarmıyor.
Dört ayın sonunda aramaların yüzde 63'ü asistanla tamamlanıyor, kalanı temsilciye gidiyor. Randevu kaybı yok, en azından ölçebildiğimiz kadarıyla. Sesli asistan kuran var mı, araya girme tespitini nasıl çözdünüz?
Birinci gerçek: gecikme her şeydir. İnsan konuşmasında sessizlik yarım saniyeyi geçince karşı taraf kafasını kaldırıyor, bir saniyeyi geçince "alo" diyor. Zincirin tamamı, yani sesi metne çevirme, modelin cevabı üretmesi ve metni sese çevirme, bu bütçenin içine sığmak zorunda. Bizim ilk sürümümüzde toplam gecikme 2,4 saniyeydi ve aramaların yarısı daha ilk cümlede kopuyordu.
Nasıl düşürdük: modelden cevabı akış halinde alıp ilk cümle tamamlanır tamamlanmaz seslendirmeye gönderdik. Cevabın tamamını beklemek yerine parça parça seslendirmek, algılanan gecikmeyi 2,4 saniyeden 0,8 saniyeye indirdi. Gerçek toplam süre çok değişmedi, ama kullanıcı için değişen her şeydi.
İkinci gerçek: araya girme. İnsanlar asistan konuşurken araya giriyor. Asistan susmazsa insan sinirleniyor. Araya girme tespiti ve o anda seslendirmeyi kesme, teknik olarak sandığımızdan zor çıktı. Hoparlörden çıkan sesin mikrofona geri dönmesi tespiti bozuyor, yankı bastırma şart. Telefon hattında bu durum daha da kötü.
Üçüncü gerçek: Türkçe seslendirme ve tanıma kalitesi İngilizceden geride. Özellikle sayıların, tarihlerin ve özel isimlerin tanınmasında hata çok. Çözümümüz: isimleri ve tarihleri serbest konuşmadan almak yerine onaylatmak. Asistan "ad soyadınızı alabilir miyim" diyor, sonra duyduğunu tekrar edip onaylatıyor. Bir adım fazladan ama hata oranını çok düşürüyor. Telefon numarası gibi kritik alanlarda tuş takımına yönlendiriyoruz, çünkü sesten rakam almak Türkçede hala sorunlu.
Dördüncü gerçek: telefon hattının kendi dünyası var. Ses kalitesi dar bantlı, arka plan gürültüsü yüksek, hat kopmaları oluyor. Bir de operatör tarafındaki gecikme zincire ekleniyor. Bunu test ortamında hiç göremezsiniz, gerçek hattan aramak zorundasınız. Bizim en büyük hatamız, dört hafta boyunca tarayıcı üzerinden test edip hattı en sona bırakmaktı.
Beşinci gerçek: insana devir hattı olmalı ve çalışıyor olmalı. Kullanıcı "temsilciye bağlan" dediğinde bir saniye içinde bağlanmalı. Bizde ilk sürümde asistan bunu anlamıyordu ve müşteriler telefonu kapatıyordu.
Altıncı gerçek: maliyet. Dakika başına maliyeti hesaplarken üç kalemi de toplayın. Bizde ortalama bir arama 2 dakika 40 saniye sürüyor ve toplam maliyeti, aynı aramayı bir insanın karşılamasının maliyetinin oldukça altında. Ama bu hesap ancak arama hacmi yüksekse anlamlı; günde 30 arama alan bir yer için kurulum emeği kendini çıkarmıyor.
Dört ayın sonunda aramaların yüzde 63'ü asistanla tamamlanıyor, kalanı temsilciye gidiyor. Randevu kaybı yok, en azından ölçebildiğimiz kadarıyla. Sesli asistan kuran var mı, araya girme tespitini nasıl çözdünüz?
9 6 yorum
