Uygulamaya yapay zekâ özelliği eklemek: Cihaz üstünde mi, sunucuda mı
İki yol var. Modeli cihaz üzerinde çalıştırmak veya isteği sunucuya gönderip orada işlemek.
Cihaz üstünde çalıştırmanın avantajları: internet gerekmiyor, gecikme yok, kullanıcı verisi cihazdan çıkmıyor ve istek başına maliyet yok. Dezavantajları: uygulama boyutu büyüyor, eski cihazlarda yavaş çalışıyor, pil tüketiyor ve modeli güncellemek için sürüm çıkarmak gerekiyor.
Sunucuda çalıştırmanın avantajları: daha büyük ve yetenekli modeller kullanabiliyorsunuz, modeli istediğiniz zaman güncelleyebiliyorsunuz ve cihaz farkı yok. Dezavantajları: her istek maliyet, internet bağımlılığı, gecikme ve kullanıcı verisinin dışarı çıkması.
Pratik karar kriteri şu: özellik kullanıcının kişisel verisiyle mi çalışıyor ve sık mı kullanılıyor? İkisine de evetse cihaz üstü daha mantıklı. Fotoğraf sınıflandırma, metin önerisi ve basit tahminler bu gruba giriyor.
Karmaşık üretim gerektiren özellikler ise sunucu tarafında kalıyor. Burada maliyet kontrolü kritik, istek başına ücret ödeniyorsa kötüye kullanımı sınırlamak gerekiyor.
Her iki durumda da kullanıcıya ne olduğunu söylemek gerekiyor. Verisinin nereye gittiği, mağaza gizlilik beyanında da doğru şekilde belirtilmeli.
Son olarak, model hata yaptığında ne olacağını tasarlamak gerekiyor. Yanlış sonucu düzeltebilme imkânı sunmayan akıllı özellikler kullanıcıyı çabuk yoruyor.

@sourdiesel