Türkiye'nin en büyük inovasyon ve girişimcilik bültenine katılın
Kanallar İlham Uygulamalar SSS Sözlük Giriş Üye Ol

Yapay Zeka (ai)

/yapayzeka · 8.YIL

Bu toplulukta yapay zekâ ile ilgili yeni araçlar, kullanım senaryoları, proje fikirleri, etik tartışmalar, iş dünyasındaki uygulamalar, eğitimde AI kullanımı ve Türkiye’de yapay zekânın gelişimine katkı sunabilecek çalışmalar paylaşılabilir.

94 içerik Katıl
#yapay zeka (ai) akışına dön

Model karşılaştırma tablosu: Fiyat, gecikme ve çıktı hızı tek ekranda

Model seçerken kalite kadar önemli olan iki şey var: saniyede kaç kelime üretiyor ve bin kelime başına ne kadara mal oluyor. Bu sayfa farklı sağlayıcıların aynı modeli hangi hız ve fiyatla sunduğunu karşılaştırıyor.

En çok işe yarayan sütunlar şunlar: ilk kelimenin gelme süresi, saniyedeki üretim hızı, giriş ve çıkış için ayrı ayrı fiyat, bağlam penceresi büyüklüğü.

İlk kelimenin gelme süresi kullanıcı deneyimi açısından belirleyici. Sohbet arayüzünde kullanıcı cevabın akmaya başlamasını bekliyor, toplam süre değil ilk tepki önemli.

Fiyat tarafında giriş ve çıkış ayrımı kritik. Uzun belgeleri modele okutan uygulamalarda maliyetin çoğu girişten geliyor, kısa istekle uzun metin ürettiren uygulamalarda çıkıştan. Kendi kullanım şeklinizi bilmeden aylık maliyeti tahmin edemezsiniz.

Aynı modelin farklı sağlayıcılarda farklı hız ve fiyatla sunulması da ilginç bir bilgi. Açık ağırlıklı modellerde bu fark ciddi olabiliyor.

Ürün kurarken bu sayfayı bir kez açıp kendi senaryonuza göre hesap yapmak, ay sonunda gelen faturayla karşılaşmaktan iyi.
0 1 yorum
Yorumlar (1)
@erayuzun · 9 gün önce 1
Maliyet hesabı konusuna somut bir uyarı ekleyeyim çünkü en çok burada şaşırılıyor.

Sohbet uygulamalarında konuşma geçmişi her istekte tekrar gönderiliyor. Yani on mesajlık bir konuşmanın onuncu isteğinde önceki dokuz mesaj da girişe dahil oluyor ve tekrar ücretlendiriliyor.

Bu yüzden uzun konuşmalarda maliyet doğrusal değil, hızla artıyor. Çözüm olarak eski mesajları özetleyip kısaltmak veya belirli bir uzunluktan sonra bağlamı sıfırlamak gerekiyor.

Bir de önbellekleme var. Bazı sağlayıcılar tekrar eden giriş kısımları için indirimli fiyat uyguluyor. Sabit bir sistem talimatınız varsa bunu kullanmak ciddi tasarruf sağlıyor.

Bu iki şeyi bilmeden kurulan uygulamalarda fatura beklenenin katları çıkabiliyor.