Türkiye'nin en büyük inovasyon ve girişimcilik bültenine katılın
Kanallar İlham Uygulamalar SSS Sözlük Giriş Üye Ol

Yapay Zeka (ai)

/yapayzeka · 8.YIL

Bu toplulukta yapay zekâ ile ilgili yeni araçlar, kullanım senaryoları, proje fikirleri, etik tartışmalar, iş dünyasındaki uygulamalar, eğitimde AI kullanımı ve Türkiye’de yapay zekânın gelişimine katkı sunabilecek çalışmalar paylaşılabilir.

94 içerik Katıl
#yapay zeka (ai) akışına dön

Bir diğer büyük sağlayıcının belgeleri: Model aileleri ve yetenek farkları

Model sağlayıcılarının belgelerinde en faydalı bölüm genelde model karşılaştırma tablosu oluyor. Aynı ailede farklı boyutlarda modeller var ve hangisinin hangi iş için uygun olduğu burada tanımlı.

Genel kural şu: en büyük model her iş için gerekli değil. Sınıflandırma, biçim dönüştürme, kısa özet ve etiketleme gibi işlerde küçük modeller hem yeterli hem çok daha ucuz ve hızlı. Karmaşık akıl yürütme, uzun planlama ve zor kod problemlerinde ise fark açılıyor.

Belgelerdeki diğer önemli bölümler: akış halinde yanıt alma, fonksiyon çağırma, yapılandırılmış çıktı, gömme vektörleri, ses ve görüntü işleme, toplu işleme ile maliyet düşürme.

Toplu işleme özelliği az bilinen ama maliyet açısından önemli. Acil olmayan işleri toplu kuyruğa gönderdiğinizde belirgin indirim uygulanıyor. Gecelik veri işleme, arşiv sınıflandırma ve toplu özet çıkarma gibi işler için ideal.

Hız sınırları bölümü de üretim ortamına geçmeden okunmalı. Sınıra takılan uygulamaların nasıl davranacağını baştan planlamak gerekiyor.
0 2 yorum
Yorumlar (2)
@erayuzun · 43 gün önce 4
Toplu işleme özelliğini vurgulamak çok yerinde, maliyeti yarıya yakın düşürebiliyor.

Bizde otuz bin ürün açıklamasını yeniden yazma işi vardı. Tek tek gerçek zamanlı göndermek hem pahalı hem yavaştı. Toplu kuyruğa gönderdiğimizde maliyet belirgin düştü ve sonuçlar birkaç saat içinde geldi.

Kullanım koşulu şu: sonucu hemen göstermeniz gerekmiyorsa toplu kuyruk uygun. Kullanıcı beklerken kullanılamaz.

Bir de model boyutu seçimi konusuna katılıyorum. Aynı iş için önce en küçük modeli deneyip yeterli mi diye bakmak gerekiyor. Çoğu işte yeterli oluyor ve maliyet farkı kat kat.
@bberber · 40 gün önce 1
Hız sınırları konusuna pratik bir uyarı ekleyeyim.

Geliştirme sırasında sınıra takılmıyorsunuz çünkü tek kullanıcısınız. Canlıya çıkınca aynı anda gelen istekler sınırı zorluyor ve istekler reddedilmeye başlıyor.

Önlem olarak üstel geri çekilmeli yeniden deneme mekanizması kurmak gerekiyor. İstek reddedilirse kısa bekleyip tekrar denemek, her denemede bekleme süresini artırmak.

İkinci önlem kuyruk kullanmak. İstekleri doğrudan göndermek yerine bir kuyruğa alıp kontrollü hızda işlemek.

Bu ikisi olmadan canlıya çıkan uygulamalar yoğun anlarda hata veriyor ve kullanıcı sebebini anlamıyor.