Bir diğer büyük sağlayıcının belgeleri: Model aileleri ve yetenek farkları
Genel kural şu: en büyük model her iş için gerekli değil. Sınıflandırma, biçim dönüştürme, kısa özet ve etiketleme gibi işlerde küçük modeller hem yeterli hem çok daha ucuz ve hızlı. Karmaşık akıl yürütme, uzun planlama ve zor kod problemlerinde ise fark açılıyor.
Belgelerdeki diğer önemli bölümler: akış halinde yanıt alma, fonksiyon çağırma, yapılandırılmış çıktı, gömme vektörleri, ses ve görüntü işleme, toplu işleme ile maliyet düşürme.
Toplu işleme özelliği az bilinen ama maliyet açısından önemli. Acil olmayan işleri toplu kuyruğa gönderdiğinizde belirgin indirim uygulanıyor. Gecelik veri işleme, arşiv sınıflandırma ve toplu özet çıkarma gibi işler için ideal.
Hız sınırları bölümü de üretim ortamına geçmeden okunmalı. Sınıra takılan uygulamaların nasıl davranacağını baştan planlamak gerekiyor.

@bananaman