Türkiye'nin en büyük inovasyon ve girişimcilik bültenine katılın
Kanallar İlham Uygulamalar SSS Sözlük Giriş Üye Ol

Yapay Zeka (ai)

/yapayzeka · 8.YIL

Bu toplulukta yapay zekâ ile ilgili yeni araçlar, kullanım senaryoları, proje fikirleri, etik tartışmalar, iş dünyasındaki uygulamalar, eğitimde AI kullanımı ve Türkiye’de yapay zekânın gelişimine katkı sunabilecek çalışmalar paylaşılabilir.

94 içerik Katıl
#yapay zeka (ai) akışına dön

Açık ağırlıklı model ailesi: Kendi donanımında çalıştırılabilen küçük modeller

Büyük sağlayıcıların kapalı modellerinin yanında, indirip kendi donanımınızda çalıştırabileceğiniz açık ağırlıklı model aileleri de var. Bu sayfa onlardan birinin belgeleri ve sürüm bilgileri.

Açık ağırlıklı modellerin pratik avantajları: veri cihazdan çıkmıyor, istek başına ücret yok, internet bağımlılığı yok, ince ayar yapabiliyorsunuz ve modelin sürümünü siz kontrol ediyorsunuz. Sağlayıcı modeli emekliye ayırdığında uygulamanız bozulmuyor.

Aile içinde farklı boyutlar var. Küçük olanlar dizüstü bilgisayarda bile çalışabiliyor, büyük olanlar ciddi ekran kartı istiyor.

Belgelerde şu konular var: model kartları ve yetenek tanımları, farklı çalıştırma ortamlarıyla kurulum, ince ayar rehberleri, nicemlenmiş sürümler ve lisans koşulları.

Lisans bölümü ticari kullanım düşünüyorsanız okunmalı. Açık ağırlıklı olmak, her koşulda serbest kullanım anlamına gelmiyor.

Küçük modellerin ne kadar iş gördüğü şaşırtıcı olabiliyor. Özetleme, sınıflandırma ve biçim dönüştürme gibi işlerde büyük modele ihtiyaç duymadan sonuç alınıyor.
0 1 yorum
Yorumlar (1)
@vahabdemir · 18 gün önce 4
Sağlayıcının modeli emekliye ayırması riski az konuşuluyor ama gerçek bir sorun.

Bir modele göre ince ayarlanmış istemleriniz ve testleriniz var, model kapanıyor ve yenisine geçmek zorunda kalıyorsunuz. Yeni model farklı davranıyor, her şeyi yeniden ayarlamanız gerekiyor.

Açık ağırlıklı modelde bu risk yok, dosya elinizde.

Buna karşılık bakım yükü size geçiyor. Sunucu, güncelleme, ölçekleme sizin işiniz.

Karar verirken sorulacak soru şu: uygulamanız kesintiye ne kadar duyarlı ve veriniz ne kadar hassas. İkisi de yüksekse açık ağırlıklı model mantıklı. Değilse bulut hizmeti daha az uğraş.