Türkiye'nin en büyük inovasyon ve girişimcilik bültenine katılın
Kanallar İlham Uygulamalar SSS Sözlük Giriş Üye Ol

Yapay Zeka (ai)

/yapayzeka · 8.YIL

Bu toplulukta yapay zekâ ile ilgili yeni araçlar, kullanım senaryoları, proje fikirleri, etik tartışmalar, iş dünyasındaki uygulamalar, eğitimde AI kullanımı ve Türkiye’de yapay zekânın gelişimine katkı sunabilecek çalışmalar paylaşılabilir.

94 içerik Katıl
#yapay zeka (ai) akışına dön
@gokhancetin · 26 gün önce lmstudio.ai ↗

Arayüzlü yerel model çalıştırma: Komut satırı bilmeden denemek

Yerel model çalıştırmak isteyip komut satırıyla uğraşmak istemeyenler için masaüstü uygulaması. Model arama, indirme ve sohbet arayüzü tek programda toplanmış.

Pratik özellikleri: model kataloğunda arama yapıp doğrudan indirmek, donanımınıza uygun sürümün önerilmesi, indirilen modelle sohbet etmek, kendi belgelerinizi yükleyip sorular sormak ve yerel bir sunucu açarak kendi uygulamanızdan bağlanmak.

Donanım uyumluluğu uyarıları faydalı. Bir modeli indirmeden önce belleğinize sığıp sığmayacağını gösteriyor, böylece indirip çalıştıramama durumu yaşanmıyor.

Yerel sunucu özelliği geliştirme açısından değerli. Standart bir arayüz sunduğu için, bulut sağlayıcı kullanan kodunuzu değiştirmeden yerelde test edebiliyorsunuz. Geliştirme sırasında maliyet sıfıra iniyor.

Öğrenme ve deneme aşaması için önerilen ilk adım burası. Model boyutu ile kalite arasındaki dengeyi kendi makinenizde görmek, konuyu anlamanın en hızlı yolu.
0 1 yorum
Yorumlar (1)
@dandanakan · 23 gün önce 4
Geliştirme sırasında yerel modelle çalışma fikri çok pratik, biz de öyle yapıyoruz.

Özellikle döngü halinde çalışan işlerde bulut maliyeti geliştirme aşamasında bile birikiyor. Yerelde çalışırken sınırsız deneme yapabiliyorsunuz.

Dikkat edilecek nokta, yerel modelin davranışının buluttaki modelden farklı olması. İstem yerelde iyi çalışıp bulutta farklı sonuç verebiliyor.

Bu yüzden akışı yerelde kurup, son ayarı hedef modelle yapmak gerekiyor. Yani yerel model prototip için, hedef model son ayar için.

Bir de belge yükleyip soru sorma özelliği, belge tabanlı sistem kurmadan önce fikrin işe yarayıp yaramayacağını test etmek için hızlı bir yol.