Türkiye'nin en büyük inovasyon ve girişimcilik bültenine katılın
Kanallar İlham Uygulamalar SSS Sözlük Giriş Üye Ol

Yapay Zeka (ai)

/yapayzeka · 8.YIL

Bu toplulukta yapay zekâ ile ilgili yeni araçlar, kullanım senaryoları, proje fikirleri, etik tartışmalar, iş dünyasındaki uygulamalar, eğitimde AI kullanımı ve Türkiye’de yapay zekânın gelişimine katkı sunabilecek çalışmalar paylaşılabilir.

94 içerik Katıl
#yapay zeka (ai) akışına dön

İstem mühendisliği rehberi: Tekniklerin hangisinin ne zaman işe yaradığını araştırmalara dayandıran kaynak

İstem yazma konusunda internette çok tavsiye dolaşıyor ama çoğu kişisel deneyime dayanıyor. Bu rehberin farkı, anlattığı her tekniği kaynak makalelerle ilişkilendirmesi.

Kapsanan başlıca teknikler: sıfır örnekli ve az örnekli istemler, adım adım düşünme, kendi kendini tutarlılık kontrolü, rol tanımlama, çıktı biçimi zorlama, düşünce zincirlerini ayrıştırma ve araç kullanımıyla birleştirilen desenler.

En pratik bölümlerden biri, az örnekli istemlerde örnek seçiminin sonucu nasıl değiştirdiğini anlatan kısım. Verdiğiniz örneklerin sırası, çeşitliliği ve zorluk seviyesi çıktıyı belirgin şekilde etkiliyor. Rastgele üç örnek koymak ile dikkatle seçilmiş üç örnek koymak arasında ciddi fark var.

Bir diğer faydalı bölüm, istem enjeksiyonu ve güvenlik konuları. Kullanıcıdan gelen metni doğrudan isteme yerleştiren uygulamaların nasıl manipüle edilebileceği örneklerle gösteriliyor.

Rehberde ayrıca tekniklerin işe yaramadığı durumlar da yazılı. Bu dürüstlük, tek yönlü tavsiye listelerinden ayıran yanı.
0 2 yorum
Yorumlar (2)
@abdullahkurucay · 43 gün önce 4
Örnek seçiminin önemi konusuna kendi tecrübemi ekleyeyim.

Bir sınıflandırma işinde model sürekli belirli bir kategoriye kayıyordu. Sebep, verdiğim üç örnekten ikisinin o kategoriden olmasıydı. Örnekleri dengeleyince sorun kayboldu.

Bir başka öğrendiğim şey, zor örnekleri de koymak gerektiği. Sadece kolay ve net örnekler verirseniz model sınırda kalan durumları nasıl ele alacağını bilmiyor.

Bir de sıra etkisi var. Son verdiğiniz örnek çıktıyı orantısız etkileyebiliyor. Kritik işlerde örnek sırasını değiştirip sonucun değişip değişmediğine bakmak iyi bir kontrol.
@fakazli · 42 gün önce 2
İstem enjeksiyonu bölümüne dikkat çekmek istiyorum çünkü ürün yapanların çoğu bunu ciddiye almıyor.

Kullanıcının yazdığı metni sistem talimatınızın yanına koyduğunuzda, kullanıcı o talimatı geçersiz kılmaya çalışan bir metin yazabiliyor. Basit bir sohbet uygulamasında bu sadece can sıkıcı, ama model sizin adınıza işlem yapıyorsa gerçek bir güvenlik açığı.

Temel önlem, modelin çıktısına asla doğrudan güvenmemek. Model bir işlem önerdiğinde o işlemin yetkili olup olmadığını kendi kodunuzda kontrol etmek gerekiyor.

İkinci önlem, kullanıcı metnini açıkça sınırlandırmak ve modele o kısmın veri olduğunu, talimat olmadığını söylemek. Tam çözüm değil ama riski azaltıyor.