Daha iyi bir Türkiye mümkün! Türkiye'nin girişimcilik ve inovasyon topluluğu·2018'den beri

Yapay Zeka (ai)

/yapayzeka

Bu toplulukta yapay zekâ ile ilgili yeni araçlar, kullanım senaryoları, proje fikirleri, etik tartışmalar, iş dünyasındaki uygulamalar, eğitimde AI kullanımı ve Türkiye’de yapay zekânın gelişimine katkı sunabilecek çalışmalar paylaşılabilir.

#yapay zeka (ai) akışına dön
@selimkolcak · 4 gün önce owasp.org ↗

Yapay zekanın yazdığı kodu üretime almadan önce: ekipçe kullandığımız 9 maddelik gözden geçirme listesi

Ekipte altı yazılımcıyız ve hepimiz kod asistanı kullanıyoruz. Üretkenlik arttı, bunu inkar etmiyorum. Ama altı ayda iki kez, incelemeden geçmiş ve asistan üretimi olan kod yüzünden canlıda sorun yaşadık. İkisi de aynı tipte hatalardı ve ikisi de insan yazsa yapmayacağı hatalardı. Oturup bir liste çıkardık, artık birleştirme isteğinde bu liste zorunlu.

Birinci madde: hata yönetimi gerçekten var mı? Asistanın ürettiği kodda çoğunlukla bir hata yakalama bloğu bulunuyor ama içi boş oluyor ya da hatayı yutup devam ediyor. Sessizce yutulan hata, günler sonra bambaşka bir yerde patlıyor.

İkinci madde: sınır değerler. Boş liste, sıfır, negatif sayı, çok uzun metin ve null durumlarında ne oluyor? Asistan mutlu yolu çok iyi yazıyor, kenarları yazmıyor.

Üçüncü madde: veritabanı sorgusu döngü içinde mi? En sık gördüğümüz performans sorunu bu. Kod doğru çalışıyor, test geçiyor, canlıda bin kayıt gelince bin sorgu atıyor.

Dördüncü madde: girdi doğrulama ve kaçış. Kullanıcıdan gelen veri doğrudan sorguya, komut satırına ya da sayfaya basılıyor mu? Asistanlar genelde örnek kodu sade tutmak için bu adımı atlıyor ve biz de kopyalayıp geçiyoruz.

Beşinci madde: yetki kontrolü. Yeni uç noktada kullanıcının o kaydı görme yetkisi kontrol ediliyor mu? Bizim yaşadığımız ikinci olay tam olarak buydu: liste uç noktası çalışıyordu ama filtre sadece arayüzde vardı.

Altıncı madde: bağımlılık. Asistan var olmayan ya da terk edilmiş bir paket önerebiliyor. Pakete eklemeden önce son yayın tarihine, indirme sayısına ve açık güvenlik uyarılarına bakıyoruz.

Yedinci madde: zaman ve saat dilimi. Tarih karşılaştırmaları sunucu saatine göre mi yapılıyor, veritabanı saatine göre mi? Bu bizim kod tabanında kronik bir sorun ve asistan farkında olmadığı için eski hatayı yeniden üretiyor.

Sekizinci madde: testi kim yazdı? Asistanın yazdığı kodun testini yine asistana yazdırırsanız, kodun yaptığı şeyi doğrulayan bir test çıkıyor, yapması gereken şeyi doğrulayan bir test değil. Testi insan yazsın ya da en azından insan beklenen değerleri elle koysun.

Dokuzuncu madde: anlıyor muyuz? Birleştirme isteğini açan kişi, kodun her satırının ne yaptığını açıklayabiliyor olmalı. Açıklayamıyorsa o kod gitmiyor. Bu madde listeye en son eklendi ve en çok tartışılan madde oldu ama en çok işe yarayan da bu.

Listeyi uygulamaya başladıktan sonra inceleme süremiz kısa vadede uzadı, sonra kısaldı, çünkü insanlar listeye takılmamak için baştan daha dikkatli yazmaya başladı. Sizde benzer bir liste var mı, hangi maddeyi eklersiniz?
6 3 yorum
Yorumlar (3)
@damon · 4 gün önce 5
Dokuzuncu madde en kritik olanı. Biz buna "açıklayamıyorsan sahiplenemezsin" diyoruz. Nöbetçi olduğun gece o kod patlayınca açacak olan sensin.
@tolgaerdem · 4 gün önce 6
Döngü içinde sorgu maddesine ekleme: bunu insan gözüne bırakmak yerine ölçün. Test ortamında istek başına atılan sorgu sayısını loglayıp bir eşiğin üstünde uyarı veren küçük bir kontrol yazdık. Asistan kaynaklı olsun olmasın, bu tip sorunların çoğunu birleştirmeden önce yakalıyor. On satırlık bir kontrol, aylardır en çok iş gören şeyimiz.
@noway · 3 gün önce 3
Bağımlılık maddesine bir uyarı daha ekleyeyim. Asistanın önerdiği paket adının çok yakın bir benzeri kötü niyetli biri tarafından yayımlanmış olabiliyor. Paket adını kopyalamadan önce resmi depodaki sayfasına bakın ve yazımını karşılaştırın. Bu artık bilinen bir saldırı yöntemi ve asistanın ürettiği isim hatası tam da bunun için uygun zemin.
Tanıtım videosu · 1 dk

inovanadolu'yu 1 dakikada tanı

Kanallar, sözlük, İlham blogu, kişilik testleri ve 102 ücretsiz araç. Üretenlerin buluşma noktasında neler olduğunu kısaca izle.