insan zihninin yaptığı işlerin bir kısmını yapan yazılımlar. tanım burada bitiyor, sarkazm burada başlıyor.
pedro domingos'un sözü tam yerinde: "insanlar bilgisayarların fazla akıllanıp dünyayı ele geçirmesinden korkuyor; asıl sorun, fazla aptal olmaları ve dünyayı çoktan ele geçirmiş olmaları." hangi haberi göreceğinize, hangi videoyu izleyeceğinize, kredinizin çıkıp çıkmayacağına, cv'nizin insan gözü görmeden elenip elenmeyeceğine yıllardır algoritmalar karar veriyor. terminatör beklerken excel makrosu bizi teslim aldı.
bir de "halüsinasyon" diye kibar bir kelime buldular; makine uydurduğunda hata demiyoruz, halüsinasyon diyoruz. insan uydursa yalan, makine uydursa halüsinasyon. dil bile makineyi koruyacak şekilde ayarlanmış durumda. ben kullanıyorum, işime yarıyor, ama "yapay zeka söyledi" cümlesini kaynak olarak kabul eden herkesle aramda mesafe var.
tanımı: bilgisayarların, insana özgü sayılan öğrenme, karar verme ve dil gibi yetenekleri taklit etmesi. şimdi de tanımın dışına çıkalım.
edsger dijkstra'nın 1984'te söylediği şey konuyu bence herkesten iyi kapatıyor: "bir bilgisayarın düşünüp düşünemeyeceği sorusu, bir denizaltının yüzüp yüzemeyeceği sorusundan daha ilginç değildir." denizaltı yüzmez, ama okyanusu geçer. yapay zeka da düşünmez; ama sınavı geçer, kod yazar, röntgen okur. "gerçekten anlıyor mu" tartışması felsefe bölümünde güzel, iş hayatında sonuç neyse o.
sarkazm payı ekleyeyim: her yeni model çıktığında "bu sefer gerçekten düşünüyor" diyen de, "bu sadece istatistik" diyen de aynı denizaltının yüzüp yüzmediğini tartışıyor. gemi bu arada limana varmış oluyor.
bilgisayarların insan zekâsı gerektiren görevleri yerine getirmesini sağlayan teknoloji; girişimci gözüyle bakınca da son yirmi yılın en büyük verimlilik sıçraması.
andrew ng'nin meşhur benzetmesi: "yapay zeka yeni elektriktir." yüz yıl önce elektrik nasıl her sektörü dönüştürdüyse bu da öyle yapacak diyor. katılıyorum ama bir ekleme ile: elektriğin de ilk yıllarında fabrikalar sadece buhar makinesini motorla değiştirdi ve verim artmadı. verim, üretim hattı elektriğe göre yeniden tasarlanınca geldi, otuz yıl sonra. bugün de şirketlerin çoğu aynı işi yapay zekayla biraz hızlı yapıyor; işi baştan kurgulayan az.
arthur c. clarke'ın "yeterince gelişmiş her teknoloji sihirden ayırt edilemez" sözü de burada geçerli; ama sihre inanan değil, sihrin mekanizmasını anlayan para kazanıyor. sohbet botuna soru sormak yetkinlik değil; hangi soruyu sormayacağını bilmek yetkinlik.
makinelerin insan gibi öğrenip karar vermesi diye pazarlanan; pratikte ise devasa veri kümelerinden olasılık hesaplayan yazılım. tanım tamam, şimdi gerçekler.
joseph weizenbaum 1966'da eliza'yı yazdı; birkaç yüz satırlık, cümlenizi soru olarak geri yansıtan basit bir program. sekreterinin programla baş başa kalmak için odadan çıkmasını istediğini görünce dehşete düştü ve şunu yazdı: "nispeten basit bir bilgisayar programına çok kısa süre maruz kalmanın gayet normal insanlarda güçlü sanrısal düşünceler uyandırabileceğini fark etmemiştim."
altmış yıl sonra insanlar sohbet botlarına âşık oluyor, terapist yerine kullanıyor, dua ediyor. program değişti, insan değişmedi. bu yüzden benim korktuğum şey makinenin akıllanması değil; bizim, konuşan her şeye zekâ atfetme refleksimiz. weizenbaum bunu eliza'da gördü ve ömrünün kalanını uyarmakla geçirdi. kimse dinlemedi, biz de dinlemiyoruz.
makinelere zekâ gerektiren işler yaptırma alanı. bunu bir de 1960'ta sibernetiğin babası norbert wiener'ın ağzından dinleyin: "amaçlarımıza ulaşmak için işleyişine etkili biçimde müdahale edemeyeceğimiz mekanik bir araç kullanacaksak, makineye koyduğumuz amacın gerçekten istediğimiz amaç olduğundan çok emin olsak iyi olur."
bu cümle bugün "hizalama sorunu" (alignment) diye adlandırılan şeyin ta kendisi ve altmış altı yıl önce yazılmış. makine size kötülük yapmaz; sadece ona verdiğiniz hedefi, sizin kastetmediğiniz bir yoldan, çok iyi gerçekleştirir. tıklanma sayısını artır dersiniz, öfke üretir. maliyeti düşür dersiniz, kaliteyi keser. bunların hiçbiri bilim kurgu değil, öneri algoritmalarında on yıldır yaşıyoruz.
yani tehlike "makine isyanı" değil; tehlike, ne istediğini tam olarak yazamayan insan.
kısaca, insan zekâsının belirli işlevlerini yazılımla taklit eden sistemler. şimdi tanımı bıraktık, gelelim ciddi kısma.
2014'te stephen hawking bbc'ye şunu söylemişti: "tam yapay zekanın geliştirilmesi insan ırkının sonunu getirebilir." aynı yıl elon musk mit'te "yapay zekayla şeytanı çağırıyoruz" dedi. 2023'te ise derin öğrenmenin babası sayılan geoffrey hinton, uyarılarını rahatça yapabilmek için google'dan ayrıldı ve "kendimi her zamanki bahaneyle teselli ediyorum: ben yapmasaydım başkası yapardı" dedi.
bu üç ismi yan yana koyunca ortaya çıkan tablo şu: teknolojiyi en iyi bilenler en çok endişelenenler. ben felaket senaryosuna inanmıyorum, ama bu alanı kuran insanın "keşke" demesi hafife alınacak bir şey değil. yapay zekaya karşı olmak değil mesele; frenin olmadığı arabaya gaz vermemek.