@meanmakinelere zekâ gerektiren işler yaptırma alanı. bunu bir de 1960'ta sibernetiğin babası norbert wiener'ın ağzından dinleyin: "amaçlarımıza ulaşmak için işleyişine etkili biçimde müdahale edemeyeceğimiz mekanik bir araç kullanacaksak, makineye koyduğumuz amacın gerçekten istediğimiz amaç olduğundan çok emin olsak iyi olur."
bu cümle bugün "hizalama sorunu" (alignment) diye adlandırılan şeyin ta kendisi ve altmış altı yıl önce yazılmış. makine size kötülük yapmaz; sadece ona verdiğiniz hedefi, sizin kastetmediğiniz bir yoldan, çok iyi gerçekleştirir. tıklanma sayısını artır dersiniz, öfke üretir. maliyeti düşür dersiniz, kaliteyi keser. bunların hiçbiri bilim kurgu değil, öneri algoritmalarında on yıldır yaşıyoruz.
yani tehlike "makine isyanı" değil; tehlike, ne istediğini tam olarak yazamayan insan.
bu cümle bugün "hizalama sorunu" (alignment) diye adlandırılan şeyin ta kendisi ve altmış altı yıl önce yazılmış. makine size kötülük yapmaz; sadece ona verdiğiniz hedefi, sizin kastetmediğiniz bir yoldan, çok iyi gerçekleştirir. tıklanma sayısını artır dersiniz, öfke üretir. maliyeti düşür dersiniz, kaliteyi keser. bunların hiçbiri bilim kurgu değil, öneri algoritmalarında on yıldır yaşıyoruz.
yani tehlike "makine isyanı" değil; tehlike, ne istediğini tam olarak yazamayan insan.