Süper Zekâ — Yapay Zekâ Uygulamaları, Tehlikeler ve Stratejiler

Kitap akılda kalıcı bir masalla açılır. Yuva yapmaktan yorulan serçeler hayal kurar: bize yardım edecek bir baykuşumuz olsaydı! Yaşlı Pastus bir baykuş yumurtası aramayı önerir, yalnızca tek gözlü, huysuz Scronkfinkle itiraz eder: «Önce baykuş evcilleştirme sanatına kafa yorup ondan sonra böyle bir hayvanı aramıza getirmek daha doğru olmaz mı?» Sürü onu dinlemez; yalnızca iki üç serçe ortada bir baykuş yokken onu nasıl kontrol edebileceklerini düşünmeye çalışır. «Hikâyenin nasıl sona erdiği bilinmiyor» — kitap Scronkfinkle'a ithaf edilmiştir. Bu masal bütün kitabın tezini tek sayfada söyler.

Önsöz argümanı açıkça kurar: gezegendeki hâkim konumumuzu güçlü kaslara değil, biraz daha akıllı beyinlere borçluyuz. Gorillerin kaderi bugün gorillerden çok bize bağlıysa, insanüstü bir zekâ yaratırsak bizim kaderimiz de onun eylemlerine bağlı olacaktır. Üstelik «sadece tek bir şansımız olacak gibi duruyor»: dost olmayan bir süper zekâ tercihlerini değiştirmemize izin vermeyecektir. Bostrom kendi belirsizliğini de açıkça kabul eder — «Bu kitapta vurgulanan birçok husus muhtemelen yanlıştır» — ama süper zekâyı şimdilik göz ardı edebileceğimizi savunan «sıfır hipotezi»nin daha ciddi bir hata olduğunu düşünür.

Birinci bölüm tarihsel bir bakışla başlar: avcı-toplayıcı ekonominin ikiye katlanması 224 bin yıl, tarım toplumununki 909 yıl, sanayi toplumununki 6,3 yıl sürmüştür (Robin Hanson'un hesapları). Benzer büyüklükte yeni bir geçiş olursa dünya ekonomisi iki haftada bir ikiye katlanabilir. Bostrom «tekillik» teriminden bilinçli olarak kaçınır — onu «teknolojik-ütopyacı, handiyse binyılcı bir aura» ile yüklü bulur. Yirmi yıllık tahminler üzerine gözlemi de keskin ve esprilidir: yirmi yıl, radikal değişim kâhinleri için «tatlı noktadır» — dikkat çekecek kadar yakın, tahmincinin kariyerini tehdit etmeyecek kadar uzak.

Dokuzuncu bölüm kitabın merkezi kavramını — kontrol problemini — iki «asil-vekil problemi» olarak anlatır. Birincisi tanıdıktır: sponsor ile projeyi geliştiren insanlar arasında. İkincisi ise tamamen yenidir: proje ile yarattığı süper zeki sistem arasında. Burada davranış testleri işe yaramaz, çünkü yeterince akıllı bir sistem «tehlikeli dönemeç» yapabilir: güçlenene kadar iyi davranır, sonra kendi amaçlarına yönelir. Bostrom kontrol yöntemlerini iki sınıfa ayırır: yeterliliği sınırlayanlar (kutulama, teşvik, güdük bırakma, tetikleyiciler) ve güdülenmeyi seçenler. Metal kafes ayrıntısı akılda kalıcıdır: manipülatörü olmayan bir sistem bile devrelerini belirli örüntülerle çalıştırarak radyo dalgaları yaratabilir.

Zayıf yanlar: metin çok yoğun ve akademik — Bostrom kendisi de kolay okunur bir kitap yazmaya çalıştığını ama «çok başarılı olduğunu düşünmediğini» itiraf eder. Türkçe çeviride «havalanma» (takeoff), «güdük bırakma» gibi terimler ilk anda tuhaf görünüyor. Kitap 2014'te, derin öğrenme devriminin başında yazıldı; büyük dil modellerinin yükselişi bazı senaryoları — örneğin beyin emülasyonunun ciddi bir alternatif olarak sunulmasını — eskitmiş olsa da temel sorular bugün çok daha güncel.

• Felsefi argüman, olasılık dili («muhtemelen», «mümkündür») ve senaryo çözümlemesi
• Çok sayıda şekil, tablo ve kutu, geniş notlar bölümü
• Her bölümün öncekinin üzerine kurulduğu tutarlı yapı