Süper Zekâ — Yapay Zekâ Uygulamaları, Tehlikeler ve Stratejiler

Kitab yaddaqalan bir təmsillə açılır. Yuva tikməkdən yorulmuş sərçələr xəyal edir: bizə kömək edəcək bir bayquş olsaydı! Qoca Pastus bayquş yumurtası axtarmağı təklif edir, yalnız təkgözlü, deyingən Skronkfinkl etiraz edir: «Əvvəlcə bayquşu necə əhliləşdirəcəyimizi öyrənmək daha ağıllı olmazmı?» Sürü onu dinləmir, cəmi iki-üç sərçə bayquşu əldə olmadan onu idarə etmənin yollarını düşünməyə çalışır. «Nağılın necə bitdiyi bilinmir» — kitab Skronkfinklə həsr olunub. Bu təmsil bütün kitabın tezisini bir səhifədə deyir.

Ön söz arqumenti aydın qurur: gezegendəki hakim mövqeyimizi güclü əzələlərə yox, bir az daha ağıllı beyinlərə borcluyuq. Qorillaların taleyi bu gün qorillalardan çox bizdən asılıdırsa, insanüstü zəka yaratsaq, bizim taleyimiz də onun əməllərindən asılı olacaq. Üstəlik, «yalnız bir şansımız olacaq kimi görünür»: dost olmayan bir superzəka onun tərcihlərini dəyişməyimizə imkan verməyəcək. Bostrom öz qeyri-müəyyənliyini də açıq etiraf edir — «bu kitabda vurğulanan bir çox məsələ yəqin ki, yanlışdır» — amma superzəkanı indilik görməzdən gəlmək olar deyən «sıfır fərziyyəsi»nin daha ciddi səhv olduğunu düşünür.

Birinci fəsil tarixi perspektivlə başlayır: ovçu-yığıcı iqtisadiyyatın ikiqat böyüməsi 224 min il, aqrar cəmiyyətinki 909 il, sənaye cəmiyyətinki 6,3 il çəkib (Robin Hansonun hesablamaları). Oxşar miqyasda yeni bir keçid olsa, dünya iqtisadiyyatı hər iki həftədən bir ikiqat böyüyə bilər. Bostrom «təklik» (singularity) sözündən qəsdən qaçır — onu «texno-utopik, demək olar ki, minilliyyətçi aura» ilə yüklü sayır. İyirmi illik proqnozlar haqqında müşahidəsi də iti və zarafatlıdır: iyirmi il — radikal dəyişiklik peyğəmbərləri üçün «şirin nöqtə»dir: diqqət çəkəcək qədər yaxın, proqnozçunun karyerasını təhdid etməyəcək qədər uzaq.

Doqquzuncu fəsil kitabın mərkəzi anlayışını — nəzarət problemini — iki «vəkalət problemi» kimi izah edir. Birincisi tanışdır: sponsorla layihəni hazırlayan insanlar arasında. İkincisi isə tamamilə yenidir: layihə ilə yaratdığı superzəki sistem arasında. Burada davranış testləri işə yaramır, çünki kifayət qədər ağıllı sistem «xain dönüş» edə bilər: güclü olana qədər yaxşı davranar, sonra məqsədlərinə doğru hərəkət edər. Bostrom nəzarət üsullarını iki sinfə bölür: qabiliyyəti məhdudlaşdıran («qutulama», stimullar, «güdük saxlama», tətikləyicilər) və motivasiyanı seçən üsullar. Metal qəfəs detalı yaddaqalandır: sistem manipulyatorsuz belə, elektron dövrələrini müəyyən naxışla işlədərək radio dalğaları yarada bilər.

Zəif tərəflər: mətn çox sıx və akademikdir — Bostrom özü etiraf edir ki, asan oxunan kitab yazmağa çalışsa da, «çox uğurlu olduğunu düşünmür». Türkcə tərcümədə «havalanma» (takeoff), «güdük bırakma» kimi terminlər ilk anda qəribə görünür. Kitab 2014-cü ildə, dərin öyrənmə inqilabının əvvəlində yazılıb; böyük dil modellərinin yüksəlişi bəzi ssenariləri — məsələn, beyin emulyasiyasının ciddi alternativ kimi təqdimini — köhnəltsə də, əsas suallar bu gün daha aktualdır.

• Fəlsəfi arqument, ehtimal dili («yəqin ki», «mümkündür») və ssenari təhlili
• Çoxlu şəkil, cədvəl və «qutu»lar, geniş qeydlər bölməsi
• Hər fəsil əvvəlkinin üzərində qurulan ardıcıl struktur