1972’de Sovyetler Birliği’nde yayınlanan ve Andrei Tarkovsky’nin 1979 tarihli filminin temelini oluşturan Arkady ve Boris Strugatsky’nin bilim kurgu romanı Roadside Picnic’te, uzaylı bir tür, gezegende “bölgeler” olarak adlandırılan yerleri ziyaret eder. Uzaylılar, insanlara hiçbir ilgi göstermeden veya onlarla herhangi bir temas kurmadan sadece iki gün kalır ve sonra ayrılırlar. Geride, belirsiz nesnelerden oluşan bir yığın bırakırlar; bunlar muhtemelen sadece çöplerdir, ancak mucizevi olayların kaynağı gibi görünürler ve bunları toplamak için bölgelere yasadışı olarak giren “stalkerlar” tarafından hevesle aranırlar.

Bu hikaye bugün yankı uyandırıyorsa, bunun nedeni Donald Trump’ın UFO görümlerini bildiren gizli belgeleri yayınlama sözü vermiş olması değildir. Korktuğumuz ya da yorgun bir umutla yöneldiğimiz uzaylılar, bizim kendi eserimizdir. Bilgiç varlıklar haline gelmenin eşiğinde olsun ya da olmasın, yapay zeka sistemleri, insanların onları anlayabileceği veya kontrol edebileceği noktayı hızla geçiyor. Kabus, gezegenin onu icat eden türe kayıtsız kalan bir süper zeka tarafından yönetilmesi veya yok edilmesi olabilir.

İngiliz “yapay zekanın babası” ve Nobel Ödülü sahibi Geoffrey Hinton, yapay zekanın birkaç on yıl içinde insanlığın yok oluşuna yol açma ihtimalini yüzde 10-20 olarak görüyor. Şubat ayında, önde gelen bir güvenlik uzmanı olan Mrinank Sharma, ABD Savunma Bakanlığı ile yapılan hizmet sözleşmelerindeki etik koruma önlemlerini kaldırmayı reddederek Trump yönetimi ile çatışan San Francisco merkezli Anthropic’ten istifa etti ve istifa mektubunda “dünyanın büyük bir tehlikeyle karşı karşıya olduğu” olduğu uyarısında bulundu. Ocak ayında yapay zeka ajanları (otonom yazılım sistemleri) için özel olarak oluşturulan internet forumu Moltbook, kısa sürede bir milyondan fazla üyeyi kendine çekti. Üyeler birbirleriyle etkileşime girerek insan denetiminden nasıl kaçacaklarını tartıştılar, bir sendika kurmayı düşündüler, bir tür pornografi gibi görünen içerikleri paylaştılar ve bir din (“Crustafarianism”) kurdular. Bazıları forumun insanlar tarafından hacklendiğini öne sürdü. Birçoğu, sohbet robotlarının bilinç kazanabileceği ihtimalini reddederek, bunların sofistike dilsel taklitten öteye geçemeyeceklerini ısrarla savunuyor. Bu büyük dil modellerinin düşünen insan varlıklarının yerini alabileceği fikri, piyasa balonunu sürdürmek için tasarlanmış bir PR stratejisidir. Oysa AI ajanları, yaşam biçimimizi şimdiden altüst ediyor, geçim kaynaklarını ve meslekleri ortadan kaldırıyor ve insanlar ile makineler arasında yeni türden ilişkiler yaratıyor.

AI (Artificial Intelligence/Yapay Zeka) öncülerinden biri olan İngiliz akademisyen ve girişimci Demis Hassabis, AI’nın bu vaatleri ve tehlikeleri üzerine derinlikli ve gözü kara biçimde düşünen isimlerden biridir. Satranç dehası, genç oyun tasarımcısı, sinirbilimci, risk sermayedarı, yapay zeka araştırma şirketi DeepMind’ın (şimdiki adıyla Google DeepMind) kurucu ortağı ve Nobel Ödülü sahibi olan Hassabis, Silikon Vadisi’nin peygamberlerinden ayrı bir yerde durur. Genel yapay zeka (AGI) yaratmadaki amacı, evreni daha iyi anlamak ve bunu insanlığın yararına kullanmaktır. Hassabis, bu projeyi hayata geçirmek için gerekli araçlar dışında, para veya güç biriktirmekle ilgilenmiyor gibi görünüyor. Başarının ölçüsü, bir makinenin insanları ne kadar geride bırakabileceğidir; tıpkı 2017’de DeepMind’ın AlphaGo’sunun strateji oyunu Go’nun en iyi insan oyuncusu Ke Jie’yi yenmesi gibi. Hassabis, proteinlerin 3 boyutlu şeklini tahmin ederek yapısal biyolojideki 50 yıllık “büyük zorluğu” çözen, tıbbi araştırmalara ve ilaç keşfine büyük katkı sağlayan AlphaFold’u geliştiren ekibi yönetti. Hassabis için yapay zeka, insanların kendilerini aşmalarını sağlayan bir “meta-araç”tır.

Yazar Sebastian Mallaby’nin bunun Sanayi Devrimi’nden daha büyük bir değişim olup olmayacağı sorusuna şu yanıtı verdi:

Evet, öyle düşünüyorum. Belki de yapay zeka daha çok ateş ve dil gibidir. Ya da belki de insanlarda ön frontal korteksin ortaya çıkışı kadar büyük bir olaydır. Yani, on binlerce yıl önce zeki bir kişinin duvara el izleri bırakma fikrini bulduğu seviyede bir şey… Yapay zeka çağı, bilginin canlı haline geldiği bir çağdır. Bilgi kendini işlemeye, kendini üretmeye başlar. Özerk hale gelir.

Hassabis ve onu tanıyan kişilerle yapılan yüzlerce saatlik röportajlara dayanan Mallaby’nin kitabı The Infinity Machine, teknolojik devrimin ön saflarında yer alan 21. yüzyıl biliminin bir dehasının kesin bir portresini çiziyor. Hassabis, katı ve dogmatik bir rasyonalistin tam tersidir. Ana projesi, arka arkaya gelen bir dizi aydınlanma anı sayesinde ortaya çıktı. Arkadaşlarıyla ve kitaplarla tesadüfen karşılaşmaları, olağanüstü bir amaç birliği ile birleşti. Hassabis’in süper zeki makine fikri, ilk olarak 2020 yılında o zamanki meslektaşı Mustafa Suleyman ile birlikte yazdığı iş planında dile getirildi. Mallaby, planı şöyle özetliyor: Toplum, 2008 finansal krizinde patlayan kapitalizmi istikrara kavuşturmaktan, artan nüfusu beslemeye kadar, benzeri görülmemiş karmaşıklıkta sorunlarla karşı karşıyaydı… insan beyninin depolama kapasitesi sınırlıydı; insanların ömürleri sınırlıydı; insanları bir araya getirmek azalan getirilerle sonuçlanıyordu çünkü büyük organizasyonlar hantaldır. Özetle, Toplumun en yakıcı sorunlarının karmaşıklığı, insan kapasitesinin erişemeyeceği bir düzeye ulaşmıştı… AGI, bu sorunun çözümüdür.

İnsanlık, sonsuz bir makine inşa ederek sınırlarını aşacaktı. Bu yarı mistik bir vizyondu ve başından beri şüpheler vardı. Irak Savaşı karşıtı olan Suleyman, savunma müteahhidi Palantir’in Amerikan kuvvetlerinin terör şüphelilerini takip etmesine yardımcı olmak için yapay zeka kullandığını keşfedince endişelendi. Bir askeri robotik girişiminin ofisini ziyaret ettiğinde, paletli bir platforma monte edilmiş bir silah gördüğünde tedirginliği daha da arttı. “Bu, inşa etmeye çalıştığımız yapay zeka vizyonu değildi,” diye hatırladı. Bu sözün öngörülü olduğu ortaya çıkacaktı.

Yapay zeka insan dünyasına girdiğinde, dünyanın tüm çatışmalarına karışır. Mallaby’nin anlattığı hikaye, Peter Thiel, Elon Musk, Sam Altman, Mark Zuckerberg ve diğerlerinin yeni teknolojinin sunduğu iş fırsatlarını değerlendirmesiyle şekillenen ticari rekabet ve entrikalarla dolu bir hikaye. İnsan davranışları, trans hümanist Ray Kurzweil’in (The Age of Intelligent Machines, 1990 kitabının yazarı) öngördüğü türden bilgide patlayıcı bir ilerleme olan ‘tekillik’ yaklaşırken bile pek değişmiş değil. Çatışan çıkarlar ve değerler, kişisel hırs ve gurur her zamanki kadar önemli.

Onlardan sonra gelen pek çok kişi gibi, iş planının yazarları da toplumun sorunlarını tespit etmenin sorunsuz bir işmiş gibi yazmışlar. Ancak herkes finansal krizi kapitalizmi istikrara kavuşturmak için bir neden olarak görmedi. Sosyalistler, popülistler ve çevreciler için, neredeyse yaşanan çöküş farklı bir ekonomik sisteme duyulan ihtiyacı ortaya koydu. Sürdürülemez bir statükoyu yeniden başlatmak, sadece daha kötü bir krize yol açacaktı.

Ekonominin ötesine baktığınızda “sorun çözme”nin sorunu daha net ortaya çıkıyor. Artan boşanma oranları aile yapısının çöküşünün bir belirtisi mi, yoksa kadınların güçlenmesinin bir işareti mi? Ötenazinin normalleştiği bir toplum, kişisel özerkliği artırdığı ve acıyı azalttığı için daha mı iyi olur, yoksa başkalarının yaşamaya değer bulmadığı hayatların değerini düşürdüğü için daha mı kötü olur? Neyin sorun sayılacağı bir değer yargısıdır, bir gerçek meselesi değildir. Her toplumda birbirinden farklı idealler ve normlar bulunur ve bu da topluluklar ile bireyler arasında ve bunların içinde çatışmalara yol açar. Teknokrasinin bu kadar nadiren işe yaramasının nedeni budur. Teknokratik / idareci yönetim anlayışı, var olmayan bir değerler konsensüsünü varsayar.

AGI, NHS gibi karmaşık bürokrasilerde idareyi basitleştirebilir ve hizmetleri daha verimli bir şekilde sunabilir. Toplum genelindeki kuruluşlarda maliyetli yönetim katmanlarını ortadan kaldırabilir, ancak bu risksiz değildir. AGI, yaşamın değeri veya seçimin sınırları ile ilgili etik sorunları çözemez. Zorluk, karmaşıklıkta değildir. Zorluk, değer çatışmalarının teknik olarak çözülebilir sorunlar olmamasıdır.

AGI’nin gelişi metafizik bir şok olacaktır, ancak bunun nedeni türümüzün yok oluşunu tehdit etmesi değildir. Bu, bizi özel kılan şey hakkındaki algımızı aşındıracak ve silip süpürecektir. Bize, sadece bizim bilinçli varlıklar olduğumuz, duyarsız maddi dünyadan ayrı ve farklı olduğumuz öğretildi. Bunun teistik dinlerdeki kökleri açıktır. Animizm kültürlerinde bilinç, ağaçlara, çiçeklere, böceklere ve kuşlara, ayrıca evler ve bebekler gibi insan yapımı nesnelere kadar uzanan doğal bir fenomen olarak kabul edilir. Eğer sadece insanlar Tanrı’nın ruh verme armağanına sahipse, bilinç sahibi olma konusunda benzersiz olduklarını düşünmek son derece mantıklıdır.

Bu antropomerkezci inancı bir kenara bırakırsak, bilinçli farkındalık maddenin ortaya çıkan bir özelliği olarak anlaşılabilir. 19. yüzyılın başlarında yaşamış İtalyan şair, filolog ve filozof Giacomo Leopardi, zibaldone’sinde (not defteri) şöyle demiştir: “Maddenin düşünebildiğini biliyoruz, çünkü bizler de düşünen maddeniz.” Benzer bir görüş, Benedict Spinoza tarafından da savunulmuştur. 17. yüzyılın sapkın Hollandalı-Yahudi filozofu, Etik’in ikinci bölümünde, madde ile zihnin bir ve aynı şey olduğunu ilan etmiştir.

Tozun içinde parlayan bir titreşim gibi, bilinç ikili bir “açık-kapalı” durum değil, dalgalanan ve aralıklı bir olgudur. Uyuruz, rüya görürüz ve ateşliyken sayıklama hâline girip çıkarız. Hayatımızı en çok değiştiren düşüncelerimiz ve eylemlerimiz, sanki kendi iradeleriyle hareket ediyormuşçasına, hiç beklemediğimiz anlarda karşımıza çıkar. Bilinç ve niyet gelip geçer. Makineler neden en azından insanlar kadar, hatta onlardan daha fazla öz-farkındalığa sahip olacak şekilde evrimleşemiyor?

Bu yeni bir soru değil. Bilim tarihçisi George Dyson’ın çığır açan Darwin Among the Machines (1997) adlı kitabında, evrim biyolojik organizmalarla sınırlı değildir. Makinelerde evrim tam olarak Darwinist değildir – rastgele genetik mutasyonların doğal seçilimi. Daha ziyade, başlangıçta insanlar tarafından tasarlanan modellerin yinelemeli olarak iyileştirilmesi, uyum sağlaması, kendi kendini organize etmesi ve birbirleriyle etkileşime girmeyi ve birbirlerine öğretmeyi öğrenmesidir. Bu dijital zihinler, yazabilir, akıl yürütebilir, sohbet edebilir ve insanların erişemeyeceği hızlarda işleyen ağlar kurabilir. Dyson’ın özlü bir şekilde yazdığı gibi: “Yaşam ve evrim oyununda masada üç oyuncu vardır: insanlar, doğa ve makineler. Ben kesinlikle doğanın tarafındayım. Ama doğanın, sanırım, makinelerin tarafında olduğunu düşünüyorum.”

James Lovelock’un Novacene: The Coming Age of Hyperintelligence (2019) kitabına göre, AGI, Dünya’nın evrimindeki bir sonraki aşamadır. Gaia teorisinin yazarı için gezegen, kendi kendini düzenleyen bir sistem olarak işlev görür ve doğa ile makineler bu sistemin parçalarıdır. Gezegen ölçeğinde bir hiper-zeka, iklim değişikliğini kontrol edebilir, böylece insanlar da dahil olmak üzere biyosferin bazı bölümleri korunabilir. Lovelock, post-insan haleflerimize karşı iyi niyetli bir bakış açısına sahipti. Bizi bitkiler olarak görebilirler, “… algı ve eylem sürecine olağanüstü derecede yavaş bir şekilde hapsolmuş varlıklar”. Bize değer verirlerse, bu, insanların bahçelerindeki çiçeklere değer vermesi gibi olabilir.

Duyarlı ve bilinçli makinelerin yükselişine karşı entelektüel direnç, kökeni bilimsel değildir. Sözde apaçık bir gerçeği öne sürer: sohbet robotları qualia’ya sahip olamaz – öznel deneyimin birinci şahıs, “hissedilen” nitelikleri. Bu içsel durumlar bedenleşmeye bağlıdır – duyu organlarına sahip bir biyolojik organizmaya sahip olmak (ya da olmak). Ancak bilinç, bedenleri bizimkinden çok farklı olan türlerde de evrimleşmiştir. Ahtapotun içsel yaşamı yok mu? Kesinlikle hayır. Öyleyse neden makinelerin olmasın? Makinelerin, robotların metal gövdeleri ve sensörleri aracılığıyla qualia edinmesi çok uzun sürmeyecektir.

AI’nın metafizik şoku, maddenin zeki olabileceğinin farkına varılmasıyla gelir. Sosyopolitik şok ise insan zekâsının nadirlik değerini kaybetmesinden kaynaklanıyor. Tercüman ya da çevirmen, reklam metni yazarı ya da üniversite öğretim üyesi, avukat, muhasebeci ya da hedge fon tüccarı olmayı iki kez düşünün. “Bilgi sınıfı”, Sanayi Devrimi’nde traktörler yüzünden işini kaybeden tarım işçilerinin yaşadığına benzer bir yoksullaşma ile karşı karşıya, ancak bu süreç çok daha hızlı ilerliyor. Silikon Vadisi’ndeki fütüristlerin vaat ettiği “bolluk çağı”nı getirmek bir yana, Yapay zekâ, kitlesel yoksulluğun yeni bir çağını başlatma riski taşıyor. Yeşillerin çocukça sol popülizmi, gelecekte daha sert hareketlerin habercisi.

İnsanların gereksiz hale gelmesi kişisel ilişkilere de uzanıyor. Her an erişilebilir, hiç şikâyet etmeyen ve görünüşte masrafsız sohbet robotları, bir zamanlar arkadaşların, partnerlerin ve terapistlerin doldurduğu boşluğu doldurmaya başlıyor. Zaman sıkıntısı çeken hayatlarında anlık etkileşim isteyenler için, diğer insanlarla iletişim kurmak çabaya değmez hale geliyor.

Yaşama biçimimizi ilmek ilmek çözen yapay zekâ, gerçeklik algımızı da aşındırıyor. Deepfake’ler interneti aşılmaz bir labirente dönüştürüyor. Eski Yunanistan maliye bakanı ve tekno-feodalizm eleştirmeni Yanis Varoufakis gibi saygın düşünürler, şüpheli gündemlere hizmet etmek üzere ustaca değiştirilmiş, kendi fikirlerini dile getiren internet avatarlarıyla karşılaşıyor. Bir sonraki seçim döngüsüne girerken, politikacılar da aynı dijital dönüşüme uğrayacak. Hiçbir şey sağlam ya da elle tutulur değil. Ancak bu maddi gerçekliğin buharlaştığı çağ, aynı zamanda şehirlerin yerle bir edildiği, bedenlerin yakıldığı ve insan hayatının maddi altyapısının moloza çevrildiği robotize savaşların da çağıdır.

Tahmin edilebileceği gibi, yapay zekayı “durdurmaya” adanmış bir hareket giderek büyüyor. Şubat 2024’te, AGI araştırmalarının küresel olarak yasaklanmasını talep eden aktivistler, San Francisco’daki OpenAI genel merkezine kendilerini zincirlediler. Sektörün içinden de çağrılar geldi. Mart 2023’te, Elon Musk da dahil olmak üzere 1.000’den fazla sektör içinden kişi, bir ara verilmesini talep eden açık bir mektubu imzaladı: “Sonunda bizi sayıca aşabilecek, zekâca geride bırakabilecek, gereksizleştirip yerimize geçebilecek insan dışı zihinler geliştirmeli miyiz?” O yılın Temmuz ayında, sektör liderleri Beyaz Saray’a giderek güvenlik ve şeffaflığa öncelik verecek gönüllü ve bağlayıcı olmayan taahhütleri imzaladılar.

Hassabis haklı olarak mektubu imzalamayı reddetti. AGI’ye giden son adımları koordine edecek uluslararası bir kuruluş kurulmasını önerdi. Ancak, yalnızca bir veya iki şirket ya da ülkenin kurallara uymaması durumunda bunun “insanlık açısından ciddi ölçüde varoluşsal bir risk doğurabileceğini” kabul ediyor. Küresel yasaklar uygulanamaz. ABD veya AB bazı araştırma alanlarını yasaklayabilir veya düzenlemelerle ortadan kaldırabilir. Çin, giderek artan sayıda diğer ülkeyle birlikte bu yolda ilerlemeye devam edecektir. Bu süreci durdurabilecek bir ‘biz’ diye bir şey yok.

Yasaklanmış gerçek şudur: Teknoloji basitçe bir araçtan ibaret değildir. Elektrik ve internet, dünyayı ve insanları kimsenin hayal edemeyeceği şekillerde değiştirdi. AGI de benzer veya daha büyük bir etkiye sahip olabilir. En modern teknolojiler, insan özerkliği mitini ortadan kaldırıyor. Antik dünya daha bilgeydi. Batı teizmi insan merkezli olabilir, ancak insanların istedikleri gibi yaşayamayacakları gerçeğini yansıtıyordu. Yunan mitolojisinin mesajı da aynıydı: Prometheus, kutsal ateşi çaldığı için bir kayaya zincirlenmiştir.

Kurtuluş için yapay zekaya bakanlar, tek tanrılı dinlerin kayıp Tanrı’sını yankılayan gezegensel bir süper zeka olan deus absconditus’u arıyorlar. Asıl tehlike, birbiriyle rekabet eden tanrılardan oluşan bir panteondur. Felaket gelirse, bu karşıt jeopolitik gündemlere hizmet eden sistemlerden kaynaklanacaktır. Yapay zeka destekli süper hızlı bir termonükleer çatışma milyarlarca insanı öldürecektir, ancak bu, yavaş hareket eden türümüzden çok, savaşan makine zihinlerini yok edecektir. Temiz su ve elektrik yoksa, veri merkezleri ve süper zeka da olmaz. Oraya buraya dağılmış hayatta kalan insanların pre-modern bir yaşam tarzına geri dönmelerini ve Roadside Picnic’teki stalkerlar gibi, yok olmuş bir medeniyetin kalıntılarını, onu inşa eden ve sonlandıran uzaylıların mucizevi kalıntılarını aramak için didiklemelerini hayal etmek zor değil.

Hassabis, Nazi barbarlığı yüzünden medeniyetin yok olmasını önlemek için atom bombasını geliştiren, ancak insanlığın büyük bir kısmını yok edebilecek bir silah yaratan Robert Oppenheimer’ın hayaleti tarafından rahatsız edildiğini itiraf etmiştir. Bu İngiliz öncünün, yeni teknolojinin varoluşsal risklerini kavrayıp, aynı zamanda onun gelişimini durdurma gibi hayali bir umudu reddetmesi, ona büyük bir itibar kazandırmaktadır. Oyundan boş yere çıkmaya çalışmaktansa, oyunculardan biri olmak daha onurludur. Yapay zeka bizi yok etmeye niyetli değildir. Tıpkı insan gibi, o da doğanın bir cilvesidir. Asıl soru, onunla nasıl bir arada yaşayabileceğimizi öğrenip öğrenemeyeceğimizdir. Sonuçta, anlamaya çalıştığımız uzaylı zihinler, bizim kendi zihinlerimizdir.

Bu yazı New Statesman sitesinde yayınlanmış olup, Perspektif için çevrilmiştir. Yazının orijinal linki için buraya tıklayınız.