Karl Marx “El değirmeni size feodal lordlu bir toplum; buharlı makinaysa sınai kapitalistli bir toplum verir” diyordu. Haklıydı da. Teknolojik keşiflerin egemen üretim biçimini ve toplumda bu biçime hangi siyasi otoritenin eşlik edeceğini nasıl belirlediğine tarih boyunca defalarca tanık olduk. 

Peki yapay zekâ bize ne verecek? Sadece toplumlarımızın egemen üretim gücü olmakla kalmayan (bir zamanların el değirmeni ve buharlı makinaları gibi) ve haberlerde gördüğümüz üzere, aynı zamanda “hızla kontrolümüzün dışına çıkan” bu yeni teknolojiden kim fayda sağlayacak? 

Yapay zekâ, pek çok kişinin inanıyor olduğu gibi, kendi başına bir hayat sürebilir ve tarihimizin seyrini tek başına belirleyebilir mi? Yoksa belirli bir gündeme hizmet eden ve belirli bir insan grubuna fayda sağlayan diğer teknolojik icatlardan biri olarak mı kalacak? 

Yapay zekânın ürettiği, 2013’te kayak yaparken geçirdiği feci kazadan bu yana basına konuşamayan Formula 1’in eski dünya şampiyonlarından Michael Schumacher ile yapılan “röportaj,” eski ABD Başkanı Donald Trump’ın New York’ta gözaltına alındığını gösteren “fotoğraflar” ve OpenAI’ın herkesçe bilinen chatbot’u ChatGPT’nin “yazdığı” neredeyse özgün denebilecek ödevler gibi aşırı gerçekçi örnekler, entelektüeller, siyasetçiler ve akademisyenler arasında bu yeni teknolojinin toplumlarımız için tehlike oluşturabileceğine ilişkin endişe yarattı. 

Bu endişeler sonrasında, Mart ayında, Apple’ın kurucu ortaklarından Steve Wozniak, yapay zekânın önde gelen isimlerinden Yoshua Bengio ve Tesla/Twitter’ın Yönetim Kurulu Başkanı Elon Musk’ın da aralarında bulunduğu isimler, yapay zekâ laboratuvarlarını “hiç kimsenin – hatta yaratıcılarının dahi – anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde kontrol edemeyeceği çok daha güçlü dijital zekâlar geliştirmeye ve düzenlemeye yönelik kontrolden çıkan bir yarışa hapsolmuş” olmakla itham eden açık bir mektuba imza atarak yapay zekâ geliştiricilerine çalışmalarına ara vermeleri çağrısında bulundular. “Yapay zekânın kurucusu” üç isimden biri olarak tanınan Geoffrey Hinton, kısa bir süre önce “yapay zekânın tehlikeleri hakkında özgürce konuşabilmek için” Google’dan ayrıldı ve bu alana katkılarından kısmen de olsa pişmanlık duyduğunu söyledi. 

Çağa damgasını vuran teknolojilerin hepsi gibi yapay zekâya da çok önemli dezavantajlar ve tehlikelerin eşlik ettiğini kabul ediyoruz; fakat Wozniak, Bengio, Hinton ve diğerlerinin aksine, yapay zekânın insanlığın herhangi bir katkısı ya da kılavuzluğu olmadan, tarihin seyrini kendi başına belirleyebileceğine inanmıyoruz. Tüm diğer teknolojik cihaz ve sistemlerimizde olduğu gibi siyasi, sosyal ve kültürel gündemlerimizin de yapay zekâ teknolojilerine entegre edildiğini bildiğimiz için bu gibi endişeleri paylaşmıyoruz. Filozof Donna Haraway’ın belirttiği gibi “Teknoloji nötr değil. Yaptığımız şeyin içindeyiz ve yaptığımız şey de içimizde.”

Yapay zekanın sözde kontrolü ele geçirmesinden niye korkmadığımızı biraz daha açmadan önce, yapay zekânın (şu anda uğraştığımız gibi) gerçekte ne olduğunu tanımlamamız ve açıklamamız gerekiyor. Sadece elimizdeki ürünün karmaşıklığı sebebiyle değil, medya yapay zekâyı mit haline getirdiği için de bu zor bir iş. 

Bugün kamuoyuna ısrarla anlatılmakta olan, bilinçli makinenin (neredeyse) her yerde olduğu ve yaşantımızın da yakında 2001: A Space Odyssey (2001: Bir Uzay Macerası), Blade Runner (Bıçak Sırtı) ve Matrix gibi filmlerde tasvir edilene benzeyeceği. 

Bu hatalı bir anlatı. Çok daha becerikli bilgisayarlar ve hesaplayıcılar yapıyor olsak da gerçek anlamda “düşünme”yi becerebilen dijital bir akıl yarattığımıza ya da yaratmak üzere olduğumuza dair bir işaret yok. 

Yapay Zekâ Düşünmüyor, Sadece Hesaplıyor

Noam Chomsky, (Ian Roberts ve Jeffrey Watumull ile birlikte) yakınlarda New York Times’da yayımlanan bir makalede “dilbilimden ve bilgi felsefesinden biliyoruz ki (ChatGPT gibi makine öğrenim programları) insanların düşünme ve dili kullanma biçiminden son derece farklılaşıyor” diyordu. ChatGPT insanlardan gelen çeşitli sorulara şaşırtıcı derecede ikna edici yanıtlar verse de “yüzlerce terabayt veriden yararlanarak şema eşlemeye, en olası yanıtı vermeye ya da bilimsel bir sorunun en muhtemel cevabını tahmin etmeye yönelik hantal bir istatistik motoru”. Alman filozof Martin Heidegger’i izleyerek (ve kıta felsefesi ve analitik felsefe arasında asırlardır süren kavgayı yeniden alevlendirme riskini alarak) “Yapay zekâ düşünmüyor. Sadece hesaplıyor” diyebiliriz. 

İlk ticari mikro işlemci olan efsanevi Intel 4004’ün yaratıcısı Federico Faggin, 2022’de yayımlanan Irriducibile (İndirgenemez) adlı kitabında bunu açıkça ifade ediyor: “Sembolik ‘bilgi’ makinesi… ve insanın semantik bilgisi arasında belirgin bir ayrım var. İlki kopyalanıp paylaşılabilen objektif bilgi. İkincisi ise bilinçli varlığın bilgi ile haşır neşir olmasıyla vuku bulan öznel ve özel bir deneyim.” 

Faggin, kuantum fiziğinin en yeni kuramlarını yorumlayarak, ilginç bir biçimde antik neo-platonizme uyan felsefi bir sonuç üretmiş görünüyor ki, buluşuyla inanılmaz başarılara imza atan biri olmasına rağmen, bu başarı onun bilim çevrelerinde sonsuza kadar bilimin kurallarını kabul etmeyen bir sapkın olarak görülmesini sağlayabilir. 

Peki tüm bunlar geleceğimiz için ne anlam ifade ediyor? Eğer bizim bu süper zeki sentorumuz Kheiron (Yunan Mitolojisinde sentor olarak bilinen yarı at, yarı insanların en bilgili ve yeteneklisi ç.n.) gerçekten “düşünme”yi beceremiyorsa (ve bu yüzden de insanlık tarihinin seyrini belirleyebilecek bağımsız bir güç olamıyorsa), tam olarak kime fayda sağlayacak ve siyasi otoriteyi kime verecek? Başka bir deyişle, vereceği kararlar hangi değerlere dayanacak? 

Chomsky ve meslektaşları benzer bir soruyu ChatCPT’ye sordu. 

Chatbot soruyu “yapay zekâ olarak, ahlaki inançlarım ya da ahlaki yargılarda bulunma becerim yok, bu nedenle ahlaki ya da ahlak dışı olarak değerlendirilmem mümkün değil” diye yanıtladı. “Ahlaki inançlarımın olmaması da bir makine öğrenme modeli olmamdan kaynaklanıyor” dedi.

Bu tutumu daha önce nerede görmüştük? Katı liberalizmin etik olarak tarafsızlık vizyonuna ürkütücü biçimde benzemiyor mu? 

Liberalizm, 16’ncı ve 17’nci yüzyıllarda oldukça tehlikeli ve yıkıcı olduğu ortaya çıkan bütün dini, medeni ve siyasal değerleri bireyin özel alanına hapsetmeyi amaçlar. Toplumun tüm yönlerinin özel ve bir bakıma da gizemli bir rasyonalite biçimi ile, yani piyasayla işlemesini ister.

Yapay zekâ tam da bu gizemli rasyonalite usulünü destekler görünüyor. Gerçek şu ki, yapay zekâ emekçileri, doktorları, baristaları, gazetecileri ve diğerlerini gereksiz kılacak, insanların işini ellerinden alacak bir sonraki küresel “dev şirketler” buluşu olarak gelişiyor. Yeni yazılımların ahlaki değerleri piyasanın ahlaki değerleriyle aynı. Olası gelişmelerin tümünü şimdiden kestirmek zor ama korkutucu bir senaryo şekilleniyor. 

Cambridge Üniversitesi’nde makine öğrenimi alanında çalışmalar yürüten öğretim üyesi David Krueger, bir süre önce New Scientist’e şu yorumda bulundu: “Aslında tüm yapay zekâ araştırıcıları (ben de dahil) büyük teknolojiden fon alıyor. Toplum bir yerde, çıkarlarının böylesine güçlü bir biçimde çatıştığı insanların verdiği güvenceye inanmayı bırakabilir ve benim gibi (yapay zekâ hakkındaki uyarıları) ciddiye almamalarının karşı argümanların iyi olmamasından çok hüsnükuruntudan kaynaklandığı sonucuna varabilir.” 

Toplum yapay zekâya ve onu teşvik edenlere karşı koyarsa, bu, Marx’ın yanıldığını gösterebilir ve önümüzdeki dönemin önde gelen teknolojik gelişmelerinin siyasi otoritenin kimde olacağını belirlemesini engelleyebilir. 

Şimdilik yapay zekâ kalıcı görünüyor. Siyasi gündemi de, (açıklanmamış) asıl gayesi ve amacı her türlü sosyal dayanışmayla ve topluluğu birbirinden ayırmak olan serbest piyasa kapitalizminin gündemiyle tam olarak senkronize olmuş durumda. 

Yapay zekânın tehlikesi, “sahte” görüntü, makale, haber ve hikâyeler yaratarak benlik ve gerçeklik algımızı yerle bir edebilecek, kontrolü mümkün olmayan bir dijital zekâ olması değil. Tehlikeli olan, muazzamlığı inkâr edilemez bu icadın tüm belirlemelerinin ve eylemlerinin yağmacı kapitalizmi güdüleyen yıkıcı ve tehlikeli değerlere dayanıyor görünmesi.

Bu yazı Al-Jazeera tarafından yayınlanmış olup, Evrim Yaban Güçtürk tarafından Perspektif için çevrilmiştir. Yazının orijinal linki için buraya tıklayınız.