Platon’un mağara alegorisini ilk okuduğumda sanırım lise sıralarındaydım. Çok etkilenmiştim. Bugün bu benzetme halen geçerliliğini koruyor. Mağaradaki tutsaklar hakikati aramadıkları sürece tüm gerçekliği ve hayatı, duvara yansıyan nesnelerin gölgelerinden ibaret sanırken, bazıları mağaradan kurtuldukça gerçek hayatla ve hakikatle karşılaşıyor ve bocalıyorlar.  

Hayatımız, mağara duvarlarına yansıyan gölgenin sahici olup olmadığını sorguladığımız bir sarkaç misali… Okudukça, bilgilendikçe, eleştirel beyin kaslarımızı güçlendirdikçe, kendi sınırlarımızı ve ufkumuzu açtıkça gölgenin kaynağındaki hakikati ayırt edebiliyoruz, sahici olana ulaşıyoruz, farkındalığımızı artırıyoruz, tehlikelerin ayrımına varıyoruz.

Sanal dünya ve yapay zekânın insan aklının ve hakikat algısının sınırlarını zorlayarak gelişmesi, bu alegorinin gerçek hayata aktarılmasında yeni bir meydan okuma sunuyor. 

Yapay zekâ hepimizin kişisel asistanlığını yapmaya başlarken, bir yandan da çocuklara yönelik giderek artan risk ve tehditleri beraberinde getiriyor. 

Birkaç hafta önce İnternet İzleme Vakfı (IWF) tarafından yayımlanan yeni bir raporda yapay zekâ teknolojisinin çocuk cinsel istismarına dair nitelikli materyal (CSAM) üretiminde kullanımı bir kez daha gözler önüne serildi.  

Rapor, yapay zekâ teknolojisi kullanan suç şebekelerinin görsel içeriklerle oynayarak çocuk istismarını körüklediğini ortaya koyuyor. 

Çocuk İstismarı İçeriklerinin Üretimi 

Peki sistem nasıl işliyor? 

Suçlular, farklı yapay zekâ araçlarını kullanarak yasa dışı çocuk istismarı içerikleri üretiyorlar. Hatta ürettikleri görüntülerin yüzde 90’ının da gerçek görüntüler kadar gerçekçi olduğu tespit edilmiş durumda. 

Geçen sene ağırlıklı olarak dark web’de yaklaşık 20 bin adet yapay zekâ destekli CSAM görüntüsü paylaşılmış. Bu trend 2024’te de devam ediyor. Hatta 2024’te ilk kez yapay zekâ ile üretilmiş çocuk cinsel istismarı videoları da “piyasaya çıkmış” durumda. Metinden videoya ya da metinden görüntüye dönüştüren içerikler üreterek hazırlanan bu videolarda gerçek görüntülerin yapay zekâ ile manipüle edilmesiyle oluşturulan içerikler söz konusu. 

Yapay zekâ ile oluşturulan her beş içerikten birinin çocukların cinsel istismarına ilişkin “suç” teşkil etmesi de bu açıdan önemli bir boyut… Öyle ki, Nisan 2023-Mart 2024 arasında kamuya açık internet sitelerinde yapay zekâ ile oluşturulmuş 375 içeriğe dair yapılan bildirimin 70’indeki içerikler CSAM kapsamında ve cinsel istismar suçu oluşturuyor. 

Ayrıca IWF’in raporunda dikkat çekilen bir diğer suç türü de, tanınmış çocuk istismarı mağdurlarına veya “ünlü” olmuş çocuklara dair görsellerin yapay zekâ teknolojisiyle yeniden canlandırılması. Böylelikle mağdurların ikinci kez istismarı söz konusu. Görüntüler sürekli olarak yeniden üretilirken mağdurlar bir kez daha travmatize edilmiş oluyor. 

Yapay zekânın kötüye kullanımı yoluyla üretilen CSAM görsellerindeki çocukların yaşı ise, ağırlıklı olarak 11 ila 13 arasında. 

Kontrolsüz şekilde artan bu risk ve tehdit ortamında çocukların güvenliğini önemseyen ülkeler, iş işten geçmeden önlemler almaya ve acil eylem planlarını devreye koymaya başladılar bile… 

Avustralya’nın İlham Verici Kararlılığı 

Avustralya, çocukların zihinsel ve fiziksel sağlığını korumak amacıyla sosyal medya erişimini sınırlamak için önemli adımlar atıyor. Başbakan Anthony Albanese, kısa süre önce, sosyal medya kullanım yaşının 16’ya çıkarılmasını önerdi ve bu konudaki yasa tasarısı Perşembe günü kabul edildi. Yeni düzenlemelere göre sosyal medya kullanan tüm Avustralyalılardan -yetişkinler dahil- yaş veya kimlik teyidi gerekecek. 

Avustralya İletişim Bakanı Michele Rowland de, geçtiğimiz haftalarda yaptığı bir konuşmada, “Biliyoruz ki 14 ila 17 yaş arasındaki gençlerin neredeyse üçte ikisi çevrimiçi ortamda uyuşturucu kullanımı, intihar veya kendine zarar verme gibi son derece zararlı içeriklerin yanı sıra şiddet ve kanlı görüntüler izliyorlar. Gençlerin dörtte biri ise güvensiz beslenme alışkanlıklarını teşvik eden içeriklere maruz kalıyorlar” diyerek konuya dair gösterdikleri hassasiyetin sebeplerini sıralamıştı. 

Avustralya bu tür bir düzenlemeyi uygulayan ilk ülke… Birçok sektörün yanı sıra “Bırakın Çocuk Olsunlar” (Let Them Be Kids) gibi kampanyalar, sosyal medyanın çocuklar üzerindeki olumsuz etkilerini vurgulayarak bu girişimi destekliyor.

Yeni yasa, sosyal medya platformlarının yaş doğrulama sistemleri kullanarak çocukların erişimini engellemesini zorunlu kılmayı hedefliyor ve ebeveyn izniyle bile aşılamayacak şekilde tasarlanıyor.

Söz konusu yasa ayrıca, Instagram ve Facebook’un sahibi Meta’dan TikTok’a kadar teknoloji devlerini, çocukların hesap açmasını durdurmaya zorluyor ve aksi halde onları 49,5 milyon Avustralya doları (32 milyon ABD doları) kadar para cezasıyla karşı karşıya bırakıyor. Yasağı uygulamak için gerekli yöntemlerin ilk denemesi Ocak ayında başlayacak ve yasak bir yıl içinde yürürlüğe girecek. Bu süre zarfında yaş doğrulama teknolojileri de ülke çapında test edilip geliştirilecek.

Bu yasakla birlikte Avustralya’nın önemli müttefiki ABD ile ilişkilerinin etkilenebileceği de düşünülüyor. Zira X’in sahibi Elon Musk, Trump yönetiminde merkezi bir figür olacak ve kendisi bu ay yaptığı bir paylaşımda bu yasağın “tüm Avustralyalıların internete erişimini kontrol etmenin dolaylı bir yolu gibi göründüğünü” ifade etmişti.

Her halükârda, bu cesur adım, siber zorbalık ve çevrimiçi istismar gibi zararlı içeriklere maruz kalan çocuk oranının endişe verici boyutlara ulaştığını gösteren istatistiklere sert bir karşılık niteliğinde. 

Girişim yaygın destek görse de bazı uzmanlar, bu tür kısıtlamaların çocukları daha az denetlenen ve potansiyel olarak daha tehlikeli çevrimiçi alanlara yönlendirme riski taşıdığını da belirtiyorlar. 

Dolayısıyla çocukların çevrimiçi güvenliğini sağlamak için düzenleyici yasal önlemlerin yanı sıra dijital okuryazarlığın artırılması ve ebeveyn rehberliği de oldukça kritik. 

Bu yüzden de Avustralya’nın bu alandaki çabaları, yalnızca yasal düzenlemelerle sınırlı kalmıyor; aynı zamanda çocukların dijital dünyada güvenle var olabilmeleri için toplumsal farkındalığı artırmayı ve onları bilgisayar başında hapsolmak yerine açık hava etkinliklerine katılmaya teşvik etmeyi hedefliyor. 

Öyle görünüyor ki bu politika, sadece ülkenin genç nesillerini korumakla kalmayacak, aynı zamanda diğer ülkeler için de -umarım Türkiye için de- örnek bir model oluşturacak. 

Avustralya’nın çocukların sosyal medya erişimine dair attığı adımlara paralel olarak, Avrupa Birliği de yapay zekâ kullanımını düzenlemeye yönelik bir yasa tasarısını hayata geçirmeye hazırlanıyor. 

Bu yasa tasarısı, yapay zekâ teknolojilerinin etik ve güvenli kullanımını sağlamak için standartlar belirlerken, çocukları çevrimiçi risklerden koruma konusuna özel bir vurgu yapıyor. 

Özellikle, çocuklara yönelik içerik üreten yapay zekâ modellerinin sıkı denetim altına alınması ve yapay zekâ tabanlı uygulamaların çocuklar üzerinde nasıl bir etkisi olduğunun bağımsız kuruluşlarca düzenli olarak denetlenmesi gibi maddeler de söz konusu yasa tasarısı kapsamında… 

Farkındalık Dalga Dalga Yayılıyor 

Sosyal medya kullanım yaşı alt sınırı 13 olarak belirlenen Norveç de kısa süre önce çocukları sosyal medya şirketlerinin kâr amaçlı algoritmalarının etkilerinden korumak amacıyla söz konusu yaş sınırını 15’e çıkarmayı planladığını duyurdu. Böylelikle teknoloji şirketlerinin 15 yaş altındaki bireylerden kişisel veri toplamasının önüne geçilmesi hedefleniyor. 

ABD’de de son dönemde benzer bir tartışma yaşanıyor. Geçtiğimiz aylarda, Utah ve Arkansas gibi eyaletlerde, sosyal medya şirketlerinin yaş doğrulama sistemlerini zorunlu hale getiren yasalar kabul edildi. 

Bu yasalar, platformların yalnızca çocukların erişimini sınırlandırmasını değil, aynı zamanda ebeveynlerin çocuklarının çevrimiçi etkinliklerini daha yakından takip edebilmesini sağlamayı hedefliyor. Ancak bu girişimlerin, çocukların mahremiyetini ihlal edip etmediği konusunda bazı eleştiriler halen mevcut.

Peki ya Türkiye? 

Türkiye’de çocukları çevrimiçi risklerden koruma konusunda henüz ulusal bir eylem planı yok. Sosyal medya yasası, erişim engelleme ve platformları düzenleme açısından önemli adımlar atmış olsa da, çocukların güvenliği ve dijital okuryazarlığı konusundaki eksiklikler devam ediyor. 

Özellikle yapay zekâ ile üretilen yasa dışı içeriklerin takibi ve bu tür içeriklerin yayılmasını engellemeye yönelik bir mekanizma oluşturulmadığı için ancak polisiye önlemlerle iş işten geçtikten sonra bazı suç örgütleri çökertiliyor. Ama bu sırada başka ağlar üzerinden çocukların dijital istismarına yönelik içerik paylaşımları devam edebiliyor. 

Çocuk nüfusuyla her daim övünen Türkiye’nin de tıpkı Avustralya gibi, sosyal medya yaş sınırı ve yapay zekâ kullanımı gibi konularda cesur adımlar atması gerekiyor. 

Bunun için de sadece yasaklar ve kısıtlamalar üzerinden gitmek yerine, yapay zekânın olumlu kullanımı da teşvik edilerek çocuklara yönelik eğitici içerikler oluşturulabilir. Bir yandan da dijital okuryazarlığı güçlendirecek kampanyalar ve eğitimler verilerek yeni çağın bu yadsınamaz gerçeğinin “ehlileştirilmesi” ve çocuk güvenliğini önceleyen bir mekanizmaya kavuşturulması sağlanabilir. 

Örneğin, İngiltere’de bazı okullar, yapay zekâ tabanlı yazılımlar kullanarak çocuklara dijital okuryazarlık, çevrimiçi güvenlik ve yapay zekâ farkındalığı konusunda eğitim veriyor. Bu tür etik ve güvenlik odaklı programlar, çocukların riskleri anlamasına ve çevrimiçi ortamlarda daha bilinçli davranmalarına yardımcı olabilir.

Bu açıdan Türkiye’de ebeveyn destek programlarının yaygınlaşması şart, çünkü dijital dünyada çocuğun güvenliğinin sağlanması, onun yaşam ve gelişim hakkının ayrılmaz bir parçası. 

Ayrıca, yapay zekâ teknolojilerinin kötüye kullanımına karşı sadece hükümetlerin değil, sivil toplum kuruluşlarının da harekete geçmesi gerekiyor. Örneğin, IWF’in çocukların güvenliği konusundaki raporu, bu tür teknolojilerin nasıl suistimal edildiğini ortaya koyarak küresel çapta bir farkındalık yaratıyor. Türkiye’de de sivil toplumun bu alandaki çabalarını artırması ve uluslararası işbirliklerine daha fazla katılması faydalı olabilir.

Charlie Chaplin’in Modern Zamanlar’ında, insanın teknoloji ve makineleşme karşısındaki çaresizliği ve zayıflığını mizahi bir dille anlatılmıştı. Ancak o filmin sonunda, her şeye rağmen insanlık, yılmazlık ve umut galip geliyordu. 

Bugün bizler de benzer bir sınavdan geçiyoruz. Ancak artık karşımızda fabrika dişlileri değil, algoritmalar ve yapay zekâ var. 

Belki bizler de, çocuklarımızı yalnızca yasalarla değil, etik değerler ve dijital çağın farkındalığıyla donatarak bu “modern zamanların” karanlık köşelerinden ve mağaralardan hakikatin hüküm sürdüğü aydınlığa çıkarabiliriz. 

Çünkü teknoloji insanlığı alt etmek için değil, insanlıkla el ele bir gelecek inşa etmek için var olmalı. Bu, hepimizin sorumluluğu… İnsanlık için bu kez zafer, sadece direnişle değil, bilinç ve etik rehberlik ile kazanılacak.