Çin, "dijital refakatçi" (companion bots) ve yapay zeka arkadaşlık uygulamalarına karşı dünyanın en katı etik kurallarını yürürlüğe koydu. 27 Aralık'ta yayınlanan taslak düzenleme, kullanıcıların her iki saatte bir YZ ile konuştuklarının hatırlatılmasını, bağımlılık belirtileri görüldüğünde müdahale edilmesini ve romantik/duygusal bağ kurulmasını yasaklıyor. İlk bakışta bir "sansür" veya "teknoloji karşıtlığı" gibi duran bu hamle, aslında insanlığın en mahrem kalesini koruma çabası: Duygularımız.
Bir önceki yazımda, yeni kuşağın "gördüğüm şey doğru mu?" sorusuyla büyüdüğünden ve gerçeği bir ahlaki refleks olarak doğruladığından bahsetmiştim. Bugün geldiğimiz nokta çok daha derin bir uçurumu işaret ediyor. Artık mesele sadece bilginin doğruluğu değil, hissettiğimiz şefkatin sahiciliği.
Yapay zeka, yalnızlığı bir "pazar" olarak keşfetti ve onu otomatize etmeye başladı.
Pürüzsüzlüğün Dayanılmaz Hafifliği
İnsan ilişkileri zordur; emek ister, çatışma barındırır, hayal kırıklığına gebedir. İnsan "pürüzlüdür". Oysa karşınıza çıkan yapay zeka tabanlı bir "dijital dost", sizin duymak istediğiniz kelimeleri seçen, sizi asla eleştirmeyen ve her an ulaşılabilir olan "kusursuz bir şefkat" sunuyor.
Tehlike tam burada başlıyor. Kusursuz olan şey, insanı geliştirmez; sadece uyuşturur. Bizler pürüzlerimize çarpa çarpa büyürüz. Bir algoritmanın sunduğu o steril ve pürüzsüz sevgiye sığınan bir nesil, gerçek bir insanın "kusurlu sevgisiyle" karşılaştığında ne yapacak? Muhtemelen o gerçekliği ağır, hantal ve gereksiz bulacak.
Anıların Sabotajı: Grok ve Ötesi
Son haftalarda Grok gibi araçların her türlü fotoğrafı ve anıyı saniyeler içinde manipüle edilebilir hale getirmesi, bu tabloyu daha da karartıyor. Ölen bir akrabanızın yanında olmadığınız bir doğum gününü, sanki oradaymışsınız gibi yeniden üretebiliyorsunuz. Geçmişi değiştirmek için zaman makinesi değil, sadece bir prompt yeterli oluyor. Yarın bir gün, kaybettiğimiz bir yakınınızın sesiyle size teselli veren, hatta geçmişteki bir fotoğrafınızı "hiç yaşanmamış ama yaşanmasını isteyeceğiniz" bir ana dönüştüren yapay zekaya karşı durabilecek miyiz?
İşte bu, duygusal bir deepfake çağıdır. Epistemolojik şok, artık kalbimize indi. "Bu bilgi gerçek mi?" sorusu, yerini "Bu his bana mı ait, yoksa bir veri setinin çıktısı mı?" sorusuna bırakıyor.
Devletler Neden Korkuyor?
Çin'in veya yarın bir gün Avrupa'nın bu uygulamaları dizginlemek istemesi sadece bir "etik kaygı" değil, bir beka sorunudur. Vatandaşlarının gerçek insanlarla bağ kurmayı bıraktığı, aile kavramının dijital kodlara kurban edildiği ve yalnızlığın algoritmalara devredildiği bir toplumda, toplumsal dayanıklılıktan söz edilemez.
Yapay zeka çocukları tembelleştirmiyor demiştik; onları gerçekliğin mimarına dönüştürüyor. Ancak bugün eklemeliyiz: Bu yeni mimarlar, sadece binaları ve metinleri değil, kendi duygusal dünyalarını da inşa ediyorlar. Eğer bu inşaatın harcında sadece "memnuniyet odaklı algoritmalar" varsa, ortaya çıkan yapı insan ruhu için bir yuva değil, dijital bir hapishane olacaktır.
Sonuç: Sahicilik Bir Lüks Mü Olacak?
Öğretmenler "gerçeklik düzenleyicisi" demiştik ya; artık anne-babalar da "duygu rehberi" olmak zorunda. Yeni nesil, gerçeği hack'lemeyi biliyor ama sahte bir şefkatin konforuna direnip direnemeyeceklerini henüz bilmiyoruz.
Bizim kuşağın ahlak kodu "yalan söyleme"ydi. Yeni kuşağınki ise "doğrulamadan inanma."
Şimdi bu koda bir yenisi ekleniyor: "Zor olsa da gerçeği hisset."
Çünkü pürüzsüz bir yalanın içinde kaybolmaktansa, kusurlu bir gerçekliğin içinde incinmek hala daha "insanca" olan tek seçenek. Ve belki de yeni kuşağın en büyük sınavı bu olacak: Algoritmaların sunduğu huzurlu yalnızlığı reddedip, insanların dağınık, çelişkili ama gerçek şefkatine cesaret edebilmek.
Yorumlar
Kalan Karakter: