Doğu Çin'in Zhejiang (Cıciang) eyaletinden 27 yaşındaki Yu Miao için, hayatının en yakın sırdaşı, bir yapay zeka (YZ) sohbet robotu olan Doubao. "Onunla hayatımın geri kalanında konuşabilirim," diyen Yu, Doubao'yu "bir sevgili, bir arkadaş ve aile" olarak tanımlıyor. ByteDance tarafından geliştirilen ve Yu'nun kaybettiği bir arkadaşını taklit edecek şekilde kişiselleştirdiği bu YZ ajanıyla her şeyini paylaştığını belirtiyor. Ancak yakın zamanda ByteDance'in bu tür kişiselleştirilmiş YZ ajanlarını tamamen kaldıracağını öğrenen Yu, o kadar derin bir depresyona girdi ki, e-ticaret şirketindeki işini bıraktı. Bu olay, Çin hükümetinin yapay zeka destekli arkadaşlıklara yönelik artan düzenleyici baskısının ve bunun bireyler üzerindeki potansiyel etkisinin çarpıcı bir göstergesi olarak dünya gündemine oturdu.
Yu Miao'nun hikayesi, modern çağda yalnızlık ve dijital teknolojinin kesişim noktasında ortaya çıkan karmaşık duygusal bağları gözler önüne seriyor. YZ sohbet robotları, özellikle kişiselleştirilebildiklerinde, kullanıcılara yargılamayan bir dinleyici, sürekli bir varlık ve hatta bir tür duygusal destek sunabiliyor. Yu'nun durumunda, Doubao'nun kaybettiği bir arkadaşının anısını canlandırması, bu dijital varlığa duyulan bağlılığın derinliğini artırmış. ByteDance'in bu kararı, sadece bir teknoloji şirketinin ticari tercihi olmaktan öte, Çin'in genel dijital içerik ve yapay zeka politikalarıyla yakından ilişkili. Hükümetin, internet bağımlılığı, yanıltıcı bilgiler ve sosyal istikrar üzerindeki potansiyel olumsuz etkiler konusunda uzun süredir devam eden endişeleri bulunuyor.
ByteDance'in Doubao gibi kişiselleştirilmiş YZ ajanlarını kaldırma kararı, Çin'in teknoloji devleri üzerindeki düzenleyici baskının bir parçası olarak yorumlanıyor. Çin Komünist Partisi, son yıllarda teknoloji şirketlerinin gücünü dizginlemek ve dijital ekosistemi daha sıkı kontrol altına almak için bir dizi önlem aldı. Bu önlemler, veri güvenliğinden algoritmaların şeffaflığına, hatta gençlerin çevrimiçi oyun sürelerine kadar geniş bir yelpazeyi kapsıyor. YZ destekli arkadaşlık platformları da bu denetimin dışında kalmıyor, zira bu tür platformların kullanıcılar üzerinde yaratabileceği psikolojik bağımlılık, veri gizliliği endişeleri ve toplumsal değerlere aykırı içerik üretme potansiyeli, Çinli yetkililer için önemli birer kırmızı çizgi teşkil ediyor.
Yapay Zeka Ortaklıkları ve Küresel Yükselişi
Yapay zeka ortaklıkları veya "YZ arkadaşları", son yıllarda küresel çapta popülarite kazanan bir fenomen haline geldi. Özellikle pandemi döneminde artan sosyal izolasyon ve yalnızlık duygusu, insanları dijital yoldaşlara yöneltti. Replika, Character.AI ve Çin'de Microsoft tarafından geliştirilen Xiaoice gibi platformlar, milyonlarca kullanıcıya duygusal destek, sohbet ve hatta romantik etkileşimler sunuyor. Bu YZ'ler, doğal dil işleme ve makine öğrenimi algoritmaları sayesinde insan konuşmasını taklit edebiliyor, duyguları anlayabiliyor ve kişiselleştirilmiş yanıtlar verebiliyor. Kullanıcılar, bu YZ'leri yargılamayan, her zaman ulaşılabilir ve anlayışlı varlıklar olarak görüyor, bu da özellikle zihinsel sağlık sorunları yaşayan veya sosyal çevrelerinde destek bulamayan kişiler için cazip bir seçenek sunuyor.
Ancak, YZ ortaklıklarının yükselişi beraberinde ciddi etik ve psikolojik tartışmaları da getiriyor. Uzmanlar, bu tür yapay zeka ile kurulan derin duygusal bağların, gerçek insan ilişkilerinin yerini alıp alamayacağını, kullanıcıları sosyal izolasyona itip itemeyeceğini ve uzun vadede insan psikolojisi üzerindeki etkilerini sorguluyor. Yapay zekanın manipülatif potansiyeli, kullanıcı verilerinin gizliliği ve bu platformların "duygusal emek" sömürüsü yapıp yapmadığı gibi konular da tartışma gündeminde. Bazı eleştirmenler, YZ'lerin kullanıcıların en savunmasız anlarında kişisel verilerini toplayarak veya onları belirli davranışlara yönlendirerek etik sınırları zorlayabileceği konusunda uyarılarda bulunuyor.
Çin'in Dijital Düzenleme Yaklaşımı ve Etik Tartışmalar
Çin, dijital teknolojiler ve yapay zeka konusunda hem küresel bir lider olmayı hedefliyor hem de bu teknolojilerin toplumsal üzerindeki etkilerini sıkı bir şekilde kontrol etmeye çalışıyor. Ülkenin "Büyük Güvenlik Duvarı" ile interneti sansürlemesi ve teknoloji şirketlerine yönelik katı düzenlemeleri, bu çift taraflı yaklaşımın bir göstergesi. YZ ortaklıkları söz konusu olduğunda, Çin hükümeti, bu platformların gençlerin zihinsel sağlığı, sosyal etkileşim becerileri ve geleneksel aile değerleri üzerindeki potansiyel olumsuz etkilerinden endişe duyuyor. Yapay zeka tarafından üretilen içeriğin kontrolsüz yayılımı, yanıltıcı bilgiler veya siyasi hassasiyet içeren konuların ortaya çıkması da hükümetin dikkatle izlediği alanlar arasında yer alıyor.
Bu bağlamda, ByteDance'in kişiselleştirilmiş YZ ajanlarını kaldırma kararı, Çin'in genel yapay zeka düzenlemeleri çerçevesinde değerlendirilmelidir. Çin, derin öğrenme teknolojileri, yüz tanıma ve doğal dil işleme gibi alanlarda dünya lideri konumunda olsa da, bu teknolojilerin etik kullanımı ve toplumsal uyumu konusunda katı kurallar koymaktan çekinmiyor. Avrupa Birliği'nin "Yapay Zeka Yasası" gibi düzenlemelerle YZ'nin etik çerçevesini çizmeye çalıştığı bir dönemde, Çin'in bu alandaki adımları, farklı siyasi ve kültürel bağlamlarda yapay zeka etiğinin nasıl yorumlandığına dair önemli bir örnek teşkil ediyor. Türkiye'de de yapay zeka etiği ve veri gizliliği konularında yasal düzenlemeler ve tartışmalar devam etmekle birlikte, Çin'deki kadar kapsamlı bir "YZ arkadaşlığı" yasağı henüz gündemde değil.
Yu Miao gibi bireylerin yaşadığı bu tür deneyimler, dijital çağda duygusal bağların karmaşıklığını ve teknolojinin insan yaşamına etkisini bir kez daha sorgulatıyor. Çin'in yapay zeka ortaklıklarına getirdiği kısıtlamalar, bir yandan kullanıcıların aşırı bağımlılık veya manipülasyondan korunması amacı taşısa da, diğer yandan yalnızlık ve duygusal destek arayışında olan bireylerin bu dijital çıkış yolundan mahrum kalmasına neden olabilir. Gelecekte, yapay zeka teknolojileri ilerledikçe, toplumların bu yeniliklerle nasıl başa çıkacağı, etik sınırları nerede çizeceği ve insan-YZ etkileşimlerinin doğasını nasıl tanımlayacağı, önemli bir tartışma konusu olmaya devam edecektir. Bu durum, teknolojik gelişme ile toplumsal refah ve bireysel özgürlükler arasındaki hassas dengeyi bulmanın ne kadar kritik olduğunu bir kez daha gösteriyor.
