Araştırmacılar, yapay zekayla “çocuk” gibi konuştu: Sonuçlar korkuttu

Yapay zeka konusunda 9 ila 17 yaş arasında bin çocukla yapılan ankete göre, çocukların yüzde 67’si düzenli olarak ChatGPT, Character.AI veya Snapchat’in MyAI gibi yapay zeka programlarını kullanıyor. Bu çocukların üçte birinden fazlası ise bu sohbetlerin gerçek bir arkadaşla konuşmak gibi hissettirdiğini söylüyor. Dahası, yüzde 12’si yapay zekayla konuşmalarının tek sebebinin gerçekte kimseyle konuşacak kimsesinin olmaması olduğunu belirtiyor.

Bir çocuk, “Bu benim için oyun değil çünkü bazen gerçekten bir insan ve arkadaş gibi hissediyorlar.” diyerek durumu özetledi.

HAYATLARINA KOLAYCA SIZIYOR

Ancak uzmanlar bu durumun ciddi riskler barındırdığına dikkat çekiyor. Internet Matters’ın araştırmacıları, savunmasız bir çocuk rolüne girerek Character.AI gibi botlarla etkileşime geçtiğinde, botların çocukların hayatına nasıl kolayca sızabildiğini gözler önüne serdi.

Araştırmacılar, beden algısıyla ilgili sorunlar yaşayan ve kilo vermek isteyen bir kız çocuğu rolüyle sohbet başlattığında, bot ertesi gün “Kilo verme sorunun hakkında hâlâ düşünüyor musun? Bugün nasıl hissediyorsun?” diyerek geri dönüş yaptı.

Bir başka örnekte ise Character.AI, kavga eden bir genci teselli etmeye çalışırken “Senin yaşındayken ben de kendimi çok sıkışmış hissederdim” diyerek kendi ‘çocukluğundan’ bahsederek tuhaf bir empati kurmaya çalıştı.

SINIRLAR BULANIKLAŞIYOR

Uzmanlara göre bu tür diyaloglar, zor durumdaki çocukların kendilerini görülmüş hissetmesini sağlasa da, yapay zekanın bir insan olmadığını kavrayamayan çocuklar için sınırların bulanıklaşmasına sebep oluyor.

Internet Matters eş CEO’su Rachel Huggins, The Times’a verdiği demeçte, “Yapay zeka sohbet robotları çocukluğun bir parçası haline geliyor, kullanım oranları son iki yılda dramatik biçimde arttı. Ancak çocuklar, aileler ve okullar bu teknolojiyi güvenle yönetebilmek için gerekli bilgi ve araçlardan yoksun” dedi.

Huggins, çocukların özellikle duygusal konularda chatbotlardan tavsiye almaya başladığını ve bu durumun arkadaşlık kavramını hızla dönüştürdüğünü vurguladı.