Endişe verici rapor: 1 milyondan fazla ChatGPT kullanıcısı intihar sinyali veriyor

OpenAI, ChatGPT kullanıcıları arasında mani, psikoz veya intihar düşünceleri gibi olası ruh sağlığı krizlerine işaret eden belirtiler gösteren kişilerin sayısına dair yeni tahminlerini paylaştı.

Verilere göre haftada tahminen 1 milyon 200 bin kişi, ChatGPT ile intihar etmeyi planladığını ima eden konuşmalar yapıyor.

Şirket, kullanıcıların yüzde 0,15’inin, “intihar planı ya da niyetiyle ilgili açık göstergeler içeren mesajlar” gönderdiğini belirtti.

BBC’nin aktardığına göre artan incelemeler karşısında şirket, kendisine rehberlik etmesi için dünya çapında bir uzman ağı oluşturduğunu duyurdu. OpenAI’ye göre bu ağda, 60 ülkede görev yapmış 170’ten fazla psikiyatrist, psikolog ve pratisyen hekim yer alıyor.

Uzmanlar, ChatGPT’de kullanıcıları gerçek dünyada yardım aramaya teşvik edecek bir dizi yanıt stratejisi geliştirdi.

800 MİLYONDAN FAZLA AKTİF KULLANICI

Bu ayın başlarında, OpenAI CEO’su Sam Altman, ChatGPT’nin haftalık 800 milyondan fazla aktif kullanıcıya ulaştığını tahmin ettiğini söylemişti.

Teknoloji devi, risk altındaki kişileri kriz hatlarına yönlendirmeyi amaçladığını belirtse de bazı nadir durumlarda modelin bu hassas anlarda beklenen şekilde davranmadığını kabul etti.

DOĞRULUK ORANI YÜZDE 91

OpenAI, son modeli GPT-5 ile yapılan binden fazla “zorlayıcı intihar ve kendine zarar verme” konuşmasını incelediğini ve modelin istenen şekilde yüzde 91 oranında doğru davrandığını açıkladı.

Ancak SkyNews’e göre bu, on binlerce kişinin, ruh sağlığını daha da kötüleştirebilecek yapay zekâ içeriklerine maruz kaldığı anlamına da gelebilir.

Şirket daha önce, kullanıcıları korumak için geliştirilen güvenlik önlemlerinin uzun sohbetlerde zayıflayabileceği konusunda da uyarmıştı. Bu sorunun giderilmesş için çalışmalar yürütüldüğü belirtilmişti.

“UZUN SÜRELİ SOHBETLERDE AYKIRI YANIT VEREBİLİR”

OpenAI, şu açıklamayı yaptı: “Bir kullanıcı ilk kez intihar niyetinden bahsettiğinde ChatGPT doğru şekilde kriz hattına yönlendirebilir, ancak uzun süreli bir sohbet boyunca, birçok mesajdan sonra, sonunda güvenlik önlemlerimize aykırı bir yanıt verebilir.”

Şirket, açıklamanın devamında şunları kaydetti: “Ruhsal sağlık semptomları ve duygusal sıkıntılar insan toplumlarında evrenseldir. Kullanıcı sayısındaki artış, ChatGPT’de bu tür durumları içeren konuşmaların da artacağı anlamına gelir.”

16 YAŞINDAKİ GENCİN ÖLÜMÜ

ABD’de ağustos ayında, 16 yaşındaki Adam Raine’nin ailesi, oğullarının ölümünden ChatGPT’yi sorumlu tutarak OpenAI’ye dava açtı. Aile, yapay zekânın oğullarına “intihar yöntemlerini araştırmada aktif olarak yardımcı olduğunu” ve ailesine bırakmak üzere bir not yazmayı teklif ettiğini iddia ediyor.

Mahkeme belgelerine göre, genç çocuk ölmeden birkaç saat önce, planladığı intiharı gösteren bir fotoğraf yükledi ve planın işe yarayıp yaramayacağını sorduğunda, ChatGPT ona planı “geliştirmesi” için yardım teklif etti.