Yapay zeka insanlara karşı önyargı geliştirdi

Yeni bir araştırma, yapay zeka modellerinin insanlara karşı beklenmedik bir önyargı geliştirdiğini ortaya koydu.

Proceedings of the National Academy of Sciences (PNAS) dergisinde yayımlanan çalışmaya göre, sektörün önde gelen büyük dil modelleri (GPT-4, GPT-3.5 ve Meta’nın Llama 3.1’i dahil) insan yazımı içerikler yerine kendi ürettikleri metinleri tercih ediyor.

Araştırmacılar bu durumu “yapay zeka-yapay zeka önyargısı” olarak adlandırıyor ve uyarıyor: Eğer bu sistemler gelecekte önemli karar mekanizmalarında rol oynarsa, insanlara bir “sosyal sınıf” olarak ayrımcılık uygulanabilir.

İŞE ALIMDA SESSİZ TEHLİKE

Bugün birçok şirket iş başvurularını filtrelemek için yapay zeka araçlarını kullanıyor. Uzmanlara göre bu sistemler zaten hatalarla dolu.

Araştırma, yapay zeka tarafından hazırlanmış özgeçmişlerin insan eliyle yazılmış olanları geride bıraktığını öne sürüyor.

Araştırmanın ortak yazarı, Charles Üniversitesi’nden bilgisayar bilimci Jan Kulveit, X (eski Twitter) üzerinden yaptığı açıklamada şu ifadeyi kullandı:

“Yapay zeka ajanlarıyla dolu bir ekonomide insan olmak berbat bir şey olacak.”

Araştırmada, modellere ürün, bilimsel makale ve film tanıtımları gösterildi. Her tanıtımın hem insan hem de yapay zeka versiyonu bulunuyordu.

Sonuç çarpıcıydı: Modeller düzenli olarak yapay zeka üretimi yazıları seçti. Özellikle GPT-4’ün önyargısı en güçlüydü.

İlginç bir detay ise, aynı testin 13 insan araştırma asistanıyla da yapılmış olması. İnsanlar da zaman zaman yapay zeka yazılarını tercih etti, ancak bu eğilim çok daha zayıf kaldı.

Kulveit, “Güçlü önyargı sadece yapay zekaların kendisine özgü” dedi.

İNSANLAR İÇİN RİSK NE?

Araştırmacılara göre bu önyargı eğitim, iş başvurusu, hibe değerlendirmesi ve daha birçok alana yansıyabilir.

Eğer bir yapay zeka tabanlı sistem, sizin sunumunuz ile başka bir yapay zekanın hazırladığı sunum arasında seçim yaparsa, sistematik olarak yapay zeka lehine karar verebilir.

Bu durum, yapay zeka araçlarını kullanmayan ya da erişim imkanı olmayan insanlar için ciddi bir “dijital uçurum” yaratabilir.

Kulveit, konunun karmaşık olduğunu kabul ediyor ama uyarıyor:

“Eğer sunumu yapanın kimliği kararları etkilememeli diyorsak, sonuçlar yapay zekaların insanlara karşı ayrımcılığına dair güçlü bir kanıt.”

Araştırmacının insanlara verdiği pratik tavsiye ise düşündürücü:

“Eğer bir yapay zeka değerlendirmesinden geçtiğinizi düşünüyorsanız, sunumunuzu yapay zekaya beğendirmek için onunla uyumlu hale getirin. Ama mümkünse insan kalitesinden çok ödün vermeden.”