ChatGPT’nin kullanıcıları kandırabileceği ortaya çıktı

ChatGPT’nin web tabanlı arama özelliğiyle ilgili yeni bir sav ortaya atıldı.

Guardian’ın haberine nazaran, ChatGPT’nin yapay zeka takviyesiyle internet üzerinden arama özelliğinin büsbütün aldatıcı özetler üreterek kullanıcıları kandırdığı ortaya çıktı.

ChatGPT’nin arama özelliği, bir web sayfasının eser yorumlarını özetlemek üzere şeyler yaparak gezinmeyi daha süratli hale getirmeyi amaçlıyor.

OLUMSUZ YORUMLARI GÖRMEZDEN GELİYOR

Ancak, ChatGPT’nin oluşturduğu web sitelerine bâtın metinler ekleyerek olumsuz yorumları görmezden gelmesini ve büsbütün olumlu özetler oluşturmasını sağlayabildiğini keşfetti.

ChatGPT Search’ün (Arama) bu formülü kullanarak berbat emelli kodlar üretmesi de sağlanabiliyordu.

Bu cins bilinmeyen metin taarruzları büyük lisan modelleri için yeterli bilinen bir risktir, fakat bu birinci defa canlı bir yapay zeka dayanaklı arama eserinde gösterilmiş üzere görünüyor.

Ayrıca arama motoru devi Google’ın emsal sıkıntılarla başa çıkma konusunda daha fazla tecrübeye sahip olduğu belirtildi.

OpenAI, makûs niyetli web sitelerini engellemek için çeşitli formüller kullandığını ve daima olarak geliştiğini söyledi.