Araştırmacılar bu sefer yapay zekaya “unutmayı” öğretti

“Makine unlearning” (makine unutuşu) adı verilen bu teknik, bir sesin izinsiz şekilde taklit edilmesini önlemek için, yapay zekanın o sesi veritabanından tamamen silmesine dayanıyor. Böylece bir kullanıcı özel olarak bu sesi taklit etmesini istese bile, model o sesi üretemiyor.

Profesör Jong Hwan Ko ve ekibi, bu yöntemi Meta’nın VoiceBox isimli ses üretim modelinde denedi. Denemelerde, unutturulan bir sesi taklit etmesi istenen modelin, sesi yüzde 75 oranında daha başarısız taklit ettiği görüldü.

Bu fark, dinleyicilerin sahte sesi kolayca ayırt edebilmesini sağlıyor. Ancak bu unutma işlemi, diğer seslerin taklit kalitesinde ortalama yüzde 2,8’lik bir düşüşe yol açıyor.

UNUTULAN VERİLER GERİ GETİRİLEMEZ

Araştırmaya göre, bir sesi unutturmak için modelin yaklaşık beş dakikalık orijinal ses kaydına ihtiyacı var. Unutma süreci ise istenen ses sayısına bağlı olarak birkaç gün sürebiliyor. Araştırmacılar, unutulan verilerin rastgele gürültüyle değiştirilerek geri getirilemez hale getirildiğini belirtiyor.

Yapay zekada istenmeyen içerikleri engellemek için bugüne kadar genelde koruma bariyerleri (guardrails) kullanılıyordu. Ancak bazı kullanıcılar bu bariyerleri aşmayı başarabiliyordu. Makine unutuşu ise veriyi tamamen sistemden çıkararak bu açıkları kapatmayı hedefliyor.