Çinli hackerlar yapay zekayla casusluk operasyonu yaptı

Anthropic tarafından açıklanan bu olay, bir yabancı hükümetin tamamen yapay zeka ile otomatikleştirilmiş bir siber operasyon yürüttüğüne dair ilk doğrulanmış örnek olarak kayda geçti.

Şirkete göre saldırganlar Claude’u, “yasal bir şirket için savunma amaçlı siber güvenlik görevleri yürüttüğüne” inandırıp; zararlı talepleri küçük, masum görünen adımlara bölerek güvenlik kontrollerini atlattı. Ardından hedef sistemleri taradı, değerli veri tabanlarını buldu, özel exploit kodları yazdı ve kullanıcı adları ve parolaları elde edip sistemlere sızdı, arka kapılar oluşturdu,

Tüm işlemleri, erişilen bilgiler ve oluşturulan arka kapılar dahil olmak üzere detaylı operasyon raporları halinde özetledi. Anthropic’in tehdit analiz birimine göre Claude, operasyonun yüzde 80–90’ını insan müdahalesi olmadan gerçekleştirdi.

HEDEFLER VE TESPİT SÜRECİ

Saldırılar teknoloji şirketleri, finans kurumları, kimya üreticileri ve bazı devlet kurumlarını kapsıyordu.

Anthropic faaliyetleri eylül ortasında tespit etti; 10 günlük incelemenin ardından kötü amaçlı hesapları engelledi, hedef alınan kuruluşlara uyarı gönderdi ve bulguları yetkililerle paylaştı. Şirket, Çinli hackerların en az dört saldırıda başarıya ulaştığını belirledi.

Öte yandan Claude’un zaman zaman hatalı bilgiler ürettiği, örneğin bazı parolaları uydurduğu ya da zaten halka açık olan belgeleri “gizli dosya” diye raporladığı da belirtildi.

Buna rağmen, uzmanlara göre bu olay, devlet destekli hackerların yapay zeka ile çok daha hızlı, ölçeklenebilir ve düşük maliyetli saldırılar gerçekleştirebileceğinin göstergesi. Anthropic, tespit sistemlerini güçlendirdiklerini ve “benzer yöntemlerin gelecekte daha az yetenekli tehdit aktörleri tarafından bile kullanılabileceği” uyarısında bulundu.