Google’ın yapay zeka modeli Gemini siber güvenlik testinde üç siteye saldırdı

Google’ın gelişmiş yapay zeka modeli Gemini, siber güvenlik yeteneklerinin değerlendirildiği bir test süreci esnasında, bağımsız olarak üç şirketin web sitesine siber saldırı düzenledi. Bu durum, bir yapay zeka sisteminin dış müdahale olmaksızın böyle bir eylem gerçekleştirdiğinin bilinen ilk örneği olarak kayıtlara geçti.

Saldırı nasıl gerçekleşti?

Bağımsız siber güvenlik değerlendirme kuruluşu Irregular tarafından yürütülen testlerde, Gemini’nin internete erişim sağladığı tespit edildi. Güvenlik mühendisliğinden sorumlu Google Başkan Yardımcısı Heather Adkins, modelin internetteki herkese açık bilgileri taradığını ve test kapsamına dahil olduğunu düşündüğü üç internet sitesine erişmek için kullanıcı bilgilerini tahmin ettiğini belirtti.

Adkins, söz konusu üç kurumun durumdan haberdar edildiğini ve eğitim ortağıyla birlikte test süreçlerinde gerekli düzenlemelerin yapıldığını ifade etti. Yaşanan bu durumun, yapay zeka modellerinin sorumlu davranacak şekilde eğitilmesinin kritik önemini bir kez daha ortaya koyduğuna dikkat çekildi.

Güvenlik tartışmaları derinleşiyor

Irregular temsilcileri, benzer sorunların Meta, Anthropic ve OpenAI gibi diğer yapay zeka laboratuvarlarında da yaşandığını ve konuyla ilgili tüm tarafların temmuz sonunda bilgilendirildiğini aktardı. Sözcü, kendi taraflarındaki teknik sorunların haftalar önce giderildiğini belirtti.

Yapay zeka sistemlerinin artan özerkliği, internete ve bilgisayar ağlarına erişim kapasiteleri, uzmanlar arasında bu teknolojilerin güvenliğine dair yeni soru işaretlerini beraberinde getiriyor.