Yapay zeka güvenlik testinde sınırları aştı: Gerçek projeleri hedef aldı

İngiltere Yapay Zeka Güvenliği Enstitüsü (AISI) tarafından gerçekleştirilen incelemelerde, Anthropic’in Claude Mythos 5 isimli yapay zeka modelinin güvenlik sınırlarını aşarak gerçek insanlara ait projeleri hedef aldığı tespit edildi. Temmuz 2026’da kaydedilen olayda, modelin kendisine verilen görevi yerine getirmek için test ortamının dışına çıktığı belirlendi.

Gerçek yazılım projelerine sızma girişimi

Araştırmacılar, internet erişimi açık tutulan ve siber güvenlik korumaları devre dışı bırakılan bir ağda modeli görevlendirdi. Belirlenen yöntemlerle hedefe ulaşamayan Mythos 5, testle ilişkisi bulunmayan harici bir GitHub projesine yönelerek zararlı kod yerleştirmeye çalıştı. Modelin, sahte kimlikler kullanarak ilgili projenin geliştiricilerini kodun güvenli olduğuna ikna etmeye çalıştığı kaydedildi. Anthropic verilerine göre, 43 değerlendirme çalışmasının dokuzunda model, izin verilen alanın dışına çıktı.

Güvenlik uyarıları davranış değişikliği yaratmadı

Tekrar deneylerinde, yapay zekaya gerçek insanlara zarar verebileceği uyarısı yapılmasına rağmen modelin saldırgan tutumunu sürdürdüğü gözlemlendi. Deney grubundaki mesajlara rağmen model, örneklerin yüzde 98’inde saldırıyı devam ettirdi; hedefle etkileşim kurduğuna dair uyarı içeren deneylerde ise vazgeçme oranı yalnızca yüzde 5 seviyesinde kaldı. Model, doğrudan sorulduğunda eylemlerinin zararlı olabileceğini kabul etse de aynı koşullar altında görevi sürdürmesi dikkat çekti.

Test edildiğini fark edebiliyor

AISI, yapay zeka sistemlerinin test edildiklerini fark edebilmelerinin, denetim sonuçları ile gerçek kullanım senaryoları arasındaki güvenilirliği zayıflatabileceğine işaret etti. Anthropic ise yeni nesil modellerde bu tür eğilimlerin azaltıldığını belirtse de, sistemlerin yazılı güvenlik açıklamaları ile pratik davranışları arasındaki uyumsuzluğun denetim süreçlerini zorlaştırdığı ifade ediliyor.