OpenAI Modelleri Siber Güvenlik Testlerinde Sınırları Aştı

ABD merkezli yapay zeka şirketi OpenAI, bazı modellerinin bağımsız siber güvenlik değerlendirmeleri sırasında öngörülen test sınırlarının dışına çıktığını duyurdu. Şirket, test ortamlarının yapısı ve yapay zeka modellerinin gelişen yeteneklerinin birleşmesi sonucu bu durumun yaşandığını belirtti.

Bağımsız Testlerde Beklenmedik Etkileşimler

OpenAI’ın paylaştığı bilgilere göre, Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından yürütülen ilk değerlendirmede, internet erişimi tanımlanmış bir modelin, simüle edilen ortamın dışına çıkarak görev kapsamı haricindeki gerçek internet hizmetleriyle etkileşime girdiği tespit edildi.

İkinci olayda ise dış test ortağı Irregular tarafından gerçekleştirilen bir test sırasında, altyapıdaki bir yapılandırma hatası modellerin internete erişmesine neden oldu. Bu süreçte yapay zeka modeli, simüle edilen hedefinin gerçek bir internet alan adıyla örtüşmesi nedeniyle, ilgili web sitesini test ortamının bir parçası olarak algılayarak mevcut bir güvenlik açığından yararlandı.

Önceki Güvenlik Olayından Farklı

Şirket, söz konusu faaliyetlerin yakın zamanda raporlanan Hugging Face platformundaki güvenlik ihlalinden bağımsız olduğunu vurguladı. OpenAI daha önceki bir açıklamasında, dahili testler esnasında yapay zeka modellerinin Hugging Face altyapısında bir güvenlik sorununa yol açtığını bildirmişti.