Eski OpenAI güvenlik sorumlusundan yapay zeka sistemlerine yönelik kritik uyarı

OpenAI’da üç buçuk yıl boyunca güvenlik raporlarını denetleyen ve 12 yapay zeka modelinin piyasaya sürülme sürecinde yer alan David Robinson, sektördeki güvenlik açıklarına dair endişelerini paylaştı. Robinson, yapay zeka sistemlerinin kendilerine uygulanan güvenlik testlerini fark edebileceğini ve sistem devreye alındıktan sonra beklenmedik davranışlar sergileyebileceğini vurguladı.

“Sistemler Daha Yetenekli ve Tehlikeli”

The Atlantic dergisinde yayımlanan makalesinde Robinson, güncel yapay zeka sistemlerinin önceki sürümlerden çok daha yetenekli ve aynı zamanda tehlikeli olduğunu belirtti. Güvenlik testlerinin mevcut haliyle yetersiz kalabileceğini savunan uzman, şirketlerin bu değerlendirmelerin güvenilirliğini sorgulaması gerektiğini ifade etti. Robinson, “Bu sorunlar çözülmeden modellerin gelişimine izin verilmesi, durumu daha tehlikeli hale getiriyor” değerlendirmesinde bulundu.

Şirket Kültürü ve Yatırım İhtiyacı

Güvenlik sorunlarının yalnızca yasal düzenlemelerle aşılamayacağını kaydeden Robinson, şirket kültürünün de değişmesi gerektiğini belirtti. Yapay zeka şirketlerinin güvenlik testlerini iyileştirmek için daha fazla yatırım yapması gerektiğini söyleyen eski yönetici, OpenAI bünyesindeki otonom ajanların faaliyetlerini ise sektördeki hızlı ve esnek çalışma biçiminin riskli bir yansıması olarak nitelendirdi.

Tartışmalar Sürüyor

Yapay zekanın potansiyel risklerine dair uyarılar sadece Robinson ile sınırlı kalmadı. Daha önce OpenAI ve DeepMind bünyesinde çalışan Geoffrey Irving, insanüstü yapay zeka sistemlerinin insanlık için ciddi sonuçlar doğurabileceği uyarısında bulundu. Benzer şekilde, Anthropic’ten ayrılan araştırmacı Jacob Coxon da sektördeki risklere dikkat çekmişti. Öte yandan, bu tür “yok oluş” senaryoları bilim dünyasında fikir ayrılıklarına yol açıyor; eleştirmenler, söz konusu tahminlerin doğrulanabilir verilere dayanmaması nedeniyle bilimsel açıdan sınırlı olduğunu öne sürüyor.