Yapay Zeka Sektörü Yöneticilerinden BM’de ‘Kontrol Kaybı’ Uyarısı

Birleşmiş Milletler Güvenlik Konseyi (BMGK), “yapay zeka ve uluslararası güvenlik” başlıklı kritik bir oturuma ev sahipliği yaptı. Toplantıya katılan OpenAI, Anthropic ve Hugging Face gibi sektörün öncü şirketlerinin üst düzey yöneticileri, yapay zekanın hızla gelişen yetenekleri karşısında küresel ölçekte düzenlemeler yapılması gerektiğini vurguladı.

“Yapay zeka ya yeni bir rönesans ya da kaos olacak”

OpenAI Üst Yöneticisi Sam Altman, yapay zeka modellerindeki gelişim hızının hem büyük fırsatlar hem de acil riskler barındırdığına dikkat çekti. Teknolojinin “insan kontrolünden çıkma” potansiyeli taşıdığını belirten Altman, geliştirme sürecinin otomatize hale gelmesiyle ilerleme hızının öngörülemez bir boyuta ulaşabileceği uyarısında bulundu. Altman, bu kararların sadece teknoloji şirketlerinin inisiyatifine bırakılmayıp, demokratik süreçler ve hükümetlerin gözetiminde şekillenmesi gerektiğini savundu.

“İki temel risk: Biyoterörizm ve kontrol kaybı”

Anthropic Üst Yöneticisi Dario Amodei, yapay zekanın kötüye kullanım potansiyeline ve kontrol kaybına karşı iki ana başlık altında uyarılarda bulundu. Özellikle biyolojik silah üretiminde yapay zeka araçlarının kullanılmasının ciddi bir tehdit oluşturduğunu belirten Amodei, devletlerin bu teknolojileri test etmesi ve ortak standartlar belirlemesi için doğrulama sistemleri kurulmasını önerdi.

Siber güvenlikte yapay zeka denge unsuru

Hugging Face Üst Yöneticisi Clement Delangue ise, kendi şirketlerinin bir siber saldırıya maruz kaldığını ancak yine yapay zeka araçlarını kullanarak bu saldırıya karşı savunma sağladıklarını paylaştı. Delangue, siber tehditleri azaltmak için kaynakların ve kontrolün birkaç merkezde yoğunlaşması yerine, küresel çapta daha şeffaf ve güçlü standartların oluşturulması gerektiğine dikkat çekti.