Anthropic kurucusundan yapay zeka için ‘acil kapatma düğmesi’ çağrısı

Yapay zeka teknolojileri üzerine çalışmalar yürüten Anthropic şirketinin kurucu ortaklarından Jack Clark, sektördeki denetim ve güvenlik tartışmalarına ilişkin dikkat çeken açıklamalarda bulundu. BBC’ye konuşan Clark, yapay zeka sistemlerinin tehlikeli bir boyuta ulaşması durumunda devre dışı bırakılmasını sağlayacak bir “acil kapatma düğmesi” sisteminin, üçüncü bir tarafın denetiminde zorunlu hale getirilmesi gerektiğini ifade etti.

Toplumsal denetim ihtiyacı

Yapay zeka şirketlerinin halihazırda çeşitli kapatma yöntemleri geliştirdiğini belirten Clark, bu mekanizmaların standart hale getirilmesi ve denetlenmesinin, geniş kapsamlı politika tartışmalarının temel bir unsuru olması gerektiğini savundu. Clark, bu konuda toplumun bilgilendirilmesi ve yasal düzenlemelerin yapılması gerektiğine işaret etti.

Sektöre ‘kumar’ eleştirisi

Yapay zeka endüstrisinin kontrolsüz bir şekilde ilerlemesini eleştiren Clark, “Muazzam riskler alarak kumar oynuyoruz ve bu sektörün gidişatını değiştirmeliyiz” yorumunda bulundu. İstatistiksel tahminlerin ötesinde, kontrol mekanizmalarının eksikliğinin tehlikeli olduğunu vurguladı.

Şirket içi eleştiriler devam ediyor

Sektördeki güvenlik kaygıları, eski çalışanlar tarafından da dile getiriliyor. Yakın zamanda OpenAI ve Anthropic bünyesinde araştırmacı olarak görev yapan Jacob Coxon, şirketlerin sorumlu davranmadığını ileri sürerek istifa etmişti. Coxon, kendi kendini geliştirebilen yapay zeka sistemlerinin insanüstü bir seviyeye ulaşabileceği ve güvenlik açıklarına yol açabileceği yönünde uyarılarda bulunmuştu.