Anthropic araştırmacısından dikkat çeken istifa: Yapay zeka kontrolden çıkabilir
Yapay zeka şirketi Anthropic’te görev yapan araştırmacı Jacob Coxon, sektördeki şirketlerin kontrolü mümkün olmayan sistemler geliştirmek amacıyla hızlanan bir rekabete girdiğini belirterek görevinden ayrıldı. İngiliz araştırmacı, istifasının ardından sosyal medya üzerinden yaptığı açıklamalarda yapay zekanın insanlığın kontrolünden çıkabileceği uyarısında bulundu.
“Gelecek yıl kontrolü kaybedebiliriz”
Teknoloji şirketleri arasındaki rekabetin güvenlik standartlarından taviz verilmesine yol açtığını savunan Coxon, ABD’li şirketlerin hem birbirleriyle hem de Çinli rakipleriyle girdiği yarışın riskli olduğunu vurguladı. Coxon, “En agresif senaryolara doğru ilerliyoruz. Gelecek yılın sonunda işler çoktan kontrolden çıkmış olabilir” ifadesini kullandı. Araştırmacı, özellikle kendi kendini geliştirme yeteneğine erişen sistemlerin zamanla insan komutlarını reddedebileceğinden endişe ettiğini belirtti.
Sektörde “süper zeka” endişesi
Coxon’ın açıklamalarına Anthropic’in bir diğer bilim insanı Evan Hubinger’den de destek geldi. Hubinger, yapay zekanın insanlığın tamamını tehdit edebilecek bir güce ulaşma riskinin önümüzdeki on yıl içinde yüzde 10’dan fazla olduğunu öne sürdü. Anthropic’in güvenlik konusunda çalışmalar yürüttüğünü kabul eden Hubinger, süper zeka sistemlerinin insan değerleriyle uyumlu hale getirilmesi noktasında henüz somut bir çözüm bulunmadığını ifade etti.
“Sorumlu gelişim için koordinasyon şart”
Daha önce OpenAI bünyesinde de çalışan Coxon, yapay zeka güvenliği konusunun sadece bireysel şirket çabalarıyla çözülemeyeceğini vurguladı. Araştırmacı, hükümet müdahalesi veya sektör genelinde koordineli bir yavaşlama olmadan, yapay genel zekanın sorumlu bir biçimde geliştirilmesinin mümkün olmadığını savundu. Sektördeki gelişmeleri “San Francisco’daki birkaç mühendisin bilgisayarında alınan kararlar” olarak nitelendiren Coxon, bu durumun küresel riskler taşıdığını ifade etti.
Sektördeki güvenlik kaygıları yalnızca Anthropic ile sınırlı kalmadı. OpenAI CEO’su Sam Altman ve baş bilim insanı Jakub Pachocki de benzer şekilde artan yeteneklerin ciddi güvenlik sorunları yaratabileceği konusunda uyarılarda bulundu. Binden fazla araştırmacı, kendi kendini geliştirebilen modellerin kontrol altına alınması adına hükümetlere, küresel düzeyde koordineli bir yavaşlama çağrısında bulundu.