Yapay zeka uzmanlarından kritik uyarı: İnsanlığın yok olma riski yüzde 10’un üzerinde

Önde gelen teknoloji şirketlerinde görev yapan veya yapmış olan araştırmacılar, yapay zeka modellerinin kendi kendini eğiterek insan denetiminden çıkabileceği ve bu durumun dünyayı felaket riskleriyle karşı karşıya bırakabileceği konusunda uyarılarda bulundu. Uzmanlar, sistemlerin kontrol edilemez bir noktaya evrilme ihtimalinin oldukça yüksek olduğunu savunuyor.

“İnsanlık için ciddi bir tehdit”

DeepMind bünyesinde çalışan araştırmacı Neel Nanda, yapay zekanın insanlığın sonunu getirme ihtimalinin en az yüzde 10 olduğunu belirterek, bu oranı oldukça tehlikeli bulduğunu ifade etti. Araştırmacılar, laboratuvarlarda önceliklerin güvenlikten ziyade yeni modeller geliştirmeye verildiğini, bu durumun ise “gözleri bağlı bir yarış” yürütülmesine neden olduğunu vurguluyor.

Sektördeki güvenlik endişeleri, yapay zeka sistemlerinin insan müdahalesi olmadan sürekli öğrenip yeni yetenekler kazanabildiği “döngüsel öz gelişim” kapasitesine ulaşmasıyla tırmandı. Birçok uzman, toplumun bu teknolojik gelişmelere hazırlıksız olduğunu ve şirketlerin kâr odaklı rekabetinin süreci daha da karmaşıklaştırdığını savunuyor.

Avrupa’da farklı yaklaşım

Güvenlik endişeleri küresel çapta bir siyasi gündem oluştururken, Avrupa kanadından farklı sesler yükseliyor. Almanya merkezli Black Forest Labs’in CEO’su Robin Rombach, yapay zekaya karşı korku odaklı bir yaklaşım yerine iyimserliğin benimsenmesi gerektiğini savundu. Rombach, teknolojinin çok az sayıda şirketin kontrolüne girmesinin denetimi zorlaştıracağına dikkat çekerek, asıl sorunun modellerde değil, insan kaynaklı hatalarda olabileceğini belirtti.

Sektördeki tartışmalar sürerken, OpenAI gibi dev şirketler gelişmiş modellerini piyasaya sürme tarihlerini erteleyerek denetim mekanizmalarını güçlendirme yoluna gidiyor. Buna rağmen, şirket içi yeniden yapılanmalar ve kurumsal kapalılık, araştırmacıların endişelerini gidermekte yetersiz kalıyor.