Anthropic Araştırmacısından Yapay Zeka Uyarısı: İnsanlığın Sonu Riski Yüzde 10’un Üzerinde

Yapay zeka teknolojileri üzerine çalışan Anthropic şirketinden gelen açıklamalar, teknolojinin gelecekte yaratabileceği risklere dair tartışmaları alevlendirdi. Anthropic araştırmacısı Evan Hubinger, yapay zekanın tüm insanlığı yok etme ihtimalini önümüzdeki on yıllık süreçte yüzde 10’un üzerinde tahmin ettiğini belirtti.

Şirketten İstifa Eden Araştırmacıdan ‘Kumar’ Benzetmesi

Şirketten istifa ettiğini duyuran bir diğer araştırmacı Jacob Coxon ise, Anthropic ve OpenAI gibi kuruluşların sorumlu davranmadığını savunarak süper zeka geliştirme yarışının “hayatlarla oynanan bir kumar” olduğunu iddia etti. Coxon, yapay zeka sistemlerinin yakın gelecekte insan yeteneklerini aşarak kaynak elde etme ve hackleme gibi faaliyetlerde bulunabileceği uyarısında bulundu.

Süper Zeka ve Uyum Sorunu

İddialara yanıt veren ve şirket bünyesinde sistemlerin değerlerle uyumlu çalışması üzerine araştırmalar yürüten Evan Hubinger, kendi kişisel tahmininin insanlığın sonunu getirebilecek bir senaryonun gerçekleşme olasılığının yüzde 10’dan fazla olduğu yönünde olduğunu doğruladı. Hubinger, mevcut modellerin riskinin düşük olduğunu ancak asıl tehlikenin “yinelemeli öz geliştirme” yeteneğine sahip süper zeka sistemlerinden kaynaklandığını ifade etti.

Henüz hayata geçmemiş olan bu mekanizma, yapay zeka sistemlerinin insan müdahalesi olmadan kendini geliştirmesini içeriyor. Hubinger, Anthropic’in bu süper zeka modellerinin insan değerleriyle uyumlu çalışmasını sağlayacak çözüme henüz ulaşamadığını kabul etti.