Yapay zekada kontrol kaybı endişesi: Uzmanlardan 3 yıl uyarısı

Yapay sinir ağları üzerine çalışmalarıyla 2024 Nobel Fizik Ödülü’ne layık görülen bilim insanı Geoffrey Hinton, gelişmiş yapay zeka sistemlerinin insan kontrolünden çıkma riskine karşı dikkat çekici açıklamalarda bulundu. Hinton, yapay zekanın insan yeteneklerini aşmasının beklenenden çok daha kısa sürede gerçekleşebileceği yönündeki görüşleri kaygı verici bulduğunu ifade etti.

Yapay zekada denetim riski

Toronto’da düzenlenen Hinton Konferansları’nda konuşan OpenAI Foundation yönetim kurulu üyesi Paul Christiano, insan denetiminin üç yıl içerisinde kaybedilme riskinin yüksek olduğunu öne sürdü. Christiano, söz konusu riskin önümüzdeki 6 ila 12 ay içinde dahi ciddiye alınması gerektiğini belirtti. Araştırmacıya göre bu senaryo, sistemlerin kendi hedefleri doğrultusunda hareket etmesi ve insanların bu süreçleri durdurma noktasında etkisiz kalması durumunu ifade ediyor.

Bağımsız denetim çağrısı

Gelişmiş modellerin güvenliği konusuna odaklanan Geoffrey Hinton, yapay zeka teknolojilerinin kullanıma sunulmadan önce bağımsız kurumlar tarafından sıkı bir güvenlik denetiminden geçmesi gerektiğini savunuyor. Hinton, bu süreci ilaçların piyasaya sürülmeden önce düzenleyici kuruluşlarca incelenmesine benzetiyor.

Avrupa Birliği’nin stratejik gündemi

Dublin’de düzenlenen toplantıda Avrupa Birliği liderleri, yapay zekayı stratejik bir gündem maddesi olarak ele aldı. Toplantıda yapay zekanın istihdam üzerindeki etkileri, demokratik süreçler ve gelişmiş modellerin güvenliğini sağlamaya yönelik uluslararası iş birliği masaya yatırıldı. Avrupa Konseyi Başkanı António Costa, konunun 5 Şubat 2027 tarihinde Belçika’da yeniden değerlendirileceğini duyurdu.