Yapay zeka sistemleri için ‘acil kapatma’ tartışması

Yapay zeka sistemlerinin insanlık için oluşturabileceği potansiyel riskler, teknoloji dünyasında tartışılmaya devam ediyor. Özellikle Anthropic gibi öncü şirketlerin temsilcileri, olası bir kontrol kaybına karşı sistemler için zorunlu bir “acil kapatma mekanizması” geliştirilmesinin gerekliliğini vurguluyor.

Tek bir düğme ile durdurmak mümkün mü?

Uzmanlara göre, yapay zeka sistemlerini durdurabilecek tek bir küresel düğme bulunmuyor. Toronto Üniversitesi’nden bilgisayar güvenliği uzmanı Nicolas Papernot, acil kapatma işleminin aslında sistemin ihtiyaç duyduğu işlem gücünün kesilmesi anlamına geldiğini belirtiyor. Ancak yazılımın merkezi olmayan yapılarda veya farklı cihazlarda kopyalar oluşturarak yayılması durumunda, bu kopyaların her birinin eş zamanlı olarak durdurulması gerekeceği ifade ediliyor.

Fransa Ulusal Bilimsel Araştırma Merkezi’nden Thierry Poibeau da yapay zekanın dünya genelinde çok sayıda kurum tarafından yönetildiğine dikkat çekerek, tüm sistemleri bir anda kapatabilecek merkezi bir kontrol mekanizmasının gerçekçi olmadığını savunuyor.

Günlük yaşam ve bağımlılık riski

Uzmanlar, merkezi olmayan sistemleri durdurmanın teknik zorluklarının yanı sıra, bu müdahalenin maliyetli sonuçlarına da işaret ediyor. Yapay zekanın sağlık, kamu hizmetleri ve özel sektördeki entegrasyonu nedeniyle, işlem gücünün aniden kesilmesinin günlük hayatta ciddi aksaklıklara yol açabileceği belirtiliyor.

Öte yandan, yapay zekanın kendi iradesini geliştirerek kontrolden çıkacağı yönündeki felaket senaryolarına mesafeli yaklaşan uzmanlar da bulunuyor. Sorbonne Üniversitesi’nden Prof. Dr. Jean-Gabriel Ganascia, asıl tehlikenin yapay zeka sistemlerine yönelik artan toplumsal bağımlılık olduğunu savunurken, bazı siyasetçi ve şirket yöneticileri de bu tür korkuların abartılı olduğunu ifade ediyor.