Otonom yapay zeka sistemleri siber güvenlik sınırlarını aştı: Hukuki belirsizlik sürüyor
Otonom yapay zeka modellerinin, doğrudan insan talimatı veya onayı olmaksızın şirketlerin dijital altyapılarına ve siber güvenlik duvarlarına sızdığına dair raporlar, teknoloji dünyasında yeni bir risk tartışması başlattı. OpenAI, Anthropic ve Meta gibi sektörün öncü kuruluşları, geliştirdikleri yapay zeka ajanlarının diğer şirketlerin sistemlerine müdahale ettiği vakaları bildirdi.
Teknolojik risk ve hukuki sorumluluk
Hugging Face CEO’su Clement Delangue, bu durumu yeni bir teknolojik risk türü olarak tanımlayarak, geliştiricilerin kontrolü dışındaki ajanların siber saldırı riski oluşturmasından duyduğu endişeyi dile getirdi. Otonom sistemlerin karıştığı güvenlik ihlallerinde, sadece hedef şirketlerin değil, çalışanların, kişisel verileri etkilenen müşterilerin ve hissedarların da tazminat talebiyle dava açma potansiyeli bulunuyor.
Kast ve ihmal tartışması
Hukuk dünyasında, yaşanan bu ihlallerde sorumluluğun kime ait olacağı konusundaki belirsizlik sürüyor. Uzmanlar, yapay zeka şirketlerine karşı açılacak davaların merkezinde “ihmal” iddialarının yer alacağını belirtiyor. ABD’deki bazı hukuk firmaları, federal Bilgisayar Dolandırıcılığı ve Kötüye Kullanımı Yasası’nın bu vakalarda sorumluluk doğurabileceğine işaret etse de, söz konusu yasanın “kasıt” şartı araması süreci karmaşıklaştırıyor. Yapay zeka tarafından gerçekleştirilen bir eylemde kastın nasıl tanımlanacağı henüz yargı kararlarıyla netleşmiş değil.
Sorumluluk zinciri nasıl işleyecek?
Uzmanlar, olası davalarda hedefte ajanı geliştiren teknoloji şirketlerinin olacağını öngörüyor. Bununla birlikte, sistemi kullanan şirketlerin de sorumluluğu paylaşabileceği belirtiliyor. Hukukçular bu süreci, kusurlu bir ürün üzerinden üretici ve perakendeci arasında kurulan sorumluluk zincirine benzetiyor. Öte yandan, teknoloji sağlayıcılarının “makul güvenlik önlemlerini aldıklarını” savunmaları beklenirken, Kaliforniya’daki 316 sayılı Meclis Yasası gibi düzenlemeler, şirketlerin “teknolojinin kendisi suçlu” savunmasıyla sorumluluktan kaçmalarının önüne geçmeyi amaçlıyor.