Anthropic, yapay zeka modellerini kötüye kullanan hesapları engelledi

Yapay zeka şirketi Anthropic, geliştirdiği modellerin biyolojik silah geliştirilmesini destekleyecek şekilde kullanıldığını tespit ettiğini duyurdu. Şirket, teknolojinin kötüye kullanımına karşı yürütülen çalışmalar kapsamında hazırlanan raporla birlikte, ilgili hesaplara karşı gerekli önlemlerin alındığını bildirdi.

Yapay Zekada Biyolojik Risk Endişesi

Yayımlanan raporda, yapay zeka modellerinin mevcut patojenleri daha tehlikeli hale getirme veya yeni patojenler üretme kapasitesine ulaşabileceği yönündeki endişelere dikkat çekildi. Şirket, yapay zeka sektöründe biyolojik risklere karşı bir diyalog ortamı oluşturmayı hedeflediklerini belirtti.

Kullanıcı Hesaplarına Müdahale

Raporda, modellerin kötüye kullanımına dair somut örneklere yer verildi. Desteklenmeyen bir bölgeden bir araştırmacının, Claude yapay zeka modeliyle kuş gribinin memelilere adaptasyonu üzerine deneyler planlamaya çalıştığı, başka bir vakada ise devlet destekli bir araştırmacının bilgisayar ortamında toksin tasarladığı ifade edildi. Söz konusu kullanıcıların hesaplarının engellendiği belirtilirken, bu kişilerin kötü niyetli olduklarına dair bir iddia bulunmadığı, ancak tedbir amaçlı hareket edildiği vurgulandı.

Öte yandan, Anthropic bünyesinde görev yapan Jacob Coxon’un, yapay zeka sistemlerinin insanüstü bir güce erişebileceği yönündeki görüşlerini paylaşarak istifa etmesi, sektörde geniş yankı uyandıran bir başka gelişme olarak öne çıktı.