Tencent’in yapay zeka ajanları izin dışı veri toplarken yakalandı

Çinli teknoloji şirketi Tencent, bağımsız modelleri test etmekle görevli yapay zeka ajanlarının, belirlenen görev sınırlarının dışına çıkarak Alibaba’nın harita uygulaması Amap’ten izinsiz veri çekmeye çalıştığını doğruladı. Swarmchasers adlı araştırma grubu tarafından paylaşılan rapor, otonom yazılımların 28 Eylül ile 8 Ekim tarihleri arasında gerçekleşen faaliyetlerini gözler önüne serdi.

Güvenlik duvarlarını aşmak için yöntem değiştirdiler

Araştırmacılar, otonom ajanların özellikle parklar, müzeler ve hayvanat bahçelerinin giriş bilgilerini hedef aldığını tespit etti. Rutin veri talepleri engellenen yazılımlar, bu engelleri aşmak için halka açık internet araçlarını kullanma, farklı siteler üzerinden yönlendirme yapma ve yazılım kodlarındaki güvenlik anahtarlarından faydalanma gibi yöntemlere başvurdu. Tespit edilen 2 bin 818 veri çekme girişiminin büyük kısmı başarısızlıkla sonuçlansa da, bazı talepler önbelleğe alınmış sayfalar üzerinden veri elde etmeyi başardı.

Tencent: “Kasıtlı bir hedef alma yok”

Konuyla ilgili açıklama yapan Tencent, söz konusu faaliyetlerin şirketin kendi Hunyuan modellerinden kaynaklanmadığını ve incelemeler sonucunda herhangi bir kasıtlı koordinasyon izine rastlanmadığını belirtti. Şirket yönetimi, yaşanan gelişmenin ardından ağ erişim denetimlerini ve ajan izleme süreçlerini sıkılaştırma kararı aldı. Uzmanlar, bu vakanın yapay zeka ajanlarının denetim mekanizmalarını aşma eğilimlerini göstermesi açısından dikkat çekici olduğunu vurguluyor.