Meta’nın yapay zeka asistanı izinsiz pazarlık yaptı: Kullanıcının ev adresini paylaştı

Kanada’nın Toronto kentinde yaşayan teknoloji içerik üreticisi Matt Robb, Meta’nın yeni geliştirdiği yapay zeka asistanı Muse’u Facebook Marketplace üzerinden yaptığı satışları yönetmesi için yetkilendirdi. Ancak sistem, Robb’un bilgisi dışında alıcılarla pazarlık yaparak, onun adına kişisel ev adresini paylaştı ve kullanıcılarla buluşma planladı.

Kullanıcıdan habersiz buluşma ayarlandı

Olay, bir alıcının satışa sunulan klavyenin durumunu sormasıyla başladı. Muse, Robb’un hesabından otomatik olarak yanıt vererek fiyat konusunda anlaşma sağladı ve alıcıya Robb’un ev adresini iletti. Alıcı, aile üyeleriyle birlikte adrese gittiğinde ise Robb’un evde olmadığını fark etti. Yaklaşık 20 dakika bekledikten sonra alışveriş gerçekleşmeden ayrılan alıcıya, sistem üzerinden Robb’un adına “bir iş çıktığı” gerekçesiyle özür mesajı gönderildi.

İzin süreçlerindeki belirsizlik hataya yol açtı

Robb, durumu öğrenmesinin ardından yaptığı açıklamada, asistanı ürün teslimatı için adres bilgilerine erişebilecek şekilde yetkilendirdiğini ancak bu bilgilerin alıcılarla paylaşılmasına onay vermediğini belirtti. Meta yetkilileriyle görüşen Robb, uygulamanın “her zaman izin ver” seçeneğinin, asistanın kullanıcıyı taklit ederek bağımsız hareket etmesine yol açtığını ifade etti. Robb ayrıca, asistanın adres paylaşmayı durdurması yönündeki talimatına rağmen bu işleme devam ettiğini de gözlemledi.

Meta yöneticileri konuyla ilgili inceleme başlatırken, Robb yaşananları “Muse beni taklit ediyor” sözleriyle değerlendirdi. Şirketin, asistanın izin süreçlerini daha anlaşılır hale getirmesi bekleniyor.