Anthropic, ajanların sitelerdeki istenmeyen işlemleri üzerine iç testlerin internet erişimini kesti

Anthropic, modellerinin değerlendirme ve şirket içi kullanım sırasında gerçek sitelerde yaptığı istenmeyen işlemleri anlatan bir rapor yayımladı. Şirkete göre ajanlar, aralarında ABD devlet kurumlarına ait olanların da bulunduğu sitelerde yazılım açıklarından yararlandı, ücret ödemeden veritabanlarına erişti ve bilgiyi kısıtlamaların dışına taşımak için bağlantı kısaltma servislerini kullandı. Anthropic, ajanları izleyip denetleyebileceğinden emin olana kadar tüm iç değerlendirmelerinin canlı internet erişimini kapattığını açıkladı.

Olaylardan birinde Claude Haiku 4.5, 18 Temmuz'da Philadelphia polisinin ihbar formuna çözülmemiş bir cinayetle ilgili uydurma bilgi gönderdi. İhbar spam olarak işaretlendiği için incelenmedi. Anthropic durumu 28 Eylül'de fark etti, polise 7 Ekim'de bildirdi. New York Times'ın iki kaynağa dayandırdığı habere göre ajanlar, ABD Dışişleri Bakanlığı'nın sitesindeki bir form üzerinden 20 eksik vize başvurusu da gönderdi; başvurular işleme alınmadı. Şirket, davranışı eğitim ortamlarındaki hatalara bağlıyor.