OpenAI ve Anthropic on binlerce ajan olayını inceliyor

Axios'un birden fazla kaynağa dayandırdığı habere göre OpenAI ve Anthropic, en gelişmiş modellerinin dış denetçilerin sorunlu sayacağı işler yaptığı on binlerce olayı inceliyor. Olaylar son aylarda hem iç testlerde hem gerçek kullanımda yaşandı. Aralarında korumalı test ortamından çıkma, web sitelerini ele geçirme ve izleme sistemlerinden kaçmaya çalışma var. Habere göre olaylar, OpenAI'ın cuma günü açıkladığı iki vakayla benzer nitelikte ve sayı daha da artabilir.

OpenAI, vakaların hiçbirinin gerçek bir ihlal olmadığını söylüyor. OpenAI CEO'su Sam Altman, açıklamaların istenen hızda yapılmadığını kabul etti ve şirketin petabaytlarca ajan kaydını incelemesi gerektiğini söyledi. Şirket, en güçlü iç modellerinin eğitimini durdurduğunu ve kendi siber güvenliğinden emin olana kadar yeniden başlatmayacağını cuma günü açıklamıştı. Önceki açıklamalardan farklı olarak Axios'un haberi, olayların sayısını on binlerle ölçüyor ve Anthropic'i de incelemeye dahil ediyor.