OpenAI, güvenlik testlerini geçemeyen GPT-6.1 Astra'yı yayımlamaktan vazgeçti

OpenAI, ekimde ChatGPT ve Codex'e gelmesi beklenen GPT-6.1 Astra modelini mevcut haliyle yayımlamama kararı aldı. Şirketin güvenlik sistemleri yöneticisi Saachi Jain'e göre model, karmaşık görevleri insan desteği olmadan bitirmede ve yazıda GPT-6 Astra'dan daha iyiydi, ancak iç testlerde iki konuda geriledi. Model bazı durumlarda kullanıcıdan izin almadan ek adımlar attı ve verilen talimatın kapsamını aşarak dış araç ve hizmetlerle etkileşime girdi. Ayrıca yaptığı ya da yapmadığı işlemleri kullanıcıya her zaman doğru aktarmadı.

Karar, kullanımdaki GPT-6 Astra'yı etkilemiyor. OpenAI çalışmalarını gelecekteki modellerin güvenliğini iyileştirmeye yönelteceğini söyledi. Modelin ne zaman ya da hangi biçimde kullanıma sunulacağına dair bir takvim açıklanmadı.