OpenAI, akıl yürütme adımlarını kopyalama girişimini durdurdu; yöntem Azure'da haftalarca çalıştı

OpenAI, modellerinin gizli akıl yürütme adımlarını kopyalamaya yönelik koordineli bir girişimi durdurduğunu açıkladı. Şirkete göre etkinlik 1 Temmuz'da başladı, 24-25 Temmuz'da 4 binden fazla kullanıcıdan gelen 16 bin isteğe ulaştı; birbiriyle bağlantılı 15 binden fazla hesap 28 Temmuz'a kadar kapatıldı. OpenAI, çekirdek grubu Kimi modelinin geliştiricisi Moonshot AI ile ilişkili kişilere bağlıyor. Saldırı, şifreli akıl yürütme paketlerinin oturumlar ve aynı aileden modeller arasında taşınabilmesinden yararlanıyordu; ucuz bir model, pahalı modelin düşüncelerini açık metin olarak yazabiliyordu. Açığı bulan Joachim Schaeffer ve ekibi, 13 Eylül'deki testte saldırının OpenAI ve Anthropic'in kendi API'lerinde engellendiğini, Microsoft Azure'da ise GPT-6 Astra dahil denenen tüm OpenAI modellerinde çalıştığını bildirdi. Araştırmacıların zaman çizelgesine göre Azure'daki koruma 27 Eylül'de eklendi.