OpenAI, kendini geliştiren yapay zeka için uluslararası standart istiyor

OpenAI, özyinelemeli kendini iyileştirme için uluslararası standartlar önerdi. Şirketin tanımına göre bu aşamada yapay zeka sistemleri, bir sonraki kuşağı kuracak araştırmayı giderek kendisi yürütüyor. Şirket, tümüyle özerk bir kendini iyileştirmenin bugün yaşanmadığını, güvenli biçimde yapılabilir hale gelene kadar da bu yola girilmemesi gerektiğini yazdı; olgun koruma önlemleri olmadan insanların gelişmenin izini kaybedebileceğini savundu. Öneriye göre ABD, ulusal yapay zeka güvenlik enstitüleri ile CAISI ve ISO gibi kuruluşların üzerine kurulacak küresel teknik standartlarda öncülük etmeli. Ortak ölçüm yöntemleri, olay bildirimi ve otomatik yapay zeka araştırmasında insan denetimi kuralları bu çerçevenin parçası olarak sayılıyor. Çağrı, bir BM bilim panelinin özerk ajan kümeleri üzerindeki denetimin yitirilmesine karşı uyarmasının ve havacılık, nükleer enerji ile siber güvenlik modellerine benzer bir işbirliği önermesinin ardından geldi.