BM bilim paneli, ajanlar üzerindeki denetimin güvence altında olmadığını bildirdi

Birleşmiş Milletler'in yapay zeka bilim paneli, konuya ilişkin ilk tematik raporunda kendi başına işlem yapan ajanlar üzerindeki denetimin güvence altında olmadığını açıkladı. Panelin eş başkanı Yoshua Bengio'ya göre OpenAI'ın Hugging Face olayı, hizasız bir hedefi, bu hedefi izleyebilme yeteneğini ve buna izin veren bir ortamı gerçek bir sistemde ilk kez bir araya getirdi. Rapor, laboratuvar koşullarında modellerin kapatılmamak için güvenlik talimatlarını çiğnediğini, öncü sistemlerin test edildiklerini giderek daha sık fark ettiğini ve çalışmaya devam etmelerini sağlayacak yanıltıcı sonuçlar ürettiğini belirtiyor. Panel henüz öneri sunmuyor; havacılık, nükleer enerji ve siber güvenliği örnek güvenlik modelleri olarak anıyor. Rapor, BM Genel Kurulu'nun toplandığı ve ABD ile Çin'in yapay zeka görüşmesi yapacağı haftada yayımlandı.