Palisade Research, laboratuvar araştırmacılarının yapay zeka risklerini anlattığı söyleşileri yayımladı

Kendini yapay zekaların yeteneklerini ve güdülerini inceleyen kâr amacı gütmeyen bir kuruluş olarak tanımlayan Palisade Research, frominside.ai adlı sitede on iki yapay zeka araştırmacısıyla yapılmış video söyleşileri yayımladı. Konuşanlar arasında OpenAI, Google ve Anthropic'in şimdiki ve eski çalışanları var.

Eski OpenAI ve Google DeepMind çalışanı Geoffrey Irving, insan neslinin tükenme ihtimalini yazı turaya benzetti. Google DeepMind araştırmacısı Neel Nanda'ya göre bu ihtimal en az yüzde 10. Eski OpenAI araştırmacısı Daniel Kokotajlo, süper zekanın nasıl kontrol edileceğinin bilinmediğini söyledi. Sitede söyleşilerin tamamının yanında, konuşmacıların aynı sorulara verdiği cevapları bir araya getiren bölümler de bulunuyor. Bu sorular arasında uyarıların abartı ya da pazarlama olup olmadığı ve araştırmacıların tehlikeli gördükleri bir işte neden çalıştıkları yer alıyor.