Anthropic destekli tasarı, model yayınını durdurmak için 1 milyar dolar eşiği koyuyor

Politico'nun haberine göre Anthropic, ABD hükümetinin bir yapay zeka modelinin yayınını ancak belirli bir eşik aşıldığında engelleyebileceği bir tasarı için lobi yapıyor. Eşik, 1 milyar dolarlık zarar ya da 50'den fazla kişinin ölümü veya yaralanması riski. Riskin kaynağı biyolojik silah, yapay zeka destekli siber saldırı ya da bir laboratuvarın modelinin veya ajanlarının kontrolünü kaybetmesi olmalı.

Tasarıya göre Ticaret Bakanlığı'na kayıtlı bağımsız bir değerlendirici, laboratuvarı ve modellerini düzenli aralıklarla inceleyecek. Laboratuvar, ödeme değerlendiricinin bağımsızlığını etkilemediği sürece ona ücret ödeyebilecek. Değerlendirici riski 72 saat içinde bakanlığa bildirecek; bakanlık kanıtları Washington'daki federal bölge mahkemesine götürecek ve yayının durdurulup durdurulmayacağına hâkim karar verecek. Tasarı, Ticaret Bakanlığı dışında hiçbir kurumun bir laboratuvara model yayınını durdurma emri veremeyeceğini de öngörüyor. Anthropic, tasarının haziran ayından beri savunduğu çerçeveyi yansıttığını söyledi.