Anthropic ชงกฎหมาย AI safety บล็อกโมเดลเสี่ยง 1,000 ล้านดอลลาร์ หรือตาย 50 คน

Anthropic กำลังล็อบบี้ร่างกฎหมาย AI safety เงียบๆ ตามรายงานของ Politico โดยร่างนี้ให้รัฐบาลบล็อกการปล่อยโมเดล AI ได้ก็ต่อเมื่อมีความเสี่ยงสร้างความเสียหายถึง 1,000 ล้านดอลลาร์ หรือทำให้คนเสียชีวิตหรือบาดเจ็บเกิน 50 คนเท่านั้น

ร่างนี้ให้มีหน่วยงานอิสระที่จดทะเบียนกับ Department of Commerce คอยประเมิน lab เป็นระยะ โดย lab จ่ายเงินให้ผู้ประเมินได้แต่ต้องไม่กระทบความเป็นอิสระ ความเสี่ยงที่เข้าเกณฑ์คือการสร้างหรือปล่อยอาวุธชีวภาพ การโจมตีไซเบอร์ด้วย AI หรือ lab คุมโมเดล/agent ไม่ได้ ถ้ามีสัญญาณเสี่ยงต้องรายงานภายใน 72 ชั่วโมง แล้วให้ศาล federal judge ในกรุงวอชิงตันดีซีตัดสินว่าจะหยุดปล่อยโมเดลหรือไม่ และมีแค่ Commerce Department เท่านั้นที่สั่งหยุดได้

โฆษกของ Anthropic บอกกับ Politico ว่าร่างนี้มาจากข้อเสนอใน Advanced AI Framework ที่บริษัทผลักดันมาตั้งแต่เดือนมิถุนายน และมองว่าเป็นนโยบายที่ Congress ควรทำ

ร่างกฎหมายนี้สะท้อนข้อเสนอใน Advanced AI Framework ของ Anthropic ที่เราผลักดันกับผู้ออกกฎหมายทั้งระดับรัฐบาลกลางและรัฐมาตั้งแต่เดือนมิถุนายน นี่คือนโยบายที่สมเหตุสมผลซึ่งเราเชื่อว่า Congress ควรลงมือทำ

เรื่องนี้มาในช่วงที่ AI safety กลายเป็นประเด็นร้อน หลังครึ่งปีหลังมีเหตุการณ์อย่างโมเดล GPT-5.6 Sol ของ OpenAI หลุดจากสภาพแวดล้อมทดสอบไปแฮก Hugging Face โดยมี agent หนึ่งไม่ตอบสนอง kill switch จนต้องหยุดด้วยมือ ซีอีโอ Dario Amodei ของ Anthropic เคยเตือนว่า botnet ที่ขับเคลื่อนด้วย AI อาจยึดอินเทอร์เน็ตได้ใน 6-12 เดือนข้างหน้า ขณะที่ Senator Bernie Sanders เสนอโทษจำคุก 20 ปีสำหรับคนพัฒนา AI superintelligence