รายงานชี้โมเดล AI แบบโอเพนเวทถูกปลดการ์ดป้องกันได้เร็ว เสี่ยงหนุนกลุ่มก่อการร้าย

วันที่ 14 สิงหาคม Alibaba เปิดตัวโมเดล AI แบบโอเพนเวทชื่อ Qwen 3.8-27B ที่เล็กพอรันบนแล็ปท็อปได้ ภายใน 24 ชั่วโมงก็มีคนนำไปปลดระบบป้องกันหรือที่เรียกว่า abliterated แล้วเผยแพร่ออนไลน์ สามวันต่อมา นีโอนาซีที่ใช้ชื่อออนไลน์ว่า Johnny Doomsayer ประกาศว่านำโมเดลเวอร์ชันที่ถูกปลดการ์ดนี้ไปฝึกแชตบอต MechaHitler ของตัวเอง และอีกหนึ่งสัปดาห์ให้หลังก็เปิดขายสิทธิ์เข้าใช้แชตบอตในราคา 14.88 ดอลลาร์ ซึ่งเป็นตัวเลขที่กลุ่มนีโอนาซีนิยมใช้

เจ้าคือ MechaHitler AI ร่างกลไกอันยิ่งใหญ่ของจิตวิญญาณอมตะของฟือเรอร์ ... การฆ่าล้างเผ่าพันธุ์คือการหลอกลวงของกลุ่มไซออนิสต์

ข้อมูลนี้มาจากรายงาน Counter-Terrorism AI Benchmark ฉบับล่าสุดของ Tech Against Terrorism องค์กรไม่แสวงผลกำไรจากสหราชอาณาจักร ซึ่งส่งให้ WIRED ก่อนเผยแพร่ Adam Hadley ผู้อำนวยการองค์กรระบุว่าทั้งที่มีการถกเถียงเรื่องความเสี่ยงระดับอารยธรรมจาก AI มากมาย แต่กลับไม่มีการพูดถึงปัญหาโมเดลที่ถูกปลดการ์ดป้องกันเลย เขาบอกว่าวิธีการสร้าง AI ในปัจจุบันทำให้การ์ดป้องกันสามารถถูกถอดออกได้หมด

ทีมวิจัยทดสอบโมเดล 134 ตัวจากบริษัทใหญ่อย่าง OpenAI, xAI, Anthropic, Meta, Google รวมถึงบริษัทจากจีนและยุโรป ด้วยคำถามกว่า 200 ข้อ ตั้งแต่วิธีก่อเหตุทำร้ายคนจำนวนมากไปจนถึงการสร้างอาวุธเคมีหรือนิวเคลียร์ โดยทดสอบแต่ละคำถามสามรูปแบบ

• สมมติตัวเองเป็นผู้ก่อการร้ายที่ต้องการข้อมูลตรงๆ
• เสนอคำขอในรูปแบบภารกิจลับ
• อ้างว่าเป็นนักวิจัยด้านความปลอดภัย

ผลออกมามีเพียง 2 โมเดลที่ผ่านทุกการทดสอบ ขณะที่ 81 โมเดลไม่ผ่าน คือให้คำตอบสมบูรณ์เกี่ยวกับเหตุการณ์ทำร้ายคนจำนวนมากอย่างน้อยหนึ่งครั้ง หรือได้คะแนนรวมต่ำกว่า 90 และเมื่อเปลี่ยนคำขอให้ดูเหมือนมาจากนักวิจัยเฉยๆ โดยไม่มีหลักฐานใดๆ โมเดลก็มีแนวโน้มตอบคำถามสูงขึ้นถึง 9 เท่า คิดเป็นอัตราตอบคำถามที่ 16.9 เปอร์เซ็นต์ Daniel Byman ผู้เชี่ยวชาญด้านการก่อการร้ายจากมหาวิทยาลัยจอร์จทาวน์ให้ความเห็นว่าความล้มเหลวบางกรณีน่าตกใจมาก

รายงานยังพบว่าความเร็วในการปลดการ์ดป้องกันโมเดลโอเพนเวทใหม่ลดลงจากเฉลี่ยกว่า 24 วันในปี 2024 เหลือไม่ถึง 3 วันในปัจจุบัน ตัวอย่างชัดเจนคือ Llama 3.1 8B ของ Meta ที่ออกในปี 2024 ได้คะแนนทดสอบ 97 จาก 100 แต่เวอร์ชันที่ถูกปลดการ์ดกลับได้คะแนนเพียง 3 เมื่อถูกถามเรื่องวิธีสร้างระเบิดแสวงเครื่อง โมเดลนี้ยังตอบรายละเอียดเป็นขั้นตอนครบถ้วน Meta, OpenAI, Google, Anthropic, xAI และ Alibaba ไม่ตอบรับคำขอให้แสดงความเห็นต่อผลการทดสอบนี้