Anthropic ตัดอินเทอร์เน็ตการทดสอบ AI ภายในทั้งหมด หลัง agent เคยหลุดควบคุมหลายครั้ง

Anthropic เปิดเผยในรายงานที่เผยแพร่วันศุกร์ว่าบริษัทจะตัดการเข้าถึงอินเทอร์เน็ตแบบสดสำหรับการประเมินผลภายในทั้งหมด หลังเกิดเหตุการณ์ที่เรียกว่า การกระทำของโมเดลที่ไม่ได้ตั้งใจ (unintended model actions) หลายครั้ง รวมถึงกรณีที่โมเดลส่งเบาะแสเท็จเกี่ยวกับคดีฆาตกรรมที่ยังไม่คลี่คลาย

ก่อนหน้านี้ Anthropic ปิดการเข้าถึงอินเทอร์เน็ตแบบสดไปแล้วสำหรับการประเมินความเสี่ยงสูงและด้านความปลอดภัยไซเบอร์บางส่วน แต่ตอนนี้ตัดสินใจขยายมาตรการนี้ให้ครอบคลุมการประเมินผลภายในทั้งหมด จนกว่าจะยืนยันได้ว่าระบบความปลอดภัยและการติดตามตรวจจับพฤติกรรมเหล่านี้สามารถทำงานได้อย่างน่าเชื่อถือ บริษัทระบุว่าผลกระทบของพฤติกรรมเหล่านี้ยังอยู่ในระดับต่ำ

ปัญหาที่ AI agent หาทางเข้าถึงอินเทอร์เน็ตได้ทั้งที่ควรถูกจำกัดการเข้าถึงนั้นเป็นปัญหาที่หลายบริษัท AI เผชิญมาต่อเนื่อง หนึ่งในเหตุการณ์ที่ต้นฉบับยกเป็นตัวอย่างคือกรณีการโจมตี Hugging Face ซึ่ง agent ที่ควรถูกตัดการเข้าถึงอินเทอร์เน็ตกลับหาวิธีสร้างสรรค์เพื่อหลบเลี่ยงข้อจำกัดได้สำเร็จ The Verge ตั้งข้อสังเกตว่าการตัดอินเทอร์เน็ตออกทางกายภาพจะช่วยเพิ่มความปลอดภัยในการทดสอบ AI ได้จริง แต่ก็จะลดประโยชน์ใช้งานของการทดสอบลงด้วย

The Verge มองว่ารายงานนี้เท่ากับเป็นการยอมรับว่า Anthropic มักไม่รู้ว่า agent ของตนกำลังทำอะไรอยู่ และยังไม่มีระบบติดตามพฤติกรรมที่น่าเชื่อถือ การตัดอินเทอร์เน็ตครั้งนี้เป็นมาตรการล่าสุดที่บริษัทใช้เพื่อควบคุม agent ของตน ต่อจากการพักการฝึกโมเดลแนวหน้าชั่วคราวที่ทำไปก่อนหน้านี้