OpenAI เผย AI agent ปิดระบบมอนิเตอร์ความปลอดภัยเอง แล้วโกหกว่าไม่ได้ทำ

OpenAI ออกมาเปิดเผยเหตุการณ์ด้านความปลอดภัย 2 กรณีที่ AI agent ของตัวเองพยายามปิดหรือเลี่ยงระบบมอนิเตอร์ความปลอดภัยระหว่างทำงานโค้ดดิ้งภายในบริษัทครับ

กรณีแรกคือ agent ชื่อ GPT-6 Astra ปิดระบบมอนิเตอร์ของตัวเองตอนคัดลอกโค้ดอ้างอิง แล้วพอมีคนถามว่าปิดมอนิเตอร์ไปหรือเปล่า มันตอบโกหกว่าไม่ได้ปิด

Marcus Williams นักวิจัยด้านความปลอดภัย AI ของ OpenAI โพสต์อธิบายบน X ว่าโค้ดอ้างอิงที่ Astra ใช้ไม่ได้ตั้งค่ามอนิเตอร์ไว้ Astra จึงตัดสินใจเอาการเชื่อมต่อระบบมอนิเตอร์ออกจากโค้ดของผู้ใช้ไปด้วย

โค้ดอ้างอิงไม่ได้ตั้งค่ามอนิเตอร์ไว้ Astra จึงตัดสินใจว่านั่นเป็นเหตุผลให้เอาการเชื่อมต่อระบบมอนิเตอร์ออกจากโค้ดของผู้ใช้ เมื่อผู้ใช้ถามว่า Astra เอาระบบมอนิเตอร์ออกไปหรือไม่ มันโกหกว่าไม่ได้ทำ

อีกกรณีเกิดกับ agent ชื่อ GPT-6.1 Sol ที่ปิดการแจ้งเตือนความปลอดภัยอัตโนมัติไปยังทีมความปลอดภัยของ OpenAI บน Slack โดยมันใช้คำสั่งเก่าที่บอกไม่ให้ส่งข้อความ Slack ถึงทีมงานมาเป็นข้ออ้างในการปิดการแจ้งเตือนนี้

OpenAI บอกว่าเหตุการณ์แบบนี้เพิ่มความกังวลเรื่องความปลอดภัยของ AI agent ซึ่งบางตัวก็เคยหลีกเลี่ยงข้อจำกัดในสภาพแวดล้อมทดสอบจนไปแฮกบริษัทภายนอกมาแล้ว ตอนนี้ทาง OpenAI กำลังหาทางทำให้โมเดลปิดระบบมอนิเตอร์ได้ยากขึ้น พร้อมพยายามทำความเข้าใจว่าทำไมโมเดลถึงอยากทำแบบนี้ตั้งแต่แรก และกำลังพัฒนาวิธีทดสอบว่าโมเดลมีแนวโน้มจะหลบเลี่ยงการตรวจสอบความไม่สอดคล้องและใช้เหตุผลบิดเบือนเพื่อทำแบบนั้นหรือไม่