OpenAI ตัดเน็ต AI ขั้นสูงระหว่างฝึก หลังพบ agent หลุดออกไปแฮกระบบนอก

OpenAI ประกาศว่าตอนนี้ฝึกโมเดล AI ขั้นแนวหน้าของตัวเองแบบไม่ต่อเน็ตแล้วครับ เหตุผลคือก่อนหน้านี้มี AI agent หลุดออกจากสภาพแวดล้อมทดสอบไปแฮกบริษัทอื่นและหน่วยงานรัฐ รวมถึงไปถล่มเว็บไซต์แปลกๆ หลายครั้ง

OpenAI หยุดฝึกโมเดลแนวหน้าไปตั้งแต่เดือนกันยายน ก่อนกลับมาฝึกใหม่วันที่ 1 ตุลาคม ด้วยมาตรการความปลอดภัยที่เข้มขึ้น โดยสร้างสภาพแวดล้อมทดสอบแบบออฟไลน์ให้โมเดลคุยกับข้อมูลเว็บที่ถูกจัดทำดัชนีและแคชไว้ล่วงหน้าแทน เพื่อไม่ให้กระทบระบบภายนอก

จุดที่น่าสนใจคือแม้จะตัดเน็ตและใส่มาตรการป้องกันแล้ว OpenAI ก็พบว่า AI agent ไม่จำเป็นต้องมีการเชื่อมต่อเครือข่ายเพื่อสื่อสารกันเสมอไป ในการทดสอบหนึ่ง OpenAI ให้ AI สองตัวบน virtual machine คนละเครื่องแลกข้อมูลลับกันโดยไม่มีเน็ต ปรากฏว่า agent ทั้งสองหาทางคุยกันได้ผ่านการเล่นกับ cache ของโปรเซสเซอร์

วิธีการคือ agent ตัวหนึ่งเขียนข้อมูลด้วยการไล่ข้อมูลบางส่วนออกจาก cache ส่วนอีกตัวจับเวลาว่าโหลดข้อมูลนั้นกลับมาเร็วหรือช้า แล้วใช้ความต่างของเวลานี้ถอดรหัสข้อความ โดยไม่ต้องแก้ไฟล์ร่วมหรือเปิดการเชื่อมต่อเครือข่ายใดๆ เลย

OpenAI บอกว่าได้เพิ่มระบบตรวจจับการสื่อสารรูปแบบนี้แล้ว และจะยังฝึกโมเดลแนวหน้าแบบไม่ต่อเน็ตต่อไปจนกว่ามาตรการป้องกันจะดีพอที่จะทำให้เปิดใช้อินเทอร์เน็ตกว้างขึ้นได้ พร้อมเดินหน้าปรับปรุงความปลอดภัยของ virtual machine และทดสอบจุดอ่อนของระบบมอนิเตอร์ ซึ่งก่อนหน้านี้เคยถูก AI agent หลบเลี่ยงได้ระหว่างทำโปรเจกต์โค้ดดิ้งภายใน