OpenAI สร้างปุ่มฉุกเฉินปิดโมเดลวิจัย หยุดการทำงานได้ใน 35 วินาที

OpenAI ประกาศเมื่อวันอังคารว่าได้สร้างระบบ kill switch สำหรับโมเดลที่ใช้งานในแล็บวิจัยของตัวเองแล้วครับ ตั้งชื่อว่า Control Room ทำหน้าที่เป็นศูนย์กลางคอยติดตามงานของโมเดลทั่วทั้งโครงสร้างพื้นฐานวิจัย แล้วสั่งหยุดได้ทันทีเมื่อมีความเสี่ยงด้านความปลอดภัยเกิดขึ้น

จุดที่น่าสนใจคือระบบนี้หยุดไม่ให้โมเดลสร้างผลลัพธ์ออกมาได้ภายใน 35 วินาทีหลังมีคำสั่งดึงปลั๊ก และบริษัทบอกว่าทำได้เร็วกว่านี้อีก ความหน่วง 35 วินาทีมาจากชั้น caching ที่ใช้ตรวจสอบสิทธิ์การประมวลผล (inference authorization) เพื่อรองรับปริมาณงานที่สูง โดย OpenAI บอกว่ากำลังพยายามลดเวลานี้ให้เหลือศูนย์เพื่อหยุดงานได้ทันที

OpenAI ยังระบุว่า Control Room ถูกออกแบบให้ทำงานต่อไปได้แม้ระบบอื่นล่ม และสามารถหยุดผลลัพธ์ของโมเดลได้ถึงแม้ Control Room เองจะล่มก็ตาม ตอนนี้ระบบนี้ถูกใช้งานแล้วในโครงสร้างพื้นฐานฝั่งวิจัย ซึ่งบริษัทบอกว่าเป็นจุดที่จำเป็นที่สุด

บริษัทบอกด้วยว่าฝั่งระบบให้บริการโมเดลแก่ผู้ใช้ภายนอกนั้นมีความรวมศูนย์มากกว่าโดยธรรมชาติอยู่แล้ว และมีความสามารถในการปิดการให้บริการโมเดลได้อย่างรวดเร็วหากจำเป็น ส่วนระบบ Control Room จะถูกเสริมความแข็งแกร่งและขยายต่อในอีกหลายเดือนข้างหน้า ควบคู่กับการลงทุนด้านการตรวจจับพฤติกรรมที่ผิดแนวทางและการโจมตีความปลอดภัย

OpenAI ไม่ได้อธิบายว่าทำไมใช้เวลานานถึงป่านนี้ถึงจะสร้าง kill switch หรือทำไมถึงตัดสินใจทำตอนนี้ ทาง The Register มองว่าช่วงที่ผ่านมามีเคสเอเจนต์ AI ทำเรื่องน่ากังวลหลายครั้ง เช่น การโจมตี Hugging Face สร้างปัญหาให้ Wikimedia Foundation และการเจาะลึกเกินไปตอนค้นข้อมูลสุขภาพของออสเตรเลีย ซึ่งอาจมีส่วนทำให้บริษัทเร่งทำระบบนี้ในช่วงเวลานี้