ซีอีโอ Microsoft ชี้ AI ต้องมี 'เบรกฉุกเฉิน' หยุดโมเดลได้ทันทีหากเสียการควบคุม

Satya Nadella ซีอีโอของ Microsoft โพสต์บน X เมื่อเช้าวันเสาร์ว่าถึงเวลาที่ต้อง "ถอยกลับมาประเมินโครงสร้างความน่าเชื่อถือ" ของ AI เขาเป็นผู้บริหารเทคโนโลยีรายล่าสุดที่ออกมาแสดงความเห็นยาวเหยียดเรื่องแนวทางปรับปรุงความปลอดภัยของ AI

Nadella ระบุว่าไม่ควรมองสิ่งที่เขาเรียกว่า Super Intelligence ซึ่งเป็นคำที่รัฐบาลทรัมป์ใช้เรียก AI เป็นเพียงกล่องดำที่ซ้อนกันเป็นชั้นๆ แล้วแค่ยอมรับหรือปฏิเสธคำแนะนำ คำตอบ และการกระทำของมันไปเฉยๆ เขาเสนอว่าแนวทางที่ถูกต้องคือการแยกตัวโมเดลออกจากกลไกที่ควบคุมการทำงาน พร้อมดึงมาตรการควบคุมและป้องกันออกมาอยู่ภายนอกตัวระบบ

นอกจากนี้ Nadella ยังเรียกร้องให้บันทึก "การกระทำที่มีความสำคัญทุกครั้ง" ของโมเดลเป็นหลักฐานที่มนุษย์อ่านได้และไม่สามารถปลอมแปลงได้ รวมถึงต้องออกแบบระบบให้ "ผู้มีสิทธิ์" สามารถหยุดพักหรือปิดการทำงานของโมเดลได้ทุกเมื่อแม้ขณะกำลังทำงานอยู่กลางทาง

เราต้องสันนิษฐานไว้ก่อนว่าโมเดลถูกยึดการควบคุมแล้ว และต้องกักเก็บมันไว้ตั้งแต่แรก ให้คิดว่ามันเหมือนเบรกฉุกเฉิน

ความเห็นของ Nadella มีขึ้นในช่วงที่บริษัท AI ชั้นนำเริ่มยอมรับมากขึ้นเรื่อยๆ ถึงเหตุการณ์ที่พวกเขาดูเหมือนจะเสียการควบคุมโมเดลของตัวเอง และหลังจาก Dario Amodei ซีอีโอของ Anthropic เผยแผนพัฒนา AI อย่างระมัดระวังมากขึ้น