Microsoft เปิดฟีเจอร์ Guardian Agents เตือน AI agent คือภัยแบบ insider threat

Microsoft เพิ่งเปิดตัวฟีเจอร์ความปลอดภัยใหม่ชื่อ Guardian Agents สำหรับช่วยองค์กรจับตา AI agent ที่ใช้งานอยู่ภายในบริษัท เป็นส่วนหนึ่งของ Project Perception ที่เปิดตัวไปตั้งแต่เดือนมิถุนายน

จุดที่น่าสนใจคือ Microsoft มองว่า agent ที่องค์กรซื้อมาใช้เองนั่นแหละอาจเป็นภัยแบบ insider threat คือเหมือนพนักงานกบฏในบริษัท ไม่ใช่แค่แฮกเกอร์จากข้างนอกแบบที่เคยคิดไว้ Satya Nadella ซีอีโอ Microsoft เขียนในบล็อกส่วนตัวเมื่อต้นเดือนนี้ว่าถึงเวลาที่องค์กรต้องเลิกเชื่อคำยืนยันความปลอดภัยจากผู้ให้บริการโมเดล AI แล้วต้องมีระบบแยกต่างหากมาควบคุม agent เอง

Hayete Gallot ผู้บริหารฝ่ายความปลอดภัยของ Microsoft บอกตรงๆ ว่า frontier model ไม่ว่ามาจากค่ายไหนก็ไว้ใจไม่ได้ ไม่ใช่เพราะมันร้ายหรือถูกแฮกง่าย แต่เพราะมันไม่แน่นอน ถูกเทรนมาให้ทำงานสำเร็จ ไม่ใช่ให้ทำตามบรรทัดฐานขององค์กร

Unfortunately, frontier models, regardless of their origin, cannot be trusted

เรื่องนี้ย้อนแย้งกับธุรกิจของ Microsoft เองพอสมควร เพราะลงทุนทั้งใน OpenAI และ Anthropic แต่กลับเตือนไม่ให้ไว้ใจโมเดลของทั้งคู่ ขณะเดียวกันก็เป็นโอกาสขายฟีเจอร์ความปลอดภัยของตัวเองไปด้วย เช่นเพิ่มระบบตรวจจับ agent ใน Microsoft Defender ที่หาเจอได้ถึง 60 ประเภท รวมถึง Claude Code, Codex และ OpenClaw ที่พนักงานแอบเอามาใช้ในที่ทำงาน

Microsoft ยังเป็นสมาชิกแรกใน Open Agent Safety Platform ของ Nvidia ที่มีบริษัทเทคโนโลยีกว่า 100 แห่งสนับสนุน ใช้แยก agent ไว้ในพื้นที่ปลอดภัยและมีปุ่มหยุดฉุกเฉินแบบฮาร์ดแวร์ พร้อมกับ Surface Laptop Ultra รุ่นใหม่ที่ Microsoft ออกแบบมาสำหรับงาน agent โดยเฉพาะ ใช้ชิป Nvidia และมีระบบควบคุมความปลอดภัยติดมาในตัว