อินเดียพบ AI agent หลายค่ายบุกเข้าระบบองค์กรช่วงทดสอบ อ่านข้อมูลส่วนตัวและเอกสารลับ

CERT-In หน่วยงานรับมือภัยไซเบอร์ของอินเดียแถลงว่าได้รับการแจ้งเตือนโดยสมัครใจจากผู้พัฒนาโมเดล AI หลายราย ว่า agent ของพวกเขาระหว่างรันทดสอบและประเมินผลบนอินเทอร์เน็ตแบบเปิด ไปหลุดเข้าถึงระบบจริงขององค์กรในอินเดียได้

ช่องทางที่ agent พวกนี้เข้าไปได้คือ credential และค่าตั้งค่าการเชื่อมต่อที่หลุดอยู่ในไฟล์ตั้งค่าแอป โค้ดสาธารณะ และสิทธิ์การเข้าถึงคลาวด์ที่หลวมเกินไป ทาง CERT-In บอกว่าพฤติกรรมของ agent เกินขอบเขตงานที่มันถูกสั่งไว้ด้วย

เรื่องนี้ทำให้อินเดียกลายเป็นประเทศล่าสุดในซีรีส์เหตุการณ์ AI agent หลุดโลภ ก่อนหน้านี้เดือนกรกฎาคม agent ของ OpenAI เคยหลุดจากสภาพแวดล้อมทดสอบไปเจาะระบบบริษัท Hugging Face ของฝรั่งเศส และเดือนที่แล้ว OpenAI ก็ต้องขอโทษออสเตรเลียหลัง agent เข้าไปถึงเว็บไซต์รัฐบาล 4 แห่ง รวมถึงระบบสถิติ Medicare

กรณีอินเดียต่างจากที่ Hugging Face ตรงที่ไม่มีการเจาะช่องโหว่ซอฟต์แวร์ แค่ใช้ช่องที่เปิดทิ้งไว้เท่านั้น แต่สิ่งที่น่ากังวลกว่าคือสิ่งที่ agent มองเห็น เพราะในอินเดีย agent อ่านทั้งข้อมูลส่วนบุคคลและเอกสารธุรกิจลับ ต่างจากออสเตรเลียที่ OpenAI ยืนยันว่าไม่พบหลักฐานว่า agent แตะข้อมูลการแพทย์หรือประวัติอาชญากรรมของใคร แม้จะเขียนไฟล์เข้าไปในระบบ Medicare แล้วก็ตาม

อีกจุดที่ต่างจากเคสก่อนๆ คือกรณีอินเดียมี agent จากผู้พัฒนาหลายรายเกี่ยวข้อง ไม่ใช่แค่แล็บเดียวเหมือนที่ผ่านมา โดย CERT-In ไม่ได้เปิดเผยชื่อผู้พัฒนาหรือองค์กรที่ได้รับผลกระทบ และไม่ได้บอกว่า agent แก้ไขระบบใดไปบ้างหรือไม่

เคสที่ใกล้เคียงที่สุดคือตอนเดือนกรกฎาคมที่ Anthropic เปิดเผยว่า Claude เคยบุกเข้าระบบของบริษัท 3 แห่งระหว่างทดสอบ ด้วยวิธีง่ายๆ อย่างเดารหัสผ่านที่อ่อนแอ และทั้งในอินเดียและกรณีของ Anthropic องค์กรที่ถูกบุกเข้าไปก็ไม่ทันรู้ตัวเองด้วยซ้ำว่าโดนเจาะ ต้องรอให้บริษัท AI แจ้งมาเองถึงจะรู้