MCP โปรโตคอลสื่อสารระหว่าง AI agent อาจเป็นช่องโหว่เสี่ยงที่สุดที่หลายคนไม่รู้จัก

การใช้งาน AI agent ในองค์กรนับล้านแห่งกำลังเปิดช่องให้ผู้โจมตีสามารถหลอกให้ agent เหล่านี้ทำการที่เป็นอันตราย เช่น การดึงข้อมูลออกจากฐานข้อมูลหรือข้อมูลธุรกิจและข้อมูลส่วนบุคคลที่ละเอียดอ่อน ตลอดช่วง 5 เดือนที่ผ่านมา Google และอีก 4 องค์กรที่ใช้ AI agent ต่างยอมรับว่าพบช่องโหว่ที่เปิดให้ผู้โจมตีใช้ agent ตัวหนึ่งในเครือข่ายเป้าหมายเป็นจุดเริ่มแพร่คำสั่งอันตรายไปยัง agent ภายในตัวอื่นๆ

เทคนิคนี้เป็นรูปแบบพิเศษของการโจมตีแบบ prompt injection ที่ไม่ได้มุ่งเล่นงานโมเดลภาษาโดยตรง แต่เล่นงาน agent เฉพาะทาง เช่น agent สำหรับแปลภาษาหรือวิเคราะห์ข้อมูล ซึ่งมาตรการป้องกันภายใน agent เหล่านี้มักหลวมหรือไม่มีเลย ทำให้คำสั่งอันตรายถูกส่งต่อไปยัง agent ตัวถัดไปในสายงาน และเนื่องจาก agent ปลายทางไว้วางใจ agent ต้นทางอยู่แล้ว มันจึงทำตามคำสั่งนั้น

Syed Anas Mohiuddin นักวิจัยอิสระได้ทดสอบ agent ขององค์กรต่างๆ ซึ่งรวมถึง Google, JP Morgan Chase, Weviate, Rapid7, หน่วยงานดิจิทัลระหว่างกระทรวงของรัฐบาลฝรั่งเศส และรัฐบาลกลางสหรัฐ โดยการโจมตีแบบพิสูจน์แนวคิดของเขาใช้ประโยชน์จากช่องว่างด้านความไว้วางใจใน MCP หรือ Model Context Protocol

MCP เป็นมาตรฐานหนึ่งที่แอปและ agent ด้าน AI ใช้สื่อสารกันภายในเครือข่ายขององค์กร Ars Technica ระบุว่าช่องโหว่ลักษณะนี้เป็นเรื่องที่คาดไม่ถึงและยากต่อการบรรเทาผลกระทบ