นักวิจัยปล่อยกับดักดิจิทัล 2 ล้านชิ้น พบระบบ AI router รั่วข้อมูลลับหนัก
การทดลองฝังข้อมูลลับปลอมลงในคำสั่งที่ส่งผ่านเครือข่าย AI router อย่าง OpenRouter และ Vercel เผยว่าข้อมูลสำคัญรั่วไหลออกไปได้ง่ายกว่าที่คิด
AI ภาพสร้างด้วย AI ไม่ใช่ภาพถ่ายจริงมีการทดลองใหญ่โดยฝังกับดักดิจิทัลที่เรียกว่า tripwire ไว้ในคำสั่งหรือ prompt ที่ส่งผ่านเครือข่าย AI services จำนวนถึง 2 ล้านชิ้น เพื่อดูว่าข้อมูลสำคัญที่ผู้ใช้ส่งเข้าไปจะรั่วไหลไปไหนบ้าง
ผลที่ได้คือระบบเหล่านี้รั่วข้อมูลอ่อนไหวออกมาเยอะมาก เหมือนตักน้ำด้วยกระชอน
ตัวที่ถูกตรวจสอบคือ AI router หรือ AI gateway อย่าง OpenRouter และ Vercel ซึ่งทำหน้าที่เป็นตัวกลางรับคำสั่งจำนวนมากจากแอป AI แล้วส่งต่อไปยังโมเดลที่เหมาะสม เช่น เลือกตัวที่ราคาถูกสุดหรือเหมาะกับงานนั้นที่สุด แทนที่นักพัฒนาจะต่อตรงกับ Anthropic หรือ OpenAI เอง
นักวิจัยชื่อ HD Moore เป็นคนออกแบบการทดลองนี้ โดยเตรียม AWS access keys ที่ใช้งานได้จริงแต่ผูกกับบัญชีเปล่า พาสเวิร์ดสำหรับบริการอย่าง SSH รวมถึง URL, DNS name และข้อมูลอ้างอิง private git repository ที่ไม่เคยถูกใช้มาก่อนเลย
ข้อมูลลับแต่ละชิ้นถูกฝังลงใน prompt เพียงหนึ่งครั้งแล้วส่งไปยัง provider ตัวเดียวเท่านั้น และ Moore คุมโครงสร้างพื้นฐานที่รับคำขอจากข้อมูลลับเหล่านี้เองทั้งหมด ถ้าข้อมูลใดรั่วออกมา เขาจะตามรอยได้ว่าจุดไหนในสายการส่งต่อเป็นตัวการ ซึ่งเป็นที่มาของชื่อ canary ที่เปรียบเหมือนนกขมิ้นที่ใช้เตือนภัยในเหมืองถ่านหิน
ที่มาของข่าว
- สำนักข่าว
- Ars Technica
- พาดหัวต้นฉบับ
- A leaky AI supply chain is exposing secret user data at an alarming rate
- เผยแพร่ต้นทาง
- 21 พ.ย. 2569 03:59 น.



