วิจัยพบ AI โมเดลไม่เซนเซอร์กว่า 22,096 ตัวหาง่ายบน Hugging Face และแพลตฟอร์มดัง
ทีมวิจัยจากสหรัฐฯและสิงคโปร์เก็บข้อมูล uncensored LLM กว่า 22,096 ตัวจาก 5 แพลตฟอร์มหลัก พบมีแค่ 13% ที่ติดคำเตือนเรื่องความเสี่ยง และบางโมเดลถูกดาวน์โหลดไปแล้วหลายสิบล้านครั้ง
AI ภาพสร้างด้วย AI ไม่ใช่ภาพถ่ายจริงมีงานวิจัยจาก University of Illinois Urbana-Champaign กับ Nanyang Technological University ที่ไปสำรวจ AI โมเดลแบบ uncensored หรือที่ไม่มีระบบกรองเนื้อหาอันตรายมาครับ เก็บข้อมูลได้ทั้งหมด 22,096 ตัว จากแพลตฟอร์มฮิตอย่าง Hugging Face, Kaggle, John Snow Labs ในสหรัฐฯ และ OpenCSG กับ ModelScope ของจีน
ประเด็นที่น่าสนใจคือโมเดลพวกนี้ไม่ได้อยู่นิ่งๆ บนแพลตฟอร์มเดียว แต่ถูกนำไปใช้ในแอป โปรเจกต์บน GitHub และระบบ routing อย่าง Open Router ด้วย ซึ่งคนใช้แอปหรือบริการเหล่านั้นอาจไม่รู้เลยว่าโมเดลข้างในไม่มีระบบป้องกันเนื้อหาอันตราย
ทีมวิจัยบอกว่าพบโมเดลแบบนี้มากกว่า 11,000 ตัวที่ปรากฏซ้ำข้ามหลายแพลตฟอร์ม โดย Hugging Face เป็นต้นทางหลัก แต่มีแค่ประมาณ 13% เท่านั้นที่ติดคำเตือนเรื่อง moderation ส่วนข้อมูลเรื่องความเสี่ยงด้านความปลอดภัยก็ไม่ได้ถูกเก็บไว้อย่างสม่ำเสมอเมื่อโมเดลถูกคัดลอกข้ามแพลตฟอร์ม
ที่น่ากังวลกว่านั้นคือมี 27 โมเดลที่ตรวจพบสัญญาณผิดปกติจากการสแกนความปลอดภัย เช่น signature ที่เกี่ยวกับมัลแวร์หรือกลไกที่เปิดช่องให้รันโค้ดได้ตามใจ โมเดลกลุ่มนี้ถูกดาวน์โหลดรวมกันแล้วถึง 136,000 ครั้ง
จำนวนโมเดลแบบนี้ก็เพิ่มขึ้นเร็วมากด้วย จากราว 100 ตัวต่อเดือนในเดือนพฤษภาคม 2023 ขึ้นมาเป็นมากกว่า 1,000 ตัวต่อเดือนในปัจจุบัน ตัวอย่างหนึ่งคือโมเดล dolphin-2.9.1-yi-1.5-34b ที่มีคนโหลดไปแล้วมากกว่า 53 ล้านครั้ง และเฉพาะเดือนที่แล้วก็โหลดไป 4.8 ล้านครั้ง
ส่วน OpenCSG ที่เป็นหนึ่งในแพลตฟอร์มที่ถูกแจ้งผลวิจัย ตอบรับว่าจะปรับปรุงบริการตามข้อมูลที่ได้รับ ขณะที่ Hugging Face ซึ่งกำลังอยู่ในระหว่างถูก Nvidia เข้าซื้อ รวมถึง Kaggle และ John Snow Labs ไม่ได้ตอบคำขอความเห็นจาก The Register
ที่มาของข่าว
- สำนักข่าว
- The Register
- พาดหัวต้นฉบับ
- Uncensored AI models are thriving on code hosting platforms
- เผยแพร่ต้นทาง
- 19 พ.ย. 2569 16:30 น.



