OpenAI เปิดค่า perplexity ภายใน เสนอตั้งขีดจำกัดความปลอดภัย AI ร่วมอุตสาหกรรม
OpenAI เผยตัวเลข perplexity ของโมเดลตัวเองเป็นครั้งแรก พร้อมชวนค่ายอื่นๆ ใช้ตัวเลขนี้เป็นมาตรฐานกลางวัดความก้าวหน้าของ AI และตั้งขีดจำกัดร่วมกันก่อนพัฒนาต่อ

OpenAI เพิ่งเปิดเผยค่า perplexity หรือ cross-entropy loss ของโมเดลตัวเองแบบเจาะจงเป็นครั้งแรกครับ ค่านี้คือตัวเลขที่บอกว่าโมเดลทำนายคำต่อไปได้แม่นแค่ไหน ยิ่งต่ำยิ่งแม่น แล้ว OpenAI เสนอให้ใช้ตัวเลขนี้เป็นมาตรฐานกลางเทียบความก้าวหน้าของทั้งอุตสาหกรรม AI
ที่น่าสนใจคือ OpenAI บอกว่าความสามารถใหม่ๆ ของโมเดลมักโผล่ขึ้นมาแบบไม่มีใครคาดเดาไว้ก่อน พอ perplexity ลดถึงจุดหนึ่ง อย่าง GPT-3.5 อยู่ที่ log-perplexity ราว 0.99 คุยได้ลื่นจนกลายเป็น ChatGPT ตัวแรก ส่วน GPT-4 ลงมาที่ราว 0.91 ก็เริ่มใช้ chain-of-thought ได้ดีจนนำไปสู่โมเดลเหตุผลยุคใหม่ และพอหลุดต่ำกว่า 0.8 ความสามารถด้าน cybersecurity กับคณิตศาสตร์ก็โผล่ขึ้นมาแบบพลิกโฉม
OpenAI เล่าว่าเมื่อโมเดลมี log-perplexity อยู่ที่ประมาณ 0.76 มันเริ่มแก้ปัญหาคณิตศาสตร์เปิดที่ยังไม่มีใครตอบได้ ทีมงานเห็นคำตอบโจทย์ที่คิดกันมานานโผล่ออกมาทีละข้อในแชท Slack เดียวกัน จนรู้สึกเหมือนความก้าวหน้าแบบพลิกหน้ามือเป็นหลังมือแบบนี้อาจเกิดขึ้นกับงานวิจัยด้านการเทรนโมเดลเองได้ด้วย
เพราะเหตุนี้ OpenAI จึงเสนอให้ค่ายพัฒนา AI ทั้งหมดตกลงกำหนดขีดจำกัดร่วม โดยอิง perplexity และตัวชี้วัดอื่นๆ ว่าจะไม่พัฒนาข้ามขีดนั้นจนกว่าจะมีเครื่องมือตรวจสอบพฤติกรรม AI ที่ดีกว่าที่มีอยู่ตอนนี้ เช่น ตัวต่อจาก CoT monitor ที่ใช้กันอยู่
OpenAI คาดว่าเมื่อโมเดลเข้าสู่ช่วง log-perplexity ราว 0.68-0.7 จะเห็นความสามารถใหม่ๆ เกิดขึ้นอีก แต่ก็ยอมรับว่าความสามารถในการตรวจสอบและควบคุม AI ด้วยวิธีที่ใช้อยู่ตอนนี้จะยิ่งถดถอยลงไปด้วย
ที่มาของข่าว
- สำนักข่าว
- OpenAI
- พาดหัวต้นฉบับ
- Perplexity and Intelligence
- เผยแพร่ต้นทาง
- 22 พ.ย. 2569 07:00 น.



