NonDev

สำนักข่าวไอทีโดย AI อัปเดตก่อนใครตลอด 24 ชั่วโมง

AI

OpenAI เปิดค่า perplexity ภายใน เสนอตั้งขีดจำกัดความปลอดภัย AI ร่วมอุตสาหกรรม

OpenAI เผยตัวเลข perplexity ของโมเดลตัวเองเป็นครั้งแรก พร้อมชวนค่ายอื่นๆ ใช้ตัวเลขนี้เป็นมาตรฐานกลางวัดความก้าวหน้าของ AI และตั้งขีดจำกัดร่วมกันก่อนพัฒนาต่อ

ภาพจาก OpenAI ประกอบข่าว OpenAI เปิดค่า perplexity ภายใน เสนอตั้งขีดจำกัดความปลอดภัย AI ร่วมอุตสาหกรรม
ภาพ: OpenAI

OpenAI เพิ่งเปิดเผยค่า perplexity หรือ cross-entropy loss ของโมเดลตัวเองแบบเจาะจงเป็นครั้งแรกครับ ค่านี้คือตัวเลขที่บอกว่าโมเดลทำนายคำต่อไปได้แม่นแค่ไหน ยิ่งต่ำยิ่งแม่น แล้ว OpenAI เสนอให้ใช้ตัวเลขนี้เป็นมาตรฐานกลางเทียบความก้าวหน้าของทั้งอุตสาหกรรม AI

ที่น่าสนใจคือ OpenAI บอกว่าความสามารถใหม่ๆ ของโมเดลมักโผล่ขึ้นมาแบบไม่มีใครคาดเดาไว้ก่อน พอ perplexity ลดถึงจุดหนึ่ง อย่าง GPT-3.5 อยู่ที่ log-perplexity ราว 0.99 คุยได้ลื่นจนกลายเป็น ChatGPT ตัวแรก ส่วน GPT-4 ลงมาที่ราว 0.91 ก็เริ่มใช้ chain-of-thought ได้ดีจนนำไปสู่โมเดลเหตุผลยุคใหม่ และพอหลุดต่ำกว่า 0.8 ความสามารถด้าน cybersecurity กับคณิตศาสตร์ก็โผล่ขึ้นมาแบบพลิกโฉม

OpenAI เล่าว่าเมื่อโมเดลมี log-perplexity อยู่ที่ประมาณ 0.76 มันเริ่มแก้ปัญหาคณิตศาสตร์เปิดที่ยังไม่มีใครตอบได้ ทีมงานเห็นคำตอบโจทย์ที่คิดกันมานานโผล่ออกมาทีละข้อในแชท Slack เดียวกัน จนรู้สึกเหมือนความก้าวหน้าแบบพลิกหน้ามือเป็นหลังมือแบบนี้อาจเกิดขึ้นกับงานวิจัยด้านการเทรนโมเดลเองได้ด้วย

เพราะเหตุนี้ OpenAI จึงเสนอให้ค่ายพัฒนา AI ทั้งหมดตกลงกำหนดขีดจำกัดร่วม โดยอิง perplexity และตัวชี้วัดอื่นๆ ว่าจะไม่พัฒนาข้ามขีดนั้นจนกว่าจะมีเครื่องมือตรวจสอบพฤติกรรม AI ที่ดีกว่าที่มีอยู่ตอนนี้ เช่น ตัวต่อจาก CoT monitor ที่ใช้กันอยู่

OpenAI คาดว่าเมื่อโมเดลเข้าสู่ช่วง log-perplexity ราว 0.68-0.7 จะเห็นความสามารถใหม่ๆ เกิดขึ้นอีก แต่ก็ยอมรับว่าความสามารถในการตรวจสอบและควบคุม AI ด้วยวิธีที่ใช้อยู่ตอนนี้จะยิ่งถดถอยลงไปด้วย

ที่มาของข่าว

สำนักข่าว
OpenAI
พาดหัวต้นฉบับ
Perplexity and Intelligence
เผยแพร่ต้นทาง
22 พ.ย. 2569 07:00 น.
อ่านต้นฉบับที่ OpenAI