หัวหน้านักวิทยาศาสตร์ OpenAI เสนอวิธีวัดเพื่อคุมความเร็วพัฒนา AI
Jakub Pachocki เสนอใช้ค่า perplexity เป็นตัวชี้วัดกลาง เพื่อให้บริษัท AI ตกลงกันได้ว่าควรหยุดพัฒนาเร็วแค่ไหน Sam Altman บอกว่านี่คือโพสต์สำคัญที่สุดของ OpenAI ในรอบนาน
AI ภาพสร้างด้วย AI ไม่ใช่ภาพถ่ายจริงJakub Pachocki หัวหน้านักวิทยาศาสตร์ของ OpenAI เขียนบล็อกโพสต์เสนอแนวทางจำกัดความเร็วในการพัฒนา AI โดยเน้นไปที่ค่าที่เรียกว่า perplexity ครับ เรื่องนี้มาในช่วงที่คนในวงการพูดถึงการชะลอความเร็ว AI กันมากขึ้น
ก่อนหน้านี้อดีตนักวิจัยของ OpenAI และ Anthropic เคยบอกว่าสองบริษัทนี้กำลัง เอาชีวิตพวกเรามาพนัน แถมเอกสาร IPO ของ Anthropic เองก็ยังบอกว่าเทคโนโลยีนี้อาจมีความเสี่ยงร้ายแรงถึงขั้นคุกคามการดำรงอยู่ของสังคม
จากนั้น Dario Amodei ซีอีโอ Anthropic ก็เสนอแผน pace the frontier ซึ่งดูเหมือนว่า Sam Altman ของ OpenAI และ Elon Musk ของ SpaceX จะเห็นด้วย แผนนี้เรียกร้องให้บริษัทต่างๆ ตกลงมาตรฐานความปลอดภัยร่วมกัน พร้อมจำกัดอัตราการพัฒนา AI ที่ไม่มีการตรวจสอบ
ปัญหาคือถ้าจะตั้ง speed limit ให้ AI ต้องมีมาตรวัดความเร็วที่ทุกฝ่ายเห็นพ้องกันก่อน Pachocki เลยเสนอว่า perplexity ซึ่งวัดว่าโมเดลทำนายคำถัดไปได้แม่นแค่ไหน ยิ่งค่าต่ำยิ่งทำนายแม่น น่าจะใช้เป็นตัวชี้วัดนี้ได้ เพราะ benchmark ที่วัดความสามารถปลายทางมักล้าสมัยเร็วเมื่อเทคโนโลยีก้าวไปไกล แต่ perplexity ยังให้ข้อมูลที่มีประโยชน์อยู่
เขายกตัวอย่างว่า GPT-4 ที่มีค่า perplexity ราว 0.91 เริ่มใช้ chain-of-thought reasoning ได้ดี จนนำไปสู่การพัฒนาโมเดล reasoning ยุคใหม่ ส่วนตอนนี้ที่ loss ลดลงต่ำกว่า 0.8 ก็เริ่มเห็นความสามารถใหม่แบบก้าวกระโดดในด้านความปลอดภัยไซเบอร์และคณิตศาสตร์
GPT-4 ที่ประมาณ 0.91 สามารถใช้ chain-of-thought reasoning ได้อย่างมีประสิทธิผล ซึ่งผลักดันให้เกิดการพัฒนาความสามารถนี้อย่างจงใจและนำไปสู่โมเดล reasoning ยุคใหม่ ตอนนี้ที่ loss ลดลงต่ำกว่า 0.8 เราได้เห็นความสามารถเปลี่ยนโลกเกิดขึ้นในด้านความปลอดภัยไซเบอร์และคณิตศาสตร์
Pachocki มองว่า perplexity อาจเป็นฐานของ benchmark กลางสำหรับวัดความฉลาดของ AI ที่บริษัทต่างๆ ใช้ตกลงขีดจำกัดร่วมกันได้ โดยจะยอมไม่พัฒนาเกินเกณฑ์ที่กำหนด จนกว่าความสามารถในการเข้าใจและตรวจสอบพฤติกรรม AI จะถึงจุดที่ชัดเจนพอ
ที่มาของข่าว
- สำนักข่าว
- TechCrunch
- พาดหัวต้นฉบับ
- OpenAI’s chief scientist has thoughts on how to limit AI development
- เผยแพร่ต้นทาง
- 23 พ.ย. 2569 04:14 น.



