บอร์ด OpenAI กังวล AI อาจ "ครองโลก" แทนมนุษย์ได้ในอีกไม่กี่เดือน

Paul Christiano กรรมการบอร์ด OpenAI Foundation และผู้อำนวยการ Alignment Research Center ออกมาพูดแบบตรงๆ ในงานบรรยายที่ Toronto Convention Center สัปดาห์นี้ครับ เขาบอกกับผู้ฟังว่าสำหรับคนส่วนใหญ่ในห้องนั้น สาเหตุการตายที่น่าจะเกิดขึ้นได้มากที่สุดคือ "อุบัติเหตุจาก AI" ไม่ใช่โรคมะเร็งหรือโรคหัวใจแบบที่สถิติทั่วไปบอก

นี่เป็นงานแรกในซีรีส์บรรยาย 3 ครั้งของเขา ซึ่งพูดถึงความกังวลเรื่อง AI "takeover" หรือการที่ AI เข้ามาควบคุมสถานการณ์แทนมนุษย์ ซึ่งเขามองว่าอาจเกิดขึ้นได้ในอีกไม่กี่เดือนข้างหน้า

Christiano นิยามคำว่า takeover ไว้ว่าเป็นสถานการณ์ที่ระบบ AI ที่มีเป้าหมายของตัวเองกลายเป็นผู้ตัดสินใจหลักบนโลก ในแบบเดียวกับที่มนุษย์ทำอยู่ทุกวันนี้ และถ้ามนุษย์คนไหนพยายามจะหยุดมัน ก็จะไร้ประสิทธิภาพไม่ต่างจากการที่คนคนหนึ่งพยายามหยุดกองทัพสหรัฐฯ ด้วยตัวเอง

ผมคิดว่าสำหรับคนส่วนใหญ่ในห้องนี้ สาเหตุที่น่าจะทำให้พวกเขาตายมากที่สุดคือเพราะอุบัติเหตุจาก AI

Christiano บอกว่าสถานการณ์แบบนี้น่าจะนำไปสู่การตายหมู่ และอาจทำให้สภาพแวดล้อมของโลกไม่เหมาะกับการอยู่อาศัยของมนุษย์อีกต่อไป