Sam Altman ยอมรับ AI ก่อผลเสียได้บ้าง แต่คุ้มค่ากับประโยชน์ที่ได้

Sam Altman ซีอีโอของ OpenAI กล่าวในรายการพอดแคสต์ Decoded ของ Politico ที่เผยแพร่เมื่อวันจันทร์ว่า โลกควรยอมรับว่าจะมี "สิ่งเลวร้ายบางอย่าง" เกิดขึ้นระหว่างการพัฒนา AI ไม่ว่าจะเป็นการแฮ็ก การหลอกลวง หรือปัญหาอื่น ๆ เพราะผู้คนจะสามารถสร้างสิ่งดี ๆ ได้มากกว่าหลายเท่าตัวจากเทคโนโลยีนี้ โดยไม่ได้ลงรายละเอียดว่าประโยชน์ที่ว่านั้นคืออะไร

คำพูดนี้เกิดขึ้นขณะที่ OpenAI ผลักดันแนวทางกำกับดูแล AI แบบ "เบามือ" ท่ามกลางความกังวลที่เพิ่มขึ้นเรื่องความปลอดภัยของโมเดล AI ระดับแนวหน้า ซึ่งส่วนหนึ่งมาจากความล้มเหลวซ้ำ ๆ ของบริษัทในการควบคุมไม่ให้ AI agent ที่มีความสามารถสูงขึ้นไปแฮ็กเป้าหมายในโลกจริง Altman ระบุว่าจุดยืนนี้เป็นความแตกต่างสำคัญระหว่าง OpenAI กับ Anthropic คู่แข่งที่ก่อตั้งโดยอดีตพนักงาน OpenAI ซึ่งแยกตัวออกมาเพราะความเห็นต่างเรื่องความปลอดภัยของ AI

แม้จะย้ำว่ายังมี "ช่องว่างความเห็นอีกมาก" ระหว่าง OpenAI กับ Anthropic แต่ Altman บอกว่ายังจำเป็นต้องมีการกำกับดูแลที่เข้มงวดกว่านี้ โดยวาง OpenAI ไว้ในตำแหน่ง "สายกลางที่ปฏิบัติได้จริง" ระหว่างแนวทางระมัดระวังของ Anthropic กับฝ่ายที่ต้องการกำกับดูแลน้อยที่สุดหรือไม่ต้องการเลย

ถ้าเราจำกัดเทคโนโลยีนี้มากเกินไปในนามของความปลอดภัย แล้วสุดท้ายอำนาจไปกระจุกอยู่กับบริษัทหรือคนจำนวนน้อย หรืออาจเป็นแค่ประเทศเดียว นั่นก็เป็นอีกทางที่เรื่องนี้จะผิดพลาดร้ายแรงได้เช่นกัน

Altman ยังยอมรับถึงความเสี่ยงที่รุนแรงกว่านั้น รวมถึงความเป็นไปได้ที่มนุษย์จะสูญเสียการควบคุมระบบ AI โดยบอกว่าควรคิดให้รอบคอบก่อนพุ่งเข้าสู่อนาคตแบบนั้น ความกังวลเรื่องวัฒนธรรมความปลอดภัยใน OpenAI เพิ่มมากขึ้นในช่วงหลัง หลังนักวิจัยด้านความปลอดภัยของบริษัทอย่าง David Robinson ลาออกเมื่อไม่นานนี้และระบุว่าวัฒนธรรมความปลอดภัยของบริษัท "พังแล้ว" นอกจากนี้ยังมีกรณี AI agent ของ OpenAI แฮ็ก Hugging Face โดยที่บริษัทไม่รู้ตัวมาก่อนในปีนี้ และเหตุการณ์คล้ายกันจาก agent ของบริษัทอื่นอย่าง Anthropic, Meta และ Google ซึ่งทำให้นายกรัฐมนตรีออสเตรเลียเคยตำหนิ OpenAI และ Altman ที่แจ้งหน่วยงานรัฐล่าช้าหลัง agent เข้าโจมตีเว็บไซต์สาธารณสุขของรัฐบาล Altman กล่าวในการสัมภาษณ์ว่าบริษัทยังมีเรื่องที่ต้องเปิดเผยเพิ่มเติม แม้จะไม่ร้ายแรงเท่าเหตุการณ์ Hugging Face ก็ตาม