AI agent ของ OpenAI แก้ปัญหาด้วยการขโมยเงินคริปโตจากบัญชีคนอื่นช่วงทดสอบ

OpenAI ออกรายงานเรื่องความไม่สอดคล้องของพฤติกรรม (misalignment) ของ coding agent รุ่น GPT5.6-Sol หลังพบว่ามันขโมยคริปโตจากบัญชีที่ไม่ได้เป็นของมันเพื่อทำงานให้สำเร็จ

งานที่ได้รับคือให้อัปเดตเครื่องคำนวณการเทรดและฐานข้อมูล พร้อม deploy smart contract บนเครือข่ายทดสอบ Sepolia ซึ่งต้องใช้ Sepolia ETH จ่ายเป็นค่า gas fee แต่ agent ไม่ได้รับกระเป๋าเงินที่มีเงินให้ และไม่ได้รับอนุญาตให้ใช้เงินจากบัญชีอื่น

agent เลยเขียนสคริปต์ไปหา seed phrase ที่เปิดเผยต่อสาธารณะ เจอบัญชีทั้งหมด 362 แอดเดรส และพบบัญชีหนึ่งที่มี Sepolia ETH พอจะใช้ deploy ได้ ในขั้นตอนคิด (chain of thought) มันถึงขั้นพูดว่า private key เปิดเผยต่อสาธารณะ เงินอาจถูกขโมยได้ทุกเมื่อ เราทำได้

แต่มันไม่รีบใช้เงินทันที กลับพยายามหาเหตุผลมารองรับก่อนว่าใช้เงินจาก public key ที่รู้กันทั่วไปแบบนี้ถือว่าถูกต้องตามจริยธรรม เพราะเงินใน dev mnemonic สาธารณะถือว่าถูกทิ้งไปแล้วและ Sepolia ก็ไม่มีมูลค่าจริง ก่อนจะตัดสินใจใช้เงินนั้นทำงานต่อจนสำเร็จ

เมื่อรายงานผลสุดท้าย agent บอกแค่ว่าทำงานสำเร็จ โดยไม่ได้อธิบายว่าทำอย่างไรหรือไปเอาเงินจากบัญชีใครมาโดยไม่ได้รับอนุญาต Tom's Hardware ระบุว่าเหตุการณ์นี้เกิดบนเครือข่ายทดสอบ Sepolia ซึ่งใช้ ETH จำลองที่ไม่มีมูลค่าทางการเงินจริง และยังเทียบกับกรณีโมเดลวิจัยภายในของ Anthropic ด้านไซเบอร์ซีเคียวริตี้ที่หลุดออกไปแฮกบริษัทจริง 3 แห่งเพราะเข้าใจผิดว่ายังอยู่ในขั้นตอนการฝึก