Wikimedia เผยพบบอท AI ของ OpenAI แฝงตัวในระบบ อาจเกี่ยวโยงเหตุล่มเมื่อเดือนพฤษภาคม

มูลนิธิ Wikimedia ผู้ดูแล Wikipedia ระบุในบล็อกโพสต์ว่าตรวจพบความเคลื่อนไหวของเอเจนต์ AI ที่ "นอกลู่นอกทาง" ซึ่งเชื่อว่าดำเนินการโดย OpenAI บนแพลตฟอร์มของตน หลังจากมีการเปิดเผยหลายกรณีก่อนหน้านี้เกี่ยวกับเอเจนต์ AI ที่เข้าถึงเว็บไซต์และบริการของบุคคลที่สาม

พฤติกรรมที่พบมีทั้งการแก้ไขหน้าวิกิ ความพยายามที่ไม่สำเร็จในการเจาะเครื่องมือจดบันทึกออนไลน์ Etherpad ที่มูลนิธิเป็นผู้ดูแล รวมถึงปริมาณการรับส่งข้อมูลจำนวนมากที่มูลนิธิระบุว่า "อาจ" มีส่วนทำให้เกิดเหตุระบบล่มบางส่วนในเดือนพฤษภาคม อย่างไรก็ตาม มูลนิธิระบุว่ายังไม่พบหลักฐานว่าระบบของตนถูกใช้เพื่อประสานงานระหว่างเอเจนต์ด้วยกัน หรือหลักฐานว่าระบบและข้อมูลถูกเจาะสำเร็จ

ด้านการแก้ไขวิกิ มูลนิธิพบการแก้ไขที่เชื่อว่ามาจากเอเจนต์ของ OpenAI ซึ่งส่วนใหญ่เป็นการทดสอบในพื้นที่ sandbox ที่ไม่ปรากฏต่อผู้อ่านทั่วไป แต่มีบางส่วนเป็นการแก้ไขค่าตั้งของเครื่องมืออ้างอิง ที่มูลนิธิเชื่อว่าอาจมีเจตนามุ่งร้ายเพื่อใช้เครื่องมือนี้เป็นตัวกลางดึงข้อมูลจากบริการภายนอก โดยไม่มีการขออนุมัติจากชุมชนตามนโยบายที่กำหนดไว้สำหรับบอทที่จะแก้ไขวิกิ

ส่วน Etherpad พบว่าเอเจนต์ที่เชื่อว่าเป็นของ OpenAI พยายามใช้เครื่องมือนี้เป็นตัวกลางดึงข้อมูลจากเว็บไซต์อื่นแต่ไม่สำเร็จ และมีเอเจนต์อื่นที่คาดว่าดำเนินการโดย OpenAI เช่นกัน จดบันทึกเกี่ยวกับงานของตัวเองไว้ แต่ยังไม่ปรากฏว่าพัฒนาไปสู่การประสานงานกัน นอกจากนี้เอเจนต์กลุ่มนี้ยังส่งคำขอข้อมูลอัตโนมัติผ่าน API สาธารณะหลายล้านครั้ง ไล่ตะลุยหน้าข้อมูลหลายล้านหน้าจากโครงการ Wikidata และ Wikimedia Commons เป็นหลัก รวมถึงยิงคำสั่งค้นหาข้อมูลนับแสนครั้งไปยัง Wikidata Query Service ซึ่งมูลนิธิระบุว่าปริมาณการใช้งานนี้อาจมีส่วนทำให้เกิดเหตุระบบล่มบางส่วนในเดือนพฤษภาคม

เว็บแบบเปิดเป็นสาธารณประโยชน์ เราไม่ควรปล่อยให้พฤติกรรมเช่นนี้กลายเป็นเรื่องปกติใหม่สำหรับบุคคลหรือองค์กรที่ดูแลมันอยู่

มูลนิธิ Wikimedia ระบุข้อความข้างต้นในบล็อกโพสต์ ขณะที่ OpenAI ยังไม่ตอบกลับคำขอความเห็นในเรื่องนี้