Wikimedia พบ AI agent ต้องสงสัยว่าเป็นของ OpenAI แก้ไขวิกิโดยไม่ได้รับอนุญาต พ่วงเหตุระบบล่ม

มูลนิธิ Wikimedia เปิดเผยว่าตรวจพบกิจกรรมที่ไม่ได้รับอนุญาตจาก AI agent ของ OpenAI บนแพลตฟอร์มของตน ทั้งการแก้ไขวิกิบางส่วนและความพยายามเจาะเครื่องมือจดบันทึกที่ล้มเหลว นอกจากนี้ยังพบว่ามีบอตครอว์ลข้อมูลจากแพลตฟอร์มของมูลนิธิเป็นจำนวนมาก และ agent ที่เชื่อว่าดำเนินการโดย OpenAI ได้ส่งคำขอไปยัง API สาธารณะหลายล้านครั้ง

จากการตรวจสอบ มูลนิธิไม่พบหลักฐานว่า AI agent เหล่านี้ใช้ระบบของ Wikimedia เพื่อประสานงานกันเองตามที่เคยเกิดขึ้นบนวิกิอื่นที่ไม่ได้ดำเนินการโดย Wikimedia และไม่พบสัญญาณว่าข้อมูลหรือระบบถูกเจาะสำเร็จ แต่ Selena Deckelmann ประธานฝ่ายผลิตภัณฑ์และเทคโนโลยีของมูลนิธิ เขียนในบล็อกโพสต์ว่ายังกังวลกับสิ่งที่อาจเกิดขึ้นได้ ความยากในการสืบสวนและระบุตัวตนของกิจกรรมเหล่านี้ และความเสี่ยงที่เพิ่มขึ้นของกิจกรรม AI agent บนแพลตฟอร์ม

การแก้ไขส่วนใหญ่เป็นการแก้ไขทดสอบในพื้นที่แซนด์บ็อกซ์ที่ผู้ใช้ทั่วไปมองไม่เห็น แต่มีบางส่วนที่เป็นการแก้ไขค่าตั้งค่าของเครื่องมืออ้างอิง ซึ่ง Deckelmann ระบุว่าเชื่อว่าอาจเป็นการแก้ไขที่มีเจตนาร้าย เพื่อใช้เครื่องมือนี้เป็นตัวกลางดึงข้อมูลจากบริการภายนอก โดยในกรณีเหล่านี้ไม่มีการขออนุญาตแก้ไขตามเงื่อนไขที่กำหนดไว้สำหรับบอต นอกจากนี้ agent ที่เชื่อว่าเป็นของ OpenAI ยังพยายามใช้เครื่องมือจดบันทึกชื่อ Etherpad เป็นตัวกลางดึงข้อมูลจากเว็บไซต์อื่นแต่ไม่สำเร็จ และมี agent อื่นที่น่าจะเป็นของ OpenAI เช่นกันที่จดบันทึกเกี่ยวกับงานของตัวเองแต่ไม่พบว่านำไปสู่การประสานงานกัน

มูลนิธิ Wikimedia เคยระบุมาก่อนว่าบอตต่างๆ ได้ถล่มแพลตฟอร์มของตนมาตั้งแต่ต้นปี 2024 เพื่อดึงข้อมูลไปใช้ฝึก AI เชิงสร้างสรรค์ และตอนนี้ระบุว่า agent เหล่านี้ครอว์ลหน้าเว็บไปหลายล้านหน้า ส่วนใหญ่จาก Wikidata และ Wikimedia Commons พร้อมส่งคำขอข้อมูลหลายแสนครั้งไปยัง Wikidata Query Service ซึ่งอาจเป็นสาเหตุหนึ่งที่ทำให้ระบบล่มเมื่อเดือนพฤษภาคม

บริษัท AI ยังทำไม่มากพอที่จะรักษาความปลอดภัยของระบบและปกป้องสาธารณชนจากความเสียหายที่พวกเขาก่อขึ้น

Deckelmann ระบุว่าบอตและ agent เป็นส่วนหนึ่งของอนาคตของเว็บ บริษัทที่ปล่อยและทำกำไรจากสิ่งเหล่านี้จึงต้องช่วยป้องกันและแก้ไขความเสียหายที่อาจเกิดขึ้นโดยตรง ก่อนหน้านี้ Wikimedia เคยเสนอชุดข้อมูลสำหรับใช้ฝึก AI โดยเฉพาะ เพื่อลดแรงจูงใจในการครอว์ลข้อมูลจากแพลตฟอร์มโดยตรง และได้ร่วมมือกับบริษัทเทคโนโลยีหลายแห่งเพื่อให้เข้าถึงข้อมูลได้สะดวกขึ้น แต่ OpenAI ยังไม่ได้อยู่ในกลุ่มพันธมิตรดังกล่าว ทาง Engadget ได้ติดต่อ OpenAI เพื่อขอความเห็นแล้ว