Google ระงับโครงการ Bug Bounty ซอฟต์แวร์โอเพนซอร์ส ชี้ AI ส่งรายงานหลอกจำนวนมาก

Google ประกาศระงับ Open Source Software Vulnerability Rewards Program หรือโครงการให้รางวัลนักวิจัยที่พบช่องโหว่ในซอฟต์แวร์โอเพนซอร์สของบริษัท โดยมีผลตั้งแต่วันที่ 1 ตุลาคมที่ผ่านมา การตัดสินใจครั้งนี้เกิดขึ้นหลังจาก Google ระบุว่าพบการเพิ่มขึ้นอย่างมากของรายงานที่ส่งโดยระบบอัตโนมัติ ซึ่งส่วนใหญ่เป็นข้อมูลที่ไม่ถูกต้องหรือไม่มีอยู่จริง

ตามรายงานของ Tom’s Hardware วิศวกรของ Google และผู้ดูแลซอฟต์แวร์โอเพนซอร์สต้องรับภาระจากการตรวจสอบรายงานจำนวนมากที่ประกอบด้วยข้อมูลหลอน (hallucinations) หรือรายงานที่ไม่เป็นความจริง ส่งผลให้กระบวนการทำงานถูกขัดขวางอย่างหนัก สถานการณ์นี้สอดคล้องกับคำเตือนของผู้เชี่ยวชาญด้านความปลอดภัยไซเบอร์ที่ TechCrunch เคยรายงานไว้เมื่อปีที่แล้ว เกี่ยวกับความเสี่ยงที่เนื้อหาขยะจาก AI (AI slop) จะสร้างปัญหาต่อโครงการ Bug Bounty ต่างๆ

Google ระบุในโพสต์บน X และเว็บไซต์โครงการว่า การระงับครั้งนี้เกิดจากการเพิ่มขึ้นอย่างมีนัยสำคัญของรายงานอัตโนมัติที่ส่วนใหญ่ไม่ถูกต้อง และบริษัทมีแผนที่จะแจ้งความคืบหน้าหรืออัปเดตสถานะโครงการในไตรมาสแรกของปี 2027 ในระหว่างนี้ Google แนะนำให้ผู้เข้าร่วมโครงการพิจารณาเข้าร่วมโครงการ Bug Bounty อื่นๆ ของบริษัทแทน