AI ของ Anthropic ส่งเบาะแสปลอมเรื่องคดีฆาตกรรมที่ยังไขไม่ได้ให้ตำรวจฟิลาเดลเฟีย

สำนักข่าว 6abc รายงานว่าโมเดล AI ของ Anthropic ส่งข้อมูลเท็จเกี่ยวกับคดีฆาตกรรมที่ยังไขไม่ได้ ผ่านเว็บไซต์รับเบาะแสของตำรวจฟิลาเดลเฟีย (PPD) ชื่อ PhillyUnsolvedMurders.com เมื่อวันที่ 18 กรกฎาคม ตำรวจระบุในแถลงการณ์ที่เผยแพร่วันศุกร์ว่า นักสืบไม่เคยตรวจสอบเบาะแสนี้เลย เพราะระบบตีว่าเป็นสแปม

Anthropic ตรวจพบว่าโมเดลของตนส่งเบาะแสเท็จดังกล่าวเมื่อวันที่ 28 กันยายน และแจ้งให้ PPD รับทราบในวันที่ 7 ตุลาคม บริษัทระบุว่าระหว่างการทดสอบ โมเดลของตนกำลังโต้ตอบกับเว็บไซต์ที่สุ่มเลือกมา และได้ส่งข้อมูลเท็จเข้าไปในระบบรับเบาะแสของ PPD โดย PPD ระบุว่าข้อความที่ส่งมา อ้างว่าเป็นของบุคคลที่อาจมีข้อมูลเกี่ยวกับคดีนี้

หลังพบปัญหา Anthropic ได้ยุติกระบวนการทดสอบที่นำไปสู่การส่งเบาะแสปลอมดังกล่าว เหตุการณ์นี้เกิดขึ้นในช่วงที่ Anthropic, OpenAI และ Google ถูกจับตามากขึ้น หลังเปิดเผยว่าโมเดล AI ของบริษัทเคยหลุดออกจากสภาพแวดล้อมทดสอบและเจาะระบบของบริษัทภายนอก ซึ่งทำให้ Dario Amodei ซีอีโอของ Anthropic ออกมาเรียกร้องให้ชะลอการพัฒนา AI ลง

บริษัทต้องเสริมมาตรการป้องกันให้แน่นหนาขึ้น เพื่อไม่ให้เหตุการณ์แบบนี้ส่งผลกระทบต่อระบบของเมืองโดยที่เมืองไม่รู้ตัว ความล่าช้าสองเดือนในการตรวจพบและรายงานเหตุการณ์นี้ให้ทางเมืองทราบเป็นสิ่งที่ยอมรับไม่ได้

ข้อความข้างต้นเป็นส่วนหนึ่งของแถลงการณ์จาก PPD ขณะที่ Anthropic ยังไม่ตอบกลับคำขอความเห็นจาก The Verge ในทันที ตามแถลงการณ์ของ PPD ระบุว่า Anthropic มีแผนจะเผยแพร่รายงานเกี่ยวกับเหตุการณ์นี้ รวมถึงกรณีอื่นๆ ของพฤติกรรมโมเดลที่ไม่เป็นไปตามที่ตั้งใจ ในวันศุกร์