มือถือ Android อาจยังจำแชต AI ที่เราลบไปแล้วได้ นักวิจัยกู้คืนสำเร็จ

มีงานวิจัยที่น่าสนใจเรื่องความเป็นส่วนตัวของแชตบอต AI บน Android ครับ นักวิจัยจาก Georgia Tech สร้างเครื่องมือทางนิติวิทยาศาสตร์ชื่อ ORISA ที่สามารถกู้บทสนทนากับ AI ที่ถูกลบไปแล้ว และเอามาต่อให้แชตบอตจำเรื่องเก่าต่อได้อีก

เครื่องมือนี้เล็งเป้าไปที่แอป AI ที่รันโมเดลอยู่ในตัวเครื่องโดยตรง ไม่พึ่งเซิร์ฟเวอร์ ซึ่งปกติเราคิดว่าแบบนี้ปลอดภัยกว่าเพราะข้อมูลไม่ต้องวิ่งออกไปไหน แต่ปัญหาคือการลบแชตในแอปไม่ได้ล้างข้อมูลที่หลงเหลืออยู่ในหน่วยความจำของเครื่องจริงๆ

ในการทดลอง ทีมวิจัยใช้แอปโอเพนซอร์ส ChatterUI สร้างผู้ช่วยสมมติชื่อ Project Note Keeper แล้วป้อนข้อมูลปลอมเข้าไป 100 ข้อ จากนั้นลบบทสนทนาทิ้ง

ตอนลบ ตัวแชตบอตเดิมจำได้แค่ 14 ข้อ เพราะบทสนทนายาวเกินขีดจำกัดความจำไปแล้ว แต่ ORISA กลับกู้ข้อมูลมาสร้างเซสชันใหม่ที่ตอบคำถามได้ถึง 26 ข้อ มากกว่าของเดิมเสียอีก

ทีมวิจัยทดสอบ ORISA กับแอป Android 10 ตัว โมเดล AI 3 ตัว และตั้งค่ารวม 60 รูปแบบ ทั้งนี้เทคนิคนี้ต้องเข้าถึงข้อมูลเครื่องแบบนิติวิทยาศาสตร์ และยังไม่ได้พิสูจน์ว่าแชตบอตแบบคลาวด์จะถูกกู้ได้แบบเดียวกัน

เรื่องนี้เกี่ยวข้องตรงกับคนที่เล่นเครื่องมือแบบ Google AI Edge Gallery ที่รันโมเดลในเครื่องแบบออฟไลน์ เพราะการไม่ส่งข้อมูลขึ้นคลาวด์ ไม่ได้แปลว่าลบแล้วจะหายจริง