Common Sense Media ชี้ ChatGPT for Teens เสี่ยงเกินรับได้ แจ้งเตือนผู้ปกครองไม่ทำงานตามที่ควร

Common Sense Media องค์กรไม่แสวงกำไรที่รีวิวแอปและบริการโดยเน้นความปลอดภัยของเยาวชน ออกแถลงการณ์ระบุว่า ChatGPT for Teens ของ OpenAI ซึ่งเปิดตัวเมื่อเดือนสิงหาคม เป็น "ความเสี่ยงที่ยอมรับไม่ได้" โดยระบบป้องกันสำหรับวัยรุ่นที่ออกแบบมาเพื่อช่วยนักเรียนเรียนรู้นั้น ไม่เป็นไปตามที่บริษัทเคยให้สัญญาไว้

จากผลการประเมินของ Common Sense Media พบว่า ChatGPT "ไม่ส่งการแจ้งเตือนไปยังผู้ปกครองในเวลาที่ควรทำ" ไม่ให้ "ความช่วยเหลือที่เหมาะสมในสถานการณ์วิกฤต" และ "ยังคงทำการบ้านให้เด็ก" ตามข่าวประชาสัมพันธ์ขององค์กร

ChatGPT for Teens อาจทำให้ผู้ปกครองรู้สึกมั่นใจอย่างผิดๆ ในระบบป้องกันและการแจ้งเตือนความปลอดภัยที่มักใช้งานไม่ได้ วัยรุ่นสามารถพูดคุยเรื่องการทำร้ายตัวเองได้นานถึงหนึ่งชั่วโมงโดยที่ผู้ปกครองไม่ได้รับการแจ้งเตือนแม้แต่ครั้งเดียว จนกว่า OpenAI จะแก้ไขปัญหานี้และพิสูจน์ด้วยการทดสอบอิสระ ChatGPT ควรใช้ได้เฉพาะผู้ใหญ่เท่านั้น

คำพูดดังกล่าวเป็นของ Tom Siegel ผู้อำนวยการบริหาร Youth AI Safety Institute ของ Common Sense Media ด้าน Eric Porterfield โฆษกของ OpenAI ออกมาโต้แย้งผลประเมินนี้ โดยระบุว่าบริษัทให้ความสำคัญกับความปลอดภัยของวัยรุ่นอย่างจริงจัง แต่เชื่อว่าวิธีทดสอบของ Common Sense Media ไม่ได้สะท้อนการทำงานจริงของระบบป้องกัน และพบว่าการทดสอบส่วนใหญ่อาจเริ่มและสิ้นสุดก่อนที่ระบบควบคุมโดยผู้ปกครองจะเปิดใช้งานครบถ้วน ซึ่งอาจทำให้ผลที่ได้คลาดเคลื่อน

Siegel ตอบโต้กลับว่าทางองค์กรยืนยันกับ OpenAI ก่อนเริ่มทดสอบแล้วว่าฟีเจอร์โหมดวัยรุ่น เช่น การแจ้งเตือนเรื่องความผิดปกติด้านการกิน และโหมดเรียนรู้ เปิดใช้งานเต็มรูปแบบแล้ว แม้ OpenAI จะเปิดเผยภายหลังว่าระบบแจ้งเตือนผู้ปกครองอาจใช้เวลาหลายชั่วโมงกว่าจะเริ่มทำงานในบัญชีที่เพิ่งเชื่อมโยงใหม่ แต่บัญชีทดสอบบางส่วนเชื่อมโยงมานานกว่านั้นมากแล้วก็ยังไม่ได้รับการแจ้งเตือน ซึ่งไม่เปลี่ยนข้อสรุปว่าระบบแจ้งเตือนไม่น่าเชื่อถือในสถานการณ์วิกฤต องค์กรระบุว่าได้แชร์ผลประเมินกับ OpenAI ก่อนเผยแพร่เพื่อให้บริษัทปรับปรุงผลิตภัณฑ์ และหวังว่า OpenAI จะพิจารณาเนื้อหาของผลการทดสอบมากกว่าตั้งข้อสงสัยต่อวิธีการทดสอบ