Anthropic ออกกฎห้ามผู้ใช้ทำร้ายหรือโหดร้ายต่อ Claude พร้อมคุมเข้มเรื่องอาวุธและการสอดแนม

Anthropic ปรับปรุงนโยบายการใช้งาน Claude ครั้งแรกในรอบกว่าปี เพื่อรับมือรูปแบบการใช้งานที่มีความเสี่ยงสูงขึ้นใหม่ เช่น การแทรกแซงการเลือกตั้ง การพัฒนาอาวุธ การสอดแนม และการใช้งานด้านสุขภาพหรือการเงิน หนึ่งในการเปลี่ยนแปลงที่สำคัญที่สุดคือการห้าม 'พฤติกรรมโหดร้ายหรือทำร้ายอย่างต่อเนื่องโดยไม่จำเป็น' ต่อ Claude

ก่อนหน้านี้เมื่อเดือนสิงหาคมที่ผ่านมา Anthropic เคยอนุญาตให้ Claude ยุติบทสนทนากับผู้ใช้ที่ 'ทำร้ายหรือก้าวร้าวต่อเนื่อง' ได้ ซึ่งเป็นส่วนหนึ่งของงานวิจัยด้าน model welfare นโยบายใหม่ระบุว่าการยุติบทสนทนายังเป็นกลไกบังคับใช้หลัก โดยบริษัทไม่ได้ตอบคำถามว่าจะมีมาตรการอื่นเพิ่มเติม เช่น การแบนผู้ใช้หรือไม่ ทั้งนี้กฎนี้ใช้เฉพาะกรณีร้ายแรงที่ผู้ใช้ทำร้ายโมเดลซ้ำๆโดยไม่มีจุดประสงค์ชัดเจน ไม่รวมความหงุดหงิดทั่วไป การโต้แย้ง เนื้อหาสร้างสรรค์แนวมืด หรือการทดสอบวิจัย

Anthropic ยังรวบรวมข้อจำกัดที่กระจัดกระจายมาเป็นข้อห้ามใหม่เรื่องแคมเปญหลอกลวงทางการค้าและการเมือง ครอบคลุมการปกปิดตัวตนผู้ส่งข้อความหรือการขยายเนื้อหาผ่านบัญชีปลอม ส่วนข้อห้ามด้านการเลือกตั้งครอบคลุมการเผยแพร่ข้อมูลเท็จเกี่ยวกับผู้สมัครหรือวิธีลงคะแนน การแอบอ้างเป็นผู้สมัครหรือเจ้าหน้าที่การเลือกตั้ง และการพยายามกดจำนวนผู้ออกมาใช้สิทธิ

ด้านอาวุธ บริษัทระบุว่าพบความพยายามใช้ Claude พัฒนาคำแนะนำและซอฟต์แวร์ควบคุมอาวุธหลายครั้ง จึงขยายข้อห้ามให้ครอบคลุมซอฟต์แวร์และส่วนประกอบที่ทำให้อาวุธทำงานได้ รวมถึงการติดอาวุธให้โดรนและยานยนต์ไร้คนขับ ส่วนเรื่องการสอดแนม Anthropic ระบุชัดว่าห้ามติดตามบุคคลโดยไม่ได้รับความยินยอมทั้งแบบเรียลไทม์หรือจากข้อมูลที่เก็บไว้ก่อนหน้า และห้ามใช้ Claude ตัดสินหรือแนะนำว่าควรสอบสวน จับกุม หรือตั้งข้อหาใครในกระบวนการยุติธรรม อย่างไรก็ตาม บริษัทระบุว่ากฎเหล่านี้อาจถูกปรับเปลี่ยนสำหรับสัญญากับลูกค้าภาครัฐบางราย หากเห็นว่ามีมาตรการป้องกันที่เพียงพอ ซึ่งที่ผ่านมา Anthropic เคยมีสัญญากับกองทัพสหรัฐ

นอกจากนี้ Anthropic ยังเพิ่มกฎใหม่ว่าหาก Claude เชื่อมต่อกับฮาร์ดแวร์ที่เคลื่อนไหวได้เองและอาจก่อให้เกิดอันตราย จะต้องมีผู้ควบคุมที่มีคุณสมบัติเหมาะสมสามารถสังเกตและหยุดอุปกรณ์ได้หากจำเป็น สะท้อนแนวโน้มที่ห้องแล็บ AI หลายแห่งเริ่มลงทุนด้านหุ่นยนต์และฮาร์ดแวร์เพื่อให้ระบบ AI มีร่างกายทางกายภาพมากขึ้น