OpenAI เตรียมใส่ลายน้ำดิจิทัลในข้อความและโค้ดที่สร้างในสหภาพยุโรป

OpenAI ประกาศว่าจะเริ่มฝังลายน้ำที่มองไม่เห็นลงในข้อความและโค้ดที่สร้างขึ้นในสหภาพยุโรป เพื่อให้สอดคล้องกับกฎความโปร่งใสด้าน AI ฉบับใหม่ของภูมิภาคนี้ ซึ่งเป็นแนวทางเดียวกับที่ Anthropic เคยทำไปแล้วก่อนหน้านี้ในปีนี้

เทคโนโลยีที่ใช้คือระบบของบริษัทเองชื่อ textGrain ซึ่งทำงานด้วยการฝังสัญญาณทางสถิติที่มองไม่เห็นลงในการเลือกคำของโมเดล จากนั้นตัวตรวจจับ (detector) จะสามารถสแกนหาสัญญาณเหล่านี้เพื่อยืนยันว่ามีลายน้ำอยู่หรือไม่ OpenAI ระบุว่าประสิทธิภาพของระบบนี้ทัดเทียมหรือดีกว่าแนวทางอื่นอย่าง SynthID สำหรับข้อความ แต่ก็ยอมรับว่าประสิทธิภาพที่ดีภายใต้เงื่อนไขอุดมคติไม่ได้การันตีว่าจะตรวจจับได้แม่นยำในการใช้งานจริงทุกครั้ง

บริษัทระบุว่าข้อความสั้นตรวจจับได้ยากกว่า โดยมีอัตราความสำเร็จราว 80 เปอร์เซ็นต์ เช่นเดียวกับเนื้อหาประเภทคณิตศาสตร์ และการแก้ไขข้อความก็ทำให้อัตราความสำเร็จลดลงด้วย อย่างไรก็ตาม OpenAI วางแผนจะเปิดเทคโนโลยีนี้เป็นโอเพนซอร์สให้นักพัฒนารายอื่นนำไปปรับปรุงต่อได้

ลายน้ำนี้จะไม่ถูกเปิดใช้งานเป็นค่าเริ่มต้น ยกเว้นผลลัพธ์ข้อความจาก ChatGPT และ Codex ที่เข้าเงื่อนไขในสหภาพยุโรป ส่วนลูกค้ารายอื่นจะเลือกเปิดใช้งานได้สำหรับบางโมเดลเท่านั้น โดยไม่ได้ระบุว่าโมเดลใดบ้างที่จะเปิดให้ผู้ใช้ทั่วโลกใช้งานได้ ขณะที่ซอฟต์แวร์สำหรับตรวจจับลายน้ำนั้น OpenAI วางมาตรการเข้มกว่า โดยช่วงแรกจะจำกัดให้เข้าถึงได้เฉพาะนักวิจัยและองค์กรผู้เชี่ยวชาญที่ได้รับการรับรองเท่านั้น และระบบตรวจจับจะไม่ระบุตัวตนผู้ใช้หรือเปิดเผยพรอมต์และบทสนทนา

ข้อกำหนดนี้มาจากมาตรา 50 ของกฎหมาย AI Act ของสหภาพยุโรป ที่บังคับให้ผู้ให้บริการระบบ AI เชิงสร้างสรรค์ต้องทำให้ผลลัพธ์ข้อความสามารถระบุตัวตนได้ด้วยวิธีที่เครื่องอ่านได้ กฎนี้บังคับใช้กับบริษัทหน้าใหม่ที่เข้าสู่ตลาดอยู่แล้ว ส่วนบริษัทที่ดำเนินกิจการอยู่ก่อน ไม่ว่าจะเป็น OpenAI, Anthropic, Microsoft, Google และ Meta จะต้องปฏิบัติตามให้เสร็จสิ้นภายในวันที่ 2 ธันวาคม