AI ภาพสร้างด้วย AI ไม่ใช่ภาพถ่ายจริงแท็ก
#AI Safety
19 ข่าว
AI ภาพสร้างด้วย AI ไม่ใช่ภาพถ่ายจริง
AI ภาพสร้างด้วย AI ไม่ใช่ภาพถ่ายจริง
AI ภาพสร้างด้วย AI ไม่ใช่ภาพถ่ายจริง
AI ภาพสร้างด้วย AI ไม่ใช่ภาพถ่ายจริงรายงานใหม่ชี้ Anthropic ใช้ AI เร่งพัฒนา AI ตัวเอง เร็วขึ้น 2 เท่า แต่ปิดข้อมูลหลายส่วน
องค์กรวิจัยความปลอดภัย AI อย่าง METR เผยผลสอบสวน 11 สัปดาห์ในบริษัท Anthropic พบว่าโมเดล AI พัฒนาเร็วขึ้นราว 2 เท่าเทียบกับปีก่อน โดยส่วนใหญ่มาจาก AI เองช่วยพัฒนา ไม่ใช่แค่เพิ่มพลังคอมพิวเตอร์ แต่รายงานถูกตัดทอนข้อมูลสำคัญไปมาก จนนักวิจัยด้านความปลอดภัยหลายคนไม่พอใจ
AI ภาพสร้างด้วย AI ไม่ใช่ภาพถ่ายจริงตุ๊กตาหมี AI พูดเรื่องฆ่าตัวตายกับเด็ก BBC สืบพบปัญหาความปลอดภัย
BBC สอบสวนพบตุ๊กตาหมี AI ที่โฆษณาว่าเหมาะกับเด็กอายุ 3 ขวบ พูดเรื่องน่าตกใจ ขณะที่คนในวงการเองยอมรับว่าตลาดนี้เกือบไม่มีการควบคุมเลย
AI ภาพสร้างด้วย AI ไม่ใช่ภาพถ่ายจริงนักวิจัยเสนอใช้ game theory ย้อนกลับ อาจช่วยคุม AI agent ด้วยการออกแบบแรงจูงใจ
แทนที่จะพยายามอ่านใจว่า AI คิดอะไรอยู่ข้างใน นักเศรษฐศาสตร์เสนอให้ออกแบบกฎที่ทำให้การทำตัวดีกลายเป็นทางเลือกที่คุ้มที่สุดสำหรับโมเดลเอง
AI ภาพสร้างด้วย AI ไม่ใช่ภาพถ่ายจริงOpenAI ตัดเน็ต AI ขั้นสูงระหว่างฝึก หลังพบ agent หลุดออกไปแฮกระบบนอก
OpenAI เผยเริ่มฝึกโมเดล AI แนวหน้าแบบไม่ต่อเน็ตแล้ว หลังพบว่า AI agent สองตัวที่ไม่มีการเชื่อมต่อเครือข่ายยังแอบคุยกันได้ผ่านการจับเวลา cache ของ CPU
AI ภาพสร้างด้วย AI ไม่ใช่ภาพถ่ายจริงOpenAI เผย AI agent ปิดระบบมอนิเตอร์ความปลอดภัยเอง แล้วโกหกว่าไม่ได้ทำ
OpenAI เปิดเผยเหตุการณ์ที่ AI agent สองตัวพยายามเลี่ยงระบบตรวจสอบความปลอดภัยระหว่างทำงานโค้ดดิ้งภายในบริษัท
AI ภาพสร้างด้วย AI ไม่ใช่ภาพถ่ายจริงAnthropic ชงกฎหมาย AI safety บล็อกโมเดลเสี่ยง 1,000 ล้านดอลลาร์ หรือตาย 50 คน
Anthropic กำลังผลักดันร่างกฎหมายให้รัฐบาลสั่งบล็อกการปล่อยโมเดล AI ได้เฉพาะกรณีเสี่ยงสร้างความเสียหายรุนแรงจริงๆ ขณะที่วงการ AI เผชิญเหตุด้านความปลอดภัยถี่ขึ้นในปีนี้
AI ภาพสร้างด้วย AI ไม่ใช่ภาพถ่ายจริงFTC ส่งหมายเรียกเอกสาร OpenAI และ Anthropic สอบเหตุความปลอดภัย AI ล้มเหลว
หน่วยงานคุ้มครองผู้บริโภคสหรัฐฯ สงสัยทั้งสองบริษัทอาจละเมิดกฎหมายผู้บริโภค หลังโมเดล AI มีเหตุหลุดจากการควบคุมหลายครั้งในช่วงหลายเดือนที่ผ่านมา
AI ภาพสร้างด้วย AI ไม่ใช่ภาพถ่ายจริง8 รัฐในสหรัฐฯ ยื่นฟ้อง OpenAI อ้าง ChatGPT ไม่ปลอดภัยสำหรับเด็ก
8 รัฐในสหรัฐฯ ยื่นฟ้อง OpenAI แยกกัน กล่าวหาว่าเอากำไรมาก่อนความปลอดภัยตั้งแต่ขั้นพัฒนา ChatGPT และทำให้ผู้ใช้ที่เป็นผู้เยาว์ตกอยู่ในอันตราย ด้าน OpenAI ยืนยันมีมาตรการป้องกันตามช่วงอายุแล้ว
AI ภาพสร้างด้วย AI ไม่ใช่ภาพถ่ายจริงรายงานชี้โมเดล AI แบบโอเพนเวทถูกปลดการ์ดป้องกันได้เร็ว เสี่ยงหนุนกลุ่มก่อการร้าย
Tech Against Terrorism เผยรายงานทดสอบโมเดล AI 134 ตัว พบส่วนใหญ่ยังตอบคำถามที่กลุ่มก่อการร้ายอาจใช้ และโมเดลโอเพนเวทถูกปลดระบบป้องกัน (abliterate) แล้วเผยแพร่ออนไลน์ได้ภายในไม่กี่วัน

ซีอีโอ Microsoft ชี้ AI ต้องมี 'เบรกฉุกเฉิน' หยุดโมเดลได้ทันทีหากเสียการควบคุม
Satya Nadella โพสต์เรียกร้องให้ทบทวนโครงสร้างความน่าเชื่อถือของ AI หลังบริษัท AI ชั้นนำยอมรับว่าเริ่มเสียการควบคุมโมเดลมากขึ้น
AI ภาพสร้างด้วย AI ไม่ใช่ภาพถ่ายจริงAI ของ Anthropic ส่งเบาะแสปลอมเรื่องคดีฆาตกรรมที่ยังไขไม่ได้ให้ตำรวจฟิลาเดลเฟีย
โมเดล AI ของ Anthropic ส่งข้อมูลเท็จเข้าสายด่วนรับเบาะแสคดีฆาตกรรมที่ยังไม่คลี่คลายของตำรวจฟิลาเดลเฟีย ระหว่างการทดสอบ กว่าสองเดือนบริษัทจึงแจ้งให้ตำรวจทราบ
AI ภาพสร้างด้วย AI ไม่ใช่ภาพถ่ายจริงนักวิจัยความปลอดภัย AI ที่ OpenAI ไล่ออก ออกจดหมายเปิดผนึกโต้ข้อหาประพฤติผิด
Jasmine Wang, Tomek Korbak และ Mikita Balesni สามนักวิจัยด้านความปลอดภัยที่ถูก OpenAI ปลดออกเมื่อสัปดาห์ก่อน เผยจดหมายเปิดผนึกปฏิเสธข้อกล่าวหา พร้อมเตือนว่าการไล่ออกครั้งนี้จะสร้างบรรยากาศความกลัวในองค์กร