ธนาคารกลางสิงคโปร์ต้องการให้สถาบันการเงินเปิดให้บุคคลที่สามตรวจสอบ AI ก่อนใช้งานจริง

ธนาคารกลางสิงคโปร์ (MAS) ซึ่งทำหน้าที่เป็นทั้งธนาคารกลางและผู้กำกับดูแลภาคการเงิน ออกแนวทางบริหารความเสี่ยงด้าน AI สำหรับสถาบันการเงินฉบับแรกเมื่อวันพุธที่ผ่านมา โดยต้องการให้สถาบันการเงินทุกแห่งให้บุคคลภายนอกที่ไม่เกี่ยวข้องกับการพัฒนาตรวจสอบระบบ AI ก่อนนำไปใช้งานจริง

แนวทางของ MAS ระบุว่า AI แม้ช่วยเพิ่มประสิทธิภาพการทำงาน แต่ความซับซ้อนและลักษณะที่อิงความน่าจะเป็นทำให้เกิดความไม่แน่นอนและพฤติกรรมที่คาดไม่ถึงหรือมีอคติได้มากกว่าวิธีการแบบดั้งเดิม ส่วน generative AI ถูกมองว่ามีความเสี่ยงสูงกว่านั้นอีก เพราะความซับซ้อนที่มากขึ้นทำให้เกิดความไม่แน่นอนและพฤติกรรมที่คาดไม่ถึงยิ่งขึ้น โดยสาเหตุมาจากสัญญาณรบกวนในข้อมูลฝึกฝน ข้อมูลที่ไม่ได้เป็นตัวแทนที่ดี หรือการที่โมเดลเจอสถานการณ์ที่ไม่เคยพบในข้อมูลฝึกฝน MAS ยังเตือนว่า agentic AI อาจยิ่งขยายความเสี่ยงเหล่านี้ให้มากขึ้นไปอีก

ด้วยเหตุนี้ MAS จึงเรียกร้องให้สถาบันการเงินขยายกรอบบริหารความเสี่ยงให้ครอบคลุม AI โดยคาดหวังให้คณะกรรมการและผู้บริหารระดับสูงเป็นผู้ผลักดันเรื่องนี้ นอกจากต้องการให้มีการตรวจสอบโดยบุคคลที่สามก่อนใช้งานแล้ว MAS ยังต้องการให้มีการตรวจสอบด้านเทคโนโลยีและความปลอดภัยทางไซเบอร์ เพื่อให้ AI ถูกนำไปใช้ในสภาพแวดล้อมจริงอย่างปลอดภัยและควบคุมได้ รวมถึงต้องการให้ติดตามตรวจสอบระบบอย่างต่อเนื่องหลังใช้งานจริง เนื่องจากโมเดลอาจเสื่อมประสิทธิภาพหรือเกิดการเบี่ยงเบนของข้อมูลเมื่อเวลาผ่านไป

ประเด็นสำคัญคือ MAS มองว่าความล้มเหลวของผู้ให้บริการ AI บุคคลที่สามไม่ใช่ข้อแก้ตัวที่รับได้สำหรับสถาบันการเงินที่อยู่ภายใต้การกำกับดูแล

สถาบันการเงินยังคงต้องรับผิดชอบต่อ AI ที่ใช้ในบริการของตน รวมถึง AI ที่พัฒนา ดำเนินการ หรือจัดหาโดยบุคคลที่สาม สถาบันการเงินควรได้รับการยืนยันที่เพียงพอจากผู้ให้บริการบุคคลที่สาม ประเมินว่า AI ของบุคคลที่สามเหมาะสมกับการใช้งานที่ตั้งใจหรือไม่ และใช้มาตรการควบคุมเสริมเมื่อมีข้อจำกัดหรือช่องว่างด้านการยืนยัน หากความเสี่ยงไม่สามารถอยู่ในระดับที่ยอมรับได้ ควรพิจารณาจำกัด ระงับ หรือเปลี่ยนการใช้บริการ AI ของบุคคลที่สามนั้น

แนวทางนี้ยังต้องการให้สถาบันการเงินจัดทำบัญชีรายการ AI ที่ใช้งานทั้งหมดให้เป็นปัจจุบัน และเรียกร้องให้มีแผนสำรองหรือระบบทางเลือก เช่น ระบบสำรองหรือกระบวนการที่ทำด้วยมือ สำหรับการใช้งาน AI ในแอปพลิเคชันที่มีความเสี่ยงสูง เพื่อให้ธุรกิจดำเนินต่อไปได้หากเกิดความผิดพลาดหรือพฤติกรรมที่คาดไม่ถึงจาก AI โดยแนวทางฉบับนี้จะมีผลบังคับใช้ตั้งแต่วันที่ 7 ตุลาคม ปี 2027