Monetary Authority of Singapore (MAS) เมื่อเร็วๆ นี้ได้เผยแพร่มาตรการจัดการความเสี่ยง AI สำหรับสถาบันการเงินครั้งแรก กำหนดให้สถาบันการเงินใน Singapore ต้องมีการตรวจสอบโดยฝ่ายอิสระที่ไม่ได้มีส่วนร่วมในการพัฒนา ก่อนที่กรณีการใช้งาน AI จะถูกนำไปใช้ในสภาพแวดล้อมการผลิต (production environment) มาตรการดังกล่าวจะมีผลบังคับใช้ตั้งแต่วันที่ 7 ตุลาคม 2027
ในฐานะธนาคารกลางและหน่วยงานกำกับดูแลอุตสาหกรรมการเงินของ Singapore Monetary Authority of Singapore (MAS) ระบุว่า แม้ AI จะสามารถปรับปรุงประสิทธิภาพในหลายด้านของธุรกิจและหน้าที่การทำงานได้ แต่ความซับซ้อนและลักษณะเชิงความน่าจะเป็นของมันก็เพิ่มความไม่แน่นอน และอาจสร้างพฤติกรรมที่ผิดปกติหรือมีอคติซึ่งยากต่อการตรวจจับ Generative AI เนื่องจากโมเดลที่ซับซ้อนกว่า จึงเผชิญกับความเสี่ยงที่สูงกว่า เสียงรบกวนในข้อมูลฝึกอบรม ข้อมูลที่ไม่เพียงพอต่อการเป็นตัวแทน และโมเดลที่เผชิญกับสถานการณ์นอกเหนือจากขอบเขตการฝึกอบรม ล้วนอาจส่งผลต่อผลลัพธ์ ในขณะที่ Agentic AI อาจขยายความเสี่ยงดังกล่าวต่อไป
สถาบันการเงิน Singapore ต้องปฏิบัติตามมาตรการจัดการความเสี่ยง AI
ตามมาตรการ สถาบันการเงินควรนำ AI เข้าสู่กรอบการจัดการความเสี่ยงที่มีอยู่ และคณะกรรมการและผู้บริหารระดับสูงต้องรับผิดชอบในการดำเนินการให้เกิดขึ้น การตรวจสอบโดยฝ่ายอิสระก่อนการปรับใช้ (deployment) ต้องครอบคลุมระบบหรือโมเดลพื้นฐาน เพื่อยืนยันว่ามาตรการควบคุม เช่น การประเมินและการทดสอบ ได้รับการปฏิบัติจริง พร้อมทั้งต้องดำเนินการตรวจสอบด้านเทคนิคและความปลอดภัยทางไซเบอร์ เพื่อให้มั่นใจว่า AI สามารถเข้าสู่สภาพแวดล้อมการผลิตได้อย่างมีการควบคุมและปลอดภัย
หลังจากระบบ AI เริ่มใช้งานจริง (go-live) สถาบันการเงินยังต้องติดตามประสิทธิภาพโมเดลอย่างต่อเนื่อง เพื่อป้องกันการลอยของข้อมูล (data drift) การลอยของโมเดล (model drift) การลดลงของประสิทธิภาพ และการล้าสมัยของโมเดล ข้อกำหนดดังกล่าวใช้ได้กับผลิตภัณฑ์และบริการ AI จากบุคคลที่สาม (third-party) เช่นกัน ผู้กำกับดูแลระบุชัดเจนว่า ความล้มเหลวของบริการบุคคลที่สามไม่สามารถขโมยความรับผิดชอบของสถาบันการเงินได้ หากความเสี่ยงไม่สามารถควบคุมให้อยู่ในขอบเขตที่สถาบันยอมรับได้ ควรพิจารณาจำกัด หยุดชั่วคราว หรือเปลี่ยนบริการที่เกี่ยวข้อง
นอกจากนี้ สถาบันการเงินต้องดูแลรักษารายการ (inventory) ของแอปพลิเคชัน AI ให้เป็นปัจจุบัน สำหรับกรณีที่บริการบุคคลที่สามไม่ได้เปิดเผยการใช้งาน AI ก็ควรมีมาตรการจัดการความเสี่ยงที่อาจเกิดขึ้น แอปพลิเคชัน AI ที่มีความเสี่ยงสูง ยังต้องมีแผนฉุกเฉินและแผนสำรอง รวมถึงการเปิดใช้งานระบบสำรองหรือกระบวนการด้วยมือ เพื่อให้การดำเนินธุรกิจต่อเนื่อง (business continuity)