- 新加坡金融管理局發佈金融機構 AI 風險管理指引，要求獨立審查。
- AI 的複雜性和概率性增加了不確定性，可能導致異常行為。
- 金融機構需將 AI 納入風險管理框架，並由高層推動實施。
- 上線後需持續監測 AI 模型表現，以防範風險和性能下降。
新加坡金融管理局近日發佈首份金融機構人工智能（AI）風險管理指引，要求當地金融機構在 AI 用例投入生產環境之前，需由未參與開發的獨立方進行審查。相關指引將於 2027 年 10 月 7 日生效。
AI 風險管理的必要性
作為新加坡中央銀行及金融業監管機構，新加坡金融管理局指出，儘管 AI 可以改善多個業務和職能領域的表現，其複雜性和概率性也會增加不確定性，並可能產生難以識別的異常或偏差行為。生成式 AI 因模型更加複雜，面臨更高風險，訓練數據噪聲、數據代表性不足以及模型遇到訓練範圍之外的場景，都可能影響輸出。而智能體 AI 則可能進一步放大相關風險。
根據指引，金融機構應將 AI 納入現有風險管理框架，並由董事會和高級管理層負責推動實施。部署前的獨立審查需涵蓋底層系統或模型，確認評估、測試等控制措施得到落實，同時還需開展技術和網絡安全審查，確保 AI 能以受控、安全的方式進入生產環境。
持續監測與風險管理
AI 系統上線後，金融機構還需持續監測模型表現，以防範數據漂移、模型漂移、性能下降及模型老化。相關要求同樣適用於第三方提供的 AI 產品和服務。監管機構明確指出，第三方服務出現故障不能免除金融機構責任。若風險無法控制在機構可接受範圍內，應考慮限制、暫停或更換相關服務。
此外，金融機構需要維護最新的 AI 應用清單。對於第三方服務未披露 AI 使用情況的情形，也應採取措施管理潛在風險。高風險 AI 應用還須制定應急和替代方案，包括啟用備用系統或人工流程，以保障業務連續性。
新加坡金融機構如何應對 AI 風險
新加坡金融管理局的指引反映了對 AI 技術潛在風險的高度重視，尤其是在金融行業中。隨著 AI 應用的普及，金融機構必須建立健全的風險管理框架，確保 AI 系統在安全可控的環境下運行。獨立審查和持續監測的要求，旨在減少因 AI 系統失效而導致的財務損失及信譽損害。這些措施不僅有助於保護消費者利益，也促進了行業的穩定發展。