أصدرت هيئة النقد في سنغافورة مؤخراً أول إرشادات لإدارة مخاطر الذكاء الاصطناعي (AI) للمؤسسات المالية، مطالبة المؤسسات المالية المحلية بأن تخضع حالات استخدام الذكاء الاصطناعي لمراجعة من طرف مستقل لم يشارك في التطوير قبل نشرها في بيئة الإنتاج. وستدخل الإرشادات ذات الصلة حيز التنفيذ في 7 أكتوبر 2027.
بصفتها البنك المركزي وهيئة تنظيم القطاع المالي في سنغافورة، أشارت هيئة النقد في سنغافورة إلى أنه على الرغم من قدرة الذكاء الاصطناعي على تحسين الأداء في مجالات أعمال ووظيفية متعددة، فإن تعقيده وطبيعته الاحتمالية يزيدان من حالة عدم اليقين، وقد يولدان سلوكيات شاذة أو منحرفة يصعب رصدها. ويواجه الذكاء الاصطناعي التوليدي مخاطر أعلى نظراً لتعقد نماذجه بشكل أكبر، إذ قد تؤثر ضوضاء بيانات التدريب، وعدم كفاية تمثيلية البيانات، ومواجهة النموذج لسيناريوهات خارج نطاق التدريب، جميعها على المخرجات. أما الذكاء الاصطناعي الوكلي (Agentic AI) فقد يضخم المخاطر ذات الصلة بشكل أكبر.
المؤسسات المالية في سنغافورة ملزمة باتباع إرشادات إدارة مخاطر الذكاء الاصطناعي
وفقاً للإرشادات، ينبغي للمؤسسات المالية دمج الذكاء الاصطناعي في أطر إدارة المخاطر القائمة، مع اضطلاع مجلس الإدارة والإدارة العليا بمسؤولية دفع التنفيذ. ويجب أن تغطي المراجعة المستقلة قبل النشر الأنظمة أو النماذج الأساسية، للتحقق من تنفيذ ضوابط التقييم والاختبار وغيرها، كما يتعين إجراء مراجعات تقنية وأمن سيبراني لضمان دخول الذكاء الاصطناعي إلى بيئة الإنتاج بطريقة خاضعة للرقابة وآمنة.
بعد تشغيل أنظمة الذكاء الاصطناعي، لا يزال يتعين على المؤسسات المالية مراقبة أداء النماذج باستمرار للوقاية من انحراف البيانات، وانحراف النموذج، وتدهور الأداء، وشيخوخة النموذج. وتنطبق المتطلبات ذات الصلة أيضاً على منتجات وخدمات الذكاء الاصطناعي التي توفرها أطراف ثالثة. وأكدت الهيئة التنظيمية صراحة أن أعطال خدمات الطرف الثالث لا تعفي المؤسسات المالية من المسؤولية. وإذا تعذر احتواء المخاطر ضمن النطاق المقبول للمؤسسة، ينبغي النظر في تقييد الخدمات ذات الصلة أو تعليقها أو استبدالها.
علاوة على ذلك، يتعين على المؤسسات المالية الاحتفاظ بقائمة محدثة لتطبيقات الذكاء الاصطناعي. وفي الحالات التي لا تكشف فيها خدمات الطرف الثالث عن استخدام الذكاء الاصطناعي، ينبغي أيضاً اتخاذ تدابير لإدارة المخاطر المحتملة. كما يجب على تطبيقات الذكاء الاصطناعي عالية المخاطر وضع خطط طوارئ وبديلة، تشمل تفعيل أنظمة احتياطية أو عمليات يدوية، لضمان استمرارية الأعمال.