La Autoridad Monetaria de Singapur publicó recientemente su primera guía de gestión de riesgos de inteligencia artificial (IA) para instituciones financieras, exigiendo que las entidades financieras locales sometan los casos de uso de IA a revisión por parte independiente no involucrada en el desarrollo antes de llevarlos a producción. Las directrices entrarán en vigor el 7 de octubre de 2027.
En su calidad de banco central y regulador del sector financiero de Singapur, la Autoridad Monetaria de Singapur señaló que, aunque la IA puede mejorar el desempeño en múltiples áreas de negocio y funciones, su complejidad y naturaleza probabilística aumentan la incertidumbre y pueden generar anomalías o comportamientos sesgados difíciles de detectar. La IA generativa, por sus modelos más complejos, enfrenta riesgos más elevados: el ruido en los datos de entrenamiento, la representatividad insuficiente de los datos y que el modelo se encuentre con escenarios fuera del ámbito de entrenamiento pueden afectar la salida. Por su parte, la IA agente podría amplificar aún más esos riesgos.
Las instituciones financieras de Singapur deben seguir las directrices de gestión de riesgos de IA
Según las directrices, las instituciones financieras deben integrar la IA en sus marcos de gestión de riesgos existentes, con la junta directiva y la alta dirección responsables de impulsar su implementación. La revisión independiente previa al despliegue debe abarcar los sistemas o modelos subyacentes, verificando que se apliquen controles como evaluaciones y pruebas, y debe incluir además revisiones técnicas y de ciberseguridad para garantizar que la IA entre en producción de forma controlada y segura.
Una vez en producción, las instituciones financieras deben monitorear continuamente el desempeño de los modelos para prevenir la deriva de datos, la deriva del modelo, la degradación del rendimiento y el envejecimiento del modelo. Los mismos requisitos se aplican a los productos y servicios de IA provistos por terceros. El regulador dejó claro que los fallos de servicios de terceros no eximen de responsabilidad a la institución financiera. Si los riesgos no pueden mantenerse dentro de los límites aceptables para la entidad, esta debe considerar limitar, suspender o reemplazar los servicios correspondientes.
Asimismo, las instituciones financieras deben mantener un inventario actualizado de aplicaciones de IA. En los casos en que los servicios de terceros no revelen el uso de IA, también deben adoptar medidas para gestionar los riesgos potenciales. Las aplicaciones de IA de alto riesgo deben contar además con planes de contingencia y alternativos, incluida la activación de sistemas de respaldo o procesos manuales, para garantizar la continuidad del negocio.