Otoritas Jasa Keuangan Singapura baru-baru ini menerbitkan pedoman manajemen risiko kecerdasan buatan (AI) pertama bagi lembaga keuangan, mewajibkan lembaga keuangan lokal menjalani tinjauan oleh pihak independen yang tidak terlibat dalam pengembangan sebelum kasus penggunaan AI dimasukkan ke lingkungan produksi. Pedoman terkait akan berlaku efektif 7 Oktober 2027.
Sebagai bank sentral dan pengawas industri keuangan Singapura, MAS menegaskan bahwa meskipun AI dapat meningkatkan kinerja di berbagai bidang bisnis dan fungsi, kompleksitas dan sifat probabilistiknya menambah ketidakpastian, dan berpotensi menimbulkan anomali atau perilaku penyimpangan yang sulit terdeteksi. AI generatif menghadapi risiko lebih tinggi karena modelnya lebih kompleks; kebisingan data pelatihan, ketidakcukupan representativitas data, serta model yang menghadapi skenario di luar cakupan pelatihan, semuanya dapat memengaruhi output. Sementara AI agen berpotensi memperbesar risiko terkait lebih lanjut.
Lembaga Keuangan Singapura Harus Patuhi Pedoman Manajemen Risiko AI
Berdasarkan pedoman tersebut, lembaga keuangan harus mengintegrasikan AI ke dalam kerangka manajemen risiko yang sudah ada, dengan dewan direksi dan manajemen senior bertanggung jawab mendorong implementasinya. Tinjauan independen pra-deploy harus mencakup sistem atau model yang mendasarinya, memastikan langkah pengendalian seperti penilaian dan pengujian telah dilaksanakan, serta harus melakukan tinjauan teknis dan keamanan siber untuk memastikan AI dapat memasuki lingkungan produksi secara terkendali dan aman.
Setelah sistem AI beroperasi, lembaga keuangan masih harus memantau kinerja model secara berkelanjutan untuk mencegah data drift, model drift, penurunan performa, dan penuaan model. Persyaratan yang sama berlaku untuk produk dan layanan AI dari pihak ketiga. Pengawas menegaskan secara eksplisit bahwa kegagalan layanan pihak ketiga tidak membebaskan tanggung jawab lembaga keuangan. Jika risiko tidak dapat dikendalikan dalam batas yang dapat diterima institusi, sebaiknya dipertimbangkan untuk membatasi, menghentikan sementara, atau mengganti layanan terkait.
Selain itu, lembaga keuangan wajib memelihara daftar inventaris aplikasi AI yang mutakhir. Terhadap kasus di mana layanan pihak ketiga tidak mengungkapkan penggunaan AI, juga harus diambil langkah untuk mengelola risiko potensial. Aplikasi AI berisiko tinggi harus menyusun rencana darurat dan alternatif, termasuk mengaktifkan sistem cadangan atau proses manual, untuk menjamin kelangsungan bisnis.