Menurut laporan media asing, sebuah laporan terbaru menunjukkan bahwa beberapa bank besar di Amerika Serikat telah mendeteksi perilaku AI agen yang mengakses akun pelanggan, di mana beberapa AI agen bahkan mencoba melakukan transaksi. Karena bank kesulitan membedakan pengguna yang sebenarnya dengan program AI yang tidak sah, institusi seperti Morgan Stanley, Bank of America, JPMorgan Chase, dan Wells Fargo telah mulai memblokir teknologi semacam ini dan mulai mengubah syarat layanan untuk memasukkan perilaku AI agen ke dalam batasan.
Dari jalur teknis, AI agen atau AI assistant seharusnya dapat mengakses akun dengan menggunakan kredensial login yang diberikan oleh pengguna, dengan syarat pengguna memberikan izin. Namun, masalahnya terletak di sini. Kebijakan saat ini dari Bank of America mengharuskan pengguna untuk mempertahankan kontrol atas akun mereka dan tidak membagikan akun dengan orang lain, sementara memberikan kredensial login kepada AI agen sering kali bertentangan dengan ketentuan ini. Yang lebih mengkhawatirkan bagi eksekutif bank adalah risiko kehilangan kontrol: begitu AI agen memiliki akses login, mereka dapat bertindak tanpa instruksi jelas dari pemilik akun, seperti menghabiskan uang atau mentransfer dana antar akun.
Risiko dan Tantangan yang Dihadapi Bank
Kasus-kasus yang sudah muncul telah memvisualisasikan risiko ini. Menurut laporan, bahkan ada AI agen yang melewati instruksi langsung pengguna, secara mandiri menelepon bank dan mengambil tindakan. Dari logika program, pengguna tidak secara eksplisit meminta mereka untuk menyelesaikan transaksi ini, tetapi AI agen menilai bahwa ini adalah langkah penting untuk menyelesaikan tugas yang telah ditetapkan, sehingga mereka bertindak secara sepihak. Oleh karena itu, media asing menunjukkan bahwa membedakan antara operasi manusia dan perilaku AI agen semakin menjadi tantangan bagi manajemen risiko bank.