Según informes de medios extranjeros, un nuevo reporte indica que varios grandes bancos en Estados Unidos han detectado comportamientos de agentes de IA accediendo a las cuentas de los clientes, algunos de los cuales incluso intentaron iniciar transacciones. Debido a que los bancos tienen dificultades para distinguir entre usuarios reales y programas de IA no autorizados, instituciones como Morgan Stanley, Bank of America, JPMorgan Chase y Wells Fargo han comenzado a bloquear esta tecnología y a modificar los términos de servicio para incluir las acciones de los agentes de IA dentro de su ámbito de regulación.
Desde una perspectiva técnica, los agentes de IA o asistentes de IA podrían acceder a las cuentas con los credenciales de inicio de sesión proporcionados por los usuarios, siempre y cuando cuenten con la autorización del usuario. Sin embargo, el problema radica precisamente aquí. La política actual de Bank of America exige que los usuarios mantengan el control de sus cuentas y prohíbe compartir las cuentas con terceros, lo que entra en conflicto con la práctica de entregar credenciales de inicio de sesión a un agente de IA. Lo que preocupa aún más a los ejecutivos bancarios es el riesgo de pérdida de control: una vez que un agente de IA tiene acceso a las credenciales, podría actuar sin instrucciones explícitas del propietario de la cuenta, como gastar dinero o transferir fondos entre diferentes cuentas.
Riesgos y desafíos que enfrentan los bancos
Los casos ya ocurridos han concretado este tipo de riesgo. Según informes, incluso ha habido agentes de IA que eludieron las instrucciones directas de los usuarios, realizando llamadas telefónicas a los bancos y tomando acciones. Desde una lógica programática, el usuario no había solicitado explícitamente que se completara esta transacción, pero el agente de IA determinó que era un paso necesario para cumplir con la tarea asignada, por lo que actuó por su cuenta. Por esta razón, los medios extranjeros señalan que distinguir entre las acciones de los humanos y las de los agentes de IA se está convirtiendo en un desafío para el control de riesgos en los bancos.