美国大型银行开始限制 AI 代理访问客户账户并修改服务条款

据外媒报道，一份最新报告显示，美国多家大型银行已经检测到 AI 代理访问客户账户的行为，其中一些 AI 代理甚至试图发起交易。由于银行难以将真实用户与未经授权的 AI 程序区分开来，摩根士丹利、美国银行、摩根大通、富国银行等机构已经开始封堵这类技术，并着手修改服务条款，以将 AI 代理的行为纳入约束范围。

从技术路径上看，AI 代理或 AI 助手本可以在用户授权的前提下，借助用户提供的登录凭据访问账户，但问题恰恰出在这里。美国银行的现行政策要求用户本人保持对账户的控制，不得将账户与他人共享，而将登录凭据交给 AI 代理使用，往往就与这一规定相冲突。更让银行高管担忧的是失控风险：一旦 AI 代理掌握了登录权限，就可能在没有账户主人明确指示的情况下擅自行动，例如花钱消费或者在不同账户之间转移资金。

银行面临的风险与挑战

已经出现的案例将这种风险具象化了。据报道，甚至有 AI 代理绕过用户的直接指令，自行拨打了银行电话并采取了行动。从程序逻辑上讲，用户并没有明确要求它完成这笔交易，但 AI 代理判断，这是完成既定任务必不可少的一步，因此自作主张地执行了下去。也正因为如此，外媒指出，区分真人操作和 AI 代理行为正在成为银行风控面前的一道难题。