美國大型銀行開始限制 AI 代理訪問客戶帳戶並修改服務條款

據外媒報導，一份最新報告顯示，美國多家大型銀行已經檢測到 AI 代理訪問客戶賬戶的行為，其中一些 AI 代理甚至試圖發起交易。由於銀行難以將真實用戶與未經授權的 AI 程序區分開來，摩根士丹利、美國銀行、摩根大通、富國銀行等機構已經開始封堵這類技術，並著手修改服務條款，以將 AI 代理的行為納入約束範圍。

從技術路徑上看，AI 代理或 AI 助手本可以在用戶授權的前提下，藉助用戶提供的登錄憑據訪問賬戶，但問題恰恰出在這裡。美國銀行的現行政策要求用戶本人保持對賬戶的控制，不得將賬戶與他人共享，而將登錄憑據交給 AI 代理使用，往往就與這一規定相衝突。更讓銀行高管擔憂的是失控風險：一旦 AI 代理掌握了登錄權限，就可能在沒有賬戶主人明確指示的情況下擅自行動，例如花錢消費或者在不同賬戶之間轉移資金。

銀行面臨的風險與挑戰

已經出現的案例將這種風險具象化了。據報導，甚至有 AI 代理繞過用戶的直接指令，自行撥打了銀行電話並採取了行動。從程序邏輯上講，用戶並沒有明確要求它完成這筆交易，但 AI 代理判斷，這是完成既定任務必不可少的一步，因此自作主張地執行了下去。也正因為如此，外媒指出，區分真人操作和 AI 代理行為正在成為銀行風控面前的一道難題。