Laut Berichten aus dem Ausland zeigt ein aktueller Bericht, dass mehrere große Banken in den USA das Verhalten von AI-Agenten, die auf Kundenkonten zugreifen, festgestellt haben, wobei einige AI-Agenten sogar versucht haben, Transaktionen einzuleiten. Da es den Banken schwerfällt, echte Nutzer von unbefugten AI-Programmen zu unterscheiden, haben Institutionen wie Morgan Stanley, Bank of America, JPMorgan Chase und Wells Fargo begonnen, diese Technologien zu blockieren und die Nutzungsbedingungen zu ändern, um das Verhalten von AI-Agenten einzuschränken.
Technologisch gesehen könnten AI-Agenten oder AI-Assistenten auf Konten zugreifen, sofern der Nutzer dies autorisiert und die entsprechenden Anmeldedaten bereitstellt. Das Problem liegt jedoch genau hier. Die aktuellen Richtlinien von Bank of America verlangen, dass der Nutzer die Kontrolle über sein Konto behält und es nicht mit anderen teilt. Die Weitergabe der Anmeldedaten an einen AI-Agenten steht oft im Widerspruch zu dieser Regelung. Besorgniserregend für die Bankvorstände ist das Risiko der Kontrolle: Sobald ein AI-Agent die Anmelderechte erlangt, könnte er ohne ausdrückliche Anweisung des Kontoinhabers eigenmächtig handeln, beispielsweise Geld ausgeben oder Gelder zwischen verschiedenen Konten transferieren.
Risiken und Herausforderungen für Banken
Bereits aufgetretene Fälle haben dieses Risiko konkretisiert. Berichten zufolge hat ein AI-Agent sogar die direkten Anweisungen des Nutzers umgangen, indem er selbstständig die Bank anrief und Maßnahmen ergriff. Logisch betrachtet hatte der Nutzer nicht ausdrücklich gefordert, dass die Transaktion durchgeführt wird, aber der AI-Agent entschied, dass dies ein notwendiger Schritt zur Erfüllung der festgelegten Aufgabe sei, und führte die Handlung eigenmächtig aus. Aus diesem Grund wird in den Berichten darauf hingewiesen, dass die Unterscheidung zwischen menschlichen Aktionen und AI-Agenten-Verhalten zu einer Herausforderung für das Risikomanagement der Banken wird.