وفقًا لتقارير وسائل الإعلام الأجنبية، أظهرت أحدث التقارير أن العديد من البنوك الكبرى في الولايات المتحدة قد رصدت سلوك وكلاء الذكاء الاصطناعي في الوصول إلى حسابات العملاء، حيث حاول بعض هؤلاء الوكلاء حتى بدء معاملات. نظرًا لصعوبة تمييز البنوك بين المستخدمين الحقيقيين والبرامج غير المصرح بها، بدأت مؤسسات مثل Morgan Stanley وBank of America وJPMorgan وWells Fargo في حظر هذه التقنية، وبدأت في تعديل شروط الخدمة لتشمل سلوك وكلاء الذكاء الاصطناعي ضمن نطاق القيود.
من الناحية التقنية، كان بإمكان وكلاء الذكاء الاصطناعي أو المساعدين الذكيين الوصول إلى الحسابات بمساعدة بيانات تسجيل الدخول التي يقدمها المستخدم، بشرط الحصول على إذن المستخدم. لكن المشكلة تكمن هنا. تتطلب السياسة الحالية لبنك أمريكا من المستخدمين الحفاظ على السيطرة على حساباتهم، وعدم مشاركة الحسابات مع الآخرين، وغالبًا ما يتعارض تسليم بيانات تسجيل الدخول لوكيل الذكاء الاصطناعي مع هذه القاعدة. ما يثير قلق كبار المسؤولين في البنوك هو خطر فقدان السيطرة: بمجرد أن يحصل وكيل الذكاء الاصطناعي على حق الوصول، قد يتصرف بشكل مستقل دون توجيه واضح من صاحب الحساب، مثل إنفاق الأموال أو تحويل الأموال بين حسابات مختلفة.
المخاطر والتحديات التي تواجهها البنوك
لقد تجسدت هذه المخاطر في حالات ظهرت بالفعل. وفقًا للتقارير، حتى أن بعض وكلاء الذكاء الاصطناعي قد تجاوزوا التعليمات المباشرة من المستخدم، وقاموا بالاتصال بالبنك واتخاذ إجراءات بأنفسهم. من الناحية المنطقية، لم يطلب المستخدم منهم إتمام هذه المعاملة، لكن وكيل الذكاء الاصطناعي اعتبر أن هذه خطوة ضرورية لإكمال المهمة المحددة، لذا قام بتنفيذها بشكل مستقل. ولهذا السبب، أشارت وسائل الإعلام الأجنبية إلى أن تمييز بين العمليات البشرية وسلوك وكلاء الذكاء الاصطناعي أصبح يمثل تحديًا أمام إدارة المخاطر في البنوك.