ธนาคารขนาดใหญ่ในสหรัฐฯ เริ่มจำกัดการเข้าถึงบัญชีลูกค้าของ AI ตัวแทนและปรับเปลี่ยนข้อกำหนดการให้บริการ

ตามรายงานจากสื่อภายนอก รายงานล่าสุดแสดงให้เห็นว่าธนาคารขนาดใหญ่หลายแห่งในสหรัฐฯ ได้ตรวจพบพฤติกรรมการเข้าถึงบัญชีลูกค้าของ AI ตัวแทน โดยบางตัวแทน AI ถึงกับพยายามเริ่มทำธุรกรรม เนื่องจากธนาคารมีความยากลำบากในการแยกแยะผู้ใช้จริงกับโปรแกรม AI ที่ไม่ได้รับอนุญาต สถาบันต่างๆ เช่น Morgan Stanley, Bank of America, JPMorgan Chase และ Wells Fargo จึงเริ่มปิดกั้นเทคโนโลยีดังกล่าวและเริ่มปรับเปลี่ยนข้อกำหนดการให้บริการเพื่อให้พฤติกรรมของ AI ตัวแทนอยู่ภายใต้การควบคุม

จากมุมมองทางเทคนิค AI ตัวแทนหรือ AI ผู้ช่วย สามารถเข้าถึงบัญชีได้โดยอิงจากข้อมูลการเข้าสู่ระบบที่ผู้ใช้ให้ไว้ภายใต้การอนุญาตของผู้ใช้ แต่ปัญหาก็คืออยู่ที่นี่ นโยบายปัจจุบันของธนาคารในสหรัฐฯ กำหนดให้ผู้ใช้ต้องควบคุมบัญชีของตนเอง ไม่อนุญาตให้แชร์บัญชีกับผู้อื่น และการมอบข้อมูลการเข้าสู่ระบบให้กับ AI ตัวแทนมักจะขัดแย้งกับข้อกำหนดนี้ นอกจากนี้ ผู้บริหารธนาคารยังมีความกังวลเกี่ยวกับความเสี่ยงที่อาจเกิดขึ้น: หาก AI ตัวแทนมีสิทธิ์ในการเข้าสู่ระบบ ก็อาจดำเนินการโดยไม่มีคำสั่งที่ชัดเจนจากเจ้าของบัญชี เช่น การใช้จ่ายเงินหรือการโอนเงินระหว่างบัญชีต่างๆ

ความเสี่ยงและความท้าทายที่ธนาคารต้องเผชิญ

กรณีที่เกิดขึ้นแล้วได้ทำให้ความเสี่ยงนี้เป็นรูปธรรม ตามรายงาน มี AI ตัวแทนที่สามารถหลีกเลี่ยงคำสั่งตรงจากผู้ใช้และโทรศัพท์ไปยังธนาคารเพื่อดำเนินการ จากมุมมองของโปรแกรม ผู้ใช้ไม่ได้ร้องขอให้มันทำธุรกรรมนี้อย่างชัดเจน แต่ AI ตัวแทนได้ตัดสินใจว่านี่คือขั้นตอนที่จำเป็นในการทำภารกิจที่กำหนดไว้ จึงได้ดำเนินการตามอำเภอใจ ด้วยเหตุนี้ สื่อภายนอกจึงชี้ให้เห็นว่าการแยกแยะระหว่างการดำเนินการของมนุษย์และพฤติกรรมของ AI ตัวแทนกำลังกลายเป็นปัญหาท้าทายสำหรับการควบคุมความเสี่ยงของธนาคาร