Банки США нашли в счетах клиентов чужих ИИ-агентов

Крупнейшие банки США обнаруживают в счетах клиентов несанкционированных сторонних ИИ-агентов, причем некоторые из них пытаются совершать действия, которые, судя по всему, не связаны с указаниями пользователей. Об этом сообщает Axios со ссылкой на источники.

Среди банков, которые пытаются сдержать риски, связанные с ИИ-агентами, издание называет Morgan Stanley, Bank of America, JPMorgan и Wells Fargo. Как правило, агент попадает в счет с разрешения клиента, который сам передает ему логин и пароль. Но даже с согласия клиента такая схема нарушает правила большинства банков, по которым входить в аккаунт должен сам человек, отмечает издание. Некоторые банки также фиксировали, как агенты звонили в колл-центры.

Банкиров больше всего беспокоит, что агенты могут сделать со счетом, особенно если пользователь дал им право совершать покупки или переводить деньги. Руководители банков назвали ситуацию «ужасающей». Один из них сказал изданию, что отрасль серьезно обеспокоена тем, что агенты получают доступ к счетам и совершают действия, которые могут повлиять на финансы клиентов.

Главная проблема в том, что многие банки не могут понять, действует ли агент по указанию клиента. Один из топ-менеджеров признался Axios, что банку трудно отличать агентов друг от друга. Сложно и определить, разрешил ли доступ пользователь или агент вышел из-под контроля и проник в счет сам.

Morgan Stanley уже начал блокировать доступ сторонних агентов к своим платформам, а JPMorgan, Bank of America и Citi ограничивают их работу, пишет издание. Представитель Morgan Stanley при этом заявил, что банк не наблюдал случаев доступа к своим платформам «вышедших из-под контроля ИИ-агентов». Представитель JPMorgan призвал клиентов никому не сообщать логины и пароли.

Большинство банков уже разрешили агентам доступ только для чтения или движутся к этому. Он позволяет видеть финансовую информацию клиента, но не проводить операции. Такой доступ банки уже дают сторонним приложениям, например сервису для ведения бюджета Quicken.

Собеседники Axios признают, что развитие искусственного интеллекта все равно приведет к тому, что клиенты будут хотеть все чаще пользоваться ИИ-агентами и банкам придется искать компромисс, но пока риски слишком высоки. По словам одного из источников, одних денег для решения проблемы может не хватить, потому что технология развивается слишком быстро и в реальном времени обнажает новые уязвимости. Банки уже прорабатывают сценарии на «следующий день» после возможного инцидента, чтобы быстро защитить или восстановить доступ клиентов к счетам.

13 октября глава JPMorgan Джейми Даймон заявил, что банк закрыл сторонним ИИ-агентам возможность управлять розничными счетами клиентов. Такие сервисы могут только просматривать часть данных, но не переводить деньги и не оплачивать счета:

16 октября Financial Times сообщила, что ограничения ввел и Citi. Банк не разрешает сторонним ИИ-агентам и ассистентам входить в аккаунты клиентов или проводить операции на своих цифровых платформах. Неавторизованных агентов блокирует и брокер Charles Schwab, заявил его гендиректор Рик Вурстер. Помимо безопасности, банки опасаются, что ИИ-агенты начнут автоматически переводить свободные деньги клиентов туда, где выше доходность, писала FT. По данным газеты, регуляторы неофициально поддерживают решения банков ограничить доступ агентов.

^{Фото на обложке: Unsplash}