Банки США обнаружили ИИ-агентов в личных кабинетах клиентов

Крупнейшие американские банки начали блокировать доступ сторонних ИИ-агентов к клиентским счетам из-за опасений по поводу несанкционированных операций. Некоторые системы предположительно пытались действовать за пределами пользовательских инструкций, пишет Axios со ссылкой на источники в финансовой отрасли.

По данным издания, сдержать связанные с цифровыми ассистентами риски пытаются Morgan Stanley, Bank of America, JPMorgan Chase, Wells Fargo и другие организации. Часть из них уже знает о случаях неавторизованного доступа.

22 октября Reuters со ссылкой на двух собеседников независимо подтвердило эти данные.

Будьте в курсе
движения ваших монет

Алерты, котировки в реальном времени и новости рынка — в одном приложении

Наведите камеру телефона, чтобы установить

4,8 на основе 40 К оценок в App Store и Google Play

Неавторизованным такой доступ считается с точки зрения банковских правил. В большинстве описанных случаев клиенты сами предоставляли ИИ-помощникам учетные данные и разрешали входить в банковские приложения. Однако большинство банков требуют, чтобы владелец входил в счет лично.

В отдельных эпизодах банки фиксировали, как агенты обращались в колл-центры или, предположительно, совершали действия без поручения пользователей.

По словам собеседников Axios, многие организации пока не могут надежно отличить действия человека от активности автоматизированной системы. Сложно установить и то, работает ли агент с разрешения владельца счета или получил доступ самовольно.

Руководители банков опасаются шагов, которые может предпринять агент с доступом к аккаунту, особенно если пользователь разрешил ему совершать покупки или переводить деньги.

При этом конкретные ИИ-продукты источники не назвали. Журналисты также не привели подтвержденных случаев хищения средств или финансового ущерба.

Позиции банков

Morgan Stanley уже закрыл сторонним агентам доступ к своим платформам. При этом представитель банка заявил, что случаев доступа неподконтрольных систем не зафиксировано.

13 октября генеральный директор JPMorgan Джейми Даймон заявил в ходе квартальной отчетной конференции, что банк ограничит доступ внешних агентов к клиентским счетам, поскольку в сети могут действовать тысячи неподконтрольных ИИ-систем.

Citigroup сообщила Financial Times, что не разрешает сторонним помощникам на базе искусственного интеллекта входить в клиентские аккаунты и проводить операции на своих цифровых платформах. Однако клиенты Citi по-прежнему могут открыть доступ к информации о счетах только для чтения через отдельные сервисы открытого банкинга.

Глава Charles Schwab Рик Вурстер также рассказал о блокировке неавторизованных систем. По его словам, компания ежедневно отслеживает подобные попытки, но их немного.

Угроза депозитам и вопрос ответственности

Банки обеспокоены не только возможными ошибками ИИ, но и последствиями для собственной бизнес-модели. По данным Financial Times, кредиторы опасаются, что агенты спровоцируют отток депозитов.

Главный экономист Apollo Торстен Слок предупредил, что ИИ-помощники могут автоматически перемещать деньги с текущих счетов со средней ставкой 0,1% на счета с доходностью 3,3-5%. По его оценке, массовое использование таких агентов способно подорвать базу дешевых депозитов, за счет которой банки финансируют кредитование.

Еще одна проблема — распределение ответственности за действия ИИ. Глава Bank of America Брайан Мойнихан сообщил, что банк ограничивает доступ агентов к депозитам, пока разрабатывает правила, которые определят, кто отвечает за одобренные ИИ платежи.

По данным Axios, банки также готовят планы реагирования на возможные инциденты, включая оперативную блокировку доступа и восстановление контроля пользователей над счетами.

При этом финансовые учреждения признают растущий спрос на автономных помощников и ищут компромисс. Помимо Citi, большинство банков уже разрешили или готовятся разрешить агентам доступ только для чтения. Такой режим позволяет анализировать банковскую информацию, но не проводить платежи и переводы.

Напомним, 21 октября Anthropic представила персонального ИИ-агента Claude Duet. Он способен самостоятельно работать с подключенными приложениями, искать неоплаченные счета и готовить финансовые прогнозы.

Для платежей и других чувствительных действий агенту нужно подтверждение пользователя, а переводить деньги между счетами он не может даже с разрешением.

Источник