Банк Англии обеспокоен деятельностью ИИ-агентов и предлагает реформу регулирования

Сара Бриден, заместитель управляющего Банка Англии по вопросам финансовой стабильности, предупредила, что автономные системы искусственного интеллекта представляют растущую угрозу для финансовых рынков, кибербезопасности и платежной инфраструктуры, и призвала центральные банки по всему миру изучить возможности улучшения регулирования этого сектора.

Выступая на ежегодном форуме Европейского центрального банка в Синтре, Португалия, Бриден объяснила, что агентный ИИ развивается быстрее, чем ожидали регуляторы. По ее словам, в 2019 году продолжительность программных задач, которые могли выполнять ведущие модели ИИ, удваивалась каждые семь месяцев. Однако к 2024 году удвоение происходило каждые четыре месяца.

Прорывы в области обнаружения киберуязвимостей этой весной позволяют предположить, что эти темпы, возможно, ускорились.

«Весной нас ждали сюрпризы, и нам следует быть готовыми к дальнейшим технологическим неожиданностям», — сказал на мероприятии 30 июня.

От создания контента до автономных действий

Бриден выделил три важных этапа развития ИИ, объяснив, что в начале десятилетия генеративные системы ИИ создавали контент только по запросу. К концу 2024 года модели были обучены рассуждать о многоэтапных задачах. Теперь же агентные системы могут планировать и выполнять последовательности решений полностью самостоятельно, без какого-либо участия человека.

В контексте финансов эта траектория указывает на систему, в которой агенты искусственного интеллекта смогут торговать ценными бумагами, обрабатывать платежи и реагировать на киберугрозы с минимальным участием человека. Бриден продолжил описывать финансовую систему, которая «работает более автономно, в масштабе и с большей скоростью», где агенты действуют от имени потребителей, продавцов и торговых платформ.

Банк Англии больше всего обеспокоен киберрисками

Среди ряда рисков для финансовой стабильности Бриден выделила кибербезопасность как наиболее критическую проблему. Она сослалась на Институт безопасности ИИ при правительстве Великобритании, которыйdentзначительное улучшение возможностей агентного ИИ в интернете.

Те же инструменты, которые помогают защитникам находить и устранять уязвимости, также дают злоумышленникам возможность обнаруживать и использовать их. Бриден предупредил, что злонамеренное использование этих возможностей «существенно увеличивает вероятность атак, которые могут нанести ущерб финансовой стабильности»

В своих замечаниях Бриден предположил, что автономным торговым инструментам могут потребоваться встроенные «аварийные выключатели» для предотвращения рыночных потрясений, что будет представлять собой отклонение от действующих правил.

Инвестиционный бум влечет за собой огромные риски

Бриден упомянул еще одну проблему, касающуюся финансирования этих агентов ИИ. В апреле Комитет по финансовой политике Банка пришел к выводу, что, хотя крупные технологические компании первоначально финансировали создание и поддержание инфраструктуры ИИ за cash потоков и собственного капитала, использование заемного финансирования быстро растет и принимает новые, сложные формы.

Это означает, что внезапное падение оценок активов, связанных с ИИ, может вызвать масштабные ripple на кредитных рынках. Заместитель управляющего Банка Англии заявил, что комитет пришел к выводу, что «последствия для финансовой стабильности любого падения цен на активы, связанные с ИИ, вполне могут усилиться»

Более подробная оценка этого вопроса комитетом ожидается 7 июля.

Бриден также утверждал, что центральным банкам необходимо адаптироваться и самим использовать ИИ для надзора за этими системами, а не сосредотачиваться только на управлении рисками, связанными с ИИ.

Источник