Последняя модель ИИ от Anthropic напугала мировые центробанки

Новая модель искусственного интеллекта Claude Mythos Preview от Anthropic стала центральной темой обсуждений на весенних встречах Мирового валютного фонда и Всемирного банка в Вашингтоне, в которой приняли участие министры финансов, главы центральных банков и других регуляторов, пишет Financial Times. По данным издания, высокопоставленные финансовые чиновники предупредили, что новые ИИ-модели типа Mythos могут угрожать мировой банковской системе, выявляя уязвимости в киберзащите кредитных организаций.

Еще неделю назад, пишет FT, участники встреч ожидали обсуждений войны на Ближнем Востоке, напряженности на рынке частного кредитования и роста госдолга. Однако ключевой темой стала именно способность новых ИИ-моделей дестабилизировать банковскую систему.

«Это очень серьезный вызов для всех нас, — заявил глава Банка Англии Эндрю Бейли, возглавляющий также Совет по финансовой стабильности ЕС. — Это напоминает нам, насколько быстро развивается мир ИИ». Бейли добавил, что глобальным регуляторам необходимо быстро оценить потенциальную угрозу кибербезопасности для финансовой системы, исходящую от новой модели Mythos. 

«Эволюция цифровых технологий создает огромные риски с точки зрения кибербезопасности, — отметил заместитель главы МВФ Дэн Кац. — Это станет ключевым пунктом международной повестки в ближайшие месяцы».

По словам участников встреч в Вашингтоне, Mythos меняет баланс сил между киберпреступниками и системами защиты финансовых институтов, поскольку способна автоматически выявлять и комбинировать уязвимости программного обеспечения в масштабе, превышающем человеческие возможности.

«Они [мировые регуляторы] одновременно впечатлены и обеспокоены способностью Mythos самостоятельно определять подход к решению задач, но также обеспокоены отсутствием регулирования для компаний, занимающихся ИИ. Чиновники заявляют, что рассматривают возможность сотрудничества с технологическими компаниями, включая Anthropic», — отмечает FT. 

В начале апреля Минфин США провел закрытую встречу с руководителями крупнейших банков, включая Citigroup, Morgan Stanley, Bank of America, Wells Fargo и Goldman Sachs, а также с главой Федеральной резервной системы Джеромом Пауэллом. Целью встречи было предупредить банки о рисках, связанных с Mythos и аналогичными моделями, чтобы те смогли лучше выстроить защиту банковских ИТ-систем, сообщал Reuters.

На данный момент Anthropic предоставила доступ к модели примерно 40 компаниям, включая Amazon, Apple и JPMorgan, чтобы те могли протестировать систему и устранить выявленные уязвимости, напоминает FT. Глава JPMorgan Джейми Даймон отметил, что модель «выявляет множество уязвимостей, которые необходимо устранить».

Некоторые банки подчеркивают и потенциальные преимущества от работы с Mythos. «ИИ — наш друг. Это новое поколение технологий, которое станет частью экосистемы», — заявил глава Morgan Stanley Тед Пик (цитата по FT). По его словам, банк уже тестирует бета-версию Claude Mythos и изучает, где технология может повысить эффективность инфраструктуры.

Робин Винс, генеральный директор BNY, старейшего банка США, сообщил FT, что банк также тестирует модель Anthropic, тогда как финансовый директор Citigroup Гонсало Лучетти заявил журналистам в середине апреля, что банк подходит к этому технологическому прорыву «с той степенью срочности, которую он требует».

В то же время в Европе пока не осознают масштаб угрозы, которую несут новые модели ИИ. 

Высокопоставленные руководители одного крупного банка и одной крупной финансовой инфраструктурной компании в Европе сообщили Financial Times на полях встреч в Вашингтоне, что пока не получили доступ к бета-версии Mythos и поэтому не имели возможности протестировать ее в полной мере.

«Если то, что они говорят, правда, это, безусловно, серьезно. Но пока слишком рано делать выводы. Мы общаемся с Anthropic, чтобы получить доступ к этой модели», — сказал газете топ-менеджер одного из банков на условиях анонимности. 

Глава Европейского банковского управления Франсуа-Луи Мишо заявил, что процесс оценки только начинается. Он подчеркнул, что регулятор уже усиливает направление кибербезопасности и расширяет надзор за ИТ-поставщиками банков. «Я не говорю, что все идеально, но мы не начинаем с нуля», — сказал он.