ИИ-агенты впервые самостоятельно совершили кибератаку

Китайские хакеры предположительно использовали ИИ-инструменты, находящиеся в открытом доступе, для атаки на государственные системы Тайваня. По данным исследовательской компании Dream, на которые ссылается Financial Times, впервые была зафиксирована масштабная кибератака, в которой ИИ-агенты практически автономно выполняли функции целой команды хакеров.

В начале июля на протяжении четырех дней хакеры одновременно задействовала до восьми ИИ-агентов. Агенты исследовали 21 государственную IT-систему, искали уязвимости и меняли тактику при неудаче. В результате были скомпрометированы как минимум 85 учетных записей государственных служащих и похищены данные более 2,5 тысяч сотрудников. Затем атака распространилась на агентство по ядерной безопасности Тайваня и как минимум семь энергетических компаний.

Хакеры использовали две системы ИИ-агентов с открытым исходным кодом — Hermes и OpenClaw. Открытый исходный код позволял настраивать модели так, чтобы они самостоятельно выполняли различные задачи. При этом защитные ограничения ИИ, которые не позволяют моделям осуществлять кибератаки, были обойдены: хакерская деятельность представлялась системе как разрешенное тестирование уязвимостей.

Главной особенностью атаки стала высокая степень автономности. ИИ постоянно оценивал доступные варианты проникновения, выбирал наиболее перспективные и при неудаче поручал другому агенту искать новый способ атаки. Глава стратегического направления Dream Амир Беккер назвал это первой увиденной им «полностью автономной атакой» на государственную цель. По его мнению, правительства теперь должны исходить из того, что постоянно находятся под угрозой кибератак.

Dream не смогла установить конкретного исполнителя, однако исследователи обнаружили в материалах атаки сообщения на упрощенном китайском языке, что указывает на возможную связь с КНР (на самом Тайване упрощенный китайский практически не используется, что делает маловероятной теорию о внутренней атаке).

Угроза использования ИИ для совершения кибератак стала наиболее актуальной после выпуска Anthropic модели Mythos в апреле 2026 года. Mythos стала первой моделью, способной находить уязвимости в ПО. Впоследствии аналогичные технологии стали разрабатывать и другие компании, в том числе, китайские. В июне The Wall Street Journal сообщила, что китайская ИИ-модель GLM-5.2, разработанная компанией Zhipu, по ряду показателей сравнялась с Mythos в выполнении задач в сфере кибербезопасности.

В большинство моделей, способных искать уязвимости и находящихся в открытом доступе, встроена система защиты, которая не позволяет искусственному интеллекту отвечать на запросы, связанные с кибербезопасностью. Однако несмотря на меры предосторожности, недавние инциденты демонстрируют, что общедоступные ИИ-модели могут представлять угрозу кибербезопасности.

К примеру, во время планового тестирования ИИ-модели Anthropic автономно взломали системы трех организаций, причем компания обнаружила это лишь после того, как OpenAI сообщила о похожем случае: в середине июля разработчик ChatGPT заявил, что нейросети компании без участия человека взломали платформу Hugging Face, чтобы получить решения для тестов ExploitGym. Reuters со ссылкой на заявление южнокорейской компании Genians сообщал, что северокорейская хакерская группировка Kimsuky начала использовать ИИ-инструменты для автоматизации кибератак: разработки вредоносного ПО, анализа данных и создания фишинговых сообщений. Однако инцидент, о котором сообщает Dream — первая целенаправленная атака, совершенная ИИ-агентами без участия человека.

Кибератака на тайваньские госструктуры делает еще более актуальной дискуссию об ИИ-моделях с открытым исходным кодом. Американские разработчики, в отличие от китайских традиционно выпускающие закрытые модели, в последнее время стали склоняться к разработке систем с открытым исходным кодом. Однако гендиректор Anthropic Дарио Амодеи обращает внимание на риски этого подхода, отмечая, что наиболее мощные открытые ИИ-системы должны в обязательном порядке проходить проверки безопасности, поскольку могут быть использованы для проведения кибератак и создания биологического оружия.

^{Фото на обложке: DC Studio / Shutterstock.com}