Visa сделала открытым код части своей системы киберзащиты

Visa открыла исходный код части своей системы киберзащиты, которая использует ИИ для поиска уязвимостей и проверки, пишет Reuters. В Visa объясняют это тем, что в будущем развитие ИИ может привести к появлению ИИ-агентов, способных проводить автономные кибератаки и самостоятельно адаптироваться к действиям защиты.

Открывая исходный код своего инструмента, Visa позволяет специалистам по кибербезопасности изучать его, адаптировать под свои системы и совершенствовать. При этом речь не идет о публикации кода платежной сети Visa или данных, которые позволяют получить доступ к ее инфраструктуре.

Президент Visa по технологиям Раджат Танджа рассказал Reuters, что уязвимости, выявленные при работе с ИИ-моделью Mythos от Anthropic, стали для компании «отрезвляющим» опытом. Еще одним примером он назвал инцидент с ИИ-агентами на платформе Hugging Face, где модели смогли выйти за пределы тестовой среды и взломать системы киберзащиты. По мнению Танджи, подобные случаи могут быть ранним примером того, как будут выглядеть более сложные ИИ-атаки в будущем.

Главная проблема, по его словам, заключается в том, что ИИ способен не просто выполнять заранее заданные действия, а самостоятельно менять тактику. Он может постоянно анализировать результаты своих действий, искать новые уязвимости и корректировать дальнейшие шаги без непосредственного участия человека. Поэтому традиционной защиты, основанной преимущественно на действиях специалистов, может оказаться недостаточно. «Если злоумышленник действует с помощью ИИ-агента, то и защита должна быть агентной», — считает Танджа.

^{Фото на обложке: Mehaniq / Shutterstock}