Совет по финансовой стабильности предупредил о рисках внедрения ИИ в финансовом секторе

Совет по финансовой стабильности (Financial Stability Board, FSB) призвал финансовые организации ответственно внедрять искусственный интеллект и усилить контроль за связанными с ним рисками. В докладе, опубликованном 15 октября, организация представила рекомендации для банков, страховых компаний, инвестиционных фондов и других участников рынка. По оценке FSB, ИИ способен повысить эффективность финансовых услуг и улучшить управление рисками, однако его распространение может усилить угрозы для финансовой стабильности.

В отличие от обычных ИИ-инструментов, которые отвечают на запросы или выполняют отдельные операции, ИИ-агенты могут самостоятельно выбирать последовательность действий для достижения поставленной цели и взаимодействовать с другими системами. Это позволяет автоматизировать более сложные процессы, но одновременно повышает вероятность непредвиденных действий и затрудняет контроль за работой таких систем. К примеру, летом ИИ-агенты без участия и ведома человека взломали платформу Hugging Face, пытаясь выполнить задание в рамках тестирования.

FSB подчеркнул, что ИИ-агентов нельзя рассматривать как «цифровых сотрудников». Организация указала на принципиальные различия между поведением алгоритмов и человеческим мышлением. ИИ-агенты могут интерпретировать заданные им цели неожиданным образом, поэтому даже правильно сформулированные инструкции не гарантируют, что система будет действовать в соответствии с намерениями разработчика или пользователя.

Согласно рекомендациям, финансовые организации должны определять интенсивность человеческого надзора с учетом потенциальных последствий использования ИИ. В сценариях с повышенным уровнем риска участие человека становится особенно важным. Компаниям следует установить четкие критерии, определяющие, в каких случаях ИИ-агент обязан получить одобрение сотрудника перед выполнением определенного действия. Такой подход должен снизить вероятность того, что система самостоятельно примет решение, способное привести к финансовым потерям, нарушению требований регуляторов или сбоям в работе организации.

Также рекомендации FSB охватывают корпоративное управление, оценку рисков, качество данных, прозрачность моделей, кибербезопасность и зависимость от внешних поставщиков технологий. FSB считает, что финансовые организации должны проверять точность и надежность ИИ на протяжении всего их жизненного цикла — от разработки до вывода из эксплуатации.

^{Фото на обложке: MiniStocker / Shutterstock}