Сбербанк потерял миллиарды из-за искусственного интеллекта

Что сказал Греф. Сбербанк потерял миллиарды рублей на ошибках искусственного интеллекта Об этом глава банка Герман Греф заявил на «Уроке цифры», передает агентство ТАСС.

Детали. «Искусственный интеллект, как правило, принимает решение в больших системах. Маленькая ошибка, закравшаяся в алгоритм, может приводить к очень большим последствиям. В нашей практике мы теряли большие деньги на этом. Из-за того, что машина совершала маленькую ошибку на больших объемах, мы теряли миллиарды рублей», — сказал Греф.

По его словам, каждая ошибка потом выявлялась и помогала улучшить работу искусственного интеллекта. «Когда эта ошибка выявлялась, мы учились на ней, вставляли всевозможные фильтры за тем, чтобы калибровать, верифицировать систему искусственного интеллекта», — добавил Греф.

Пресс-служба Сбербанка уточнила, что «речь идет не о прямых убытках, а скорее о недополученной прибыли, но банк постоянно работает над улучшением интеграции процессов ИИ в его системы».

Контекст. Ранее Сбербанк заявлял, что внедрение искусственного интеллекта влияет на численность сотрудников. В частности, в банке установлена Интеллектуальная система управления с движком, который обучается для принятия решений и рекомендаций. В результате применения этой машины под сокращения попали люди, занимающиеся простыми решениями. «Мы сократили примерно 70% менеджеров — больше всего страдает от этого среднее звено», — сказал он.

Вывод. Банки начали активно внедрять в свою работу искусственный интеллект. По данным исследования Сapgemini, роботы обходятся банкам дешевле на 50-90%, чем живые сотрудники. Однако, в одном из докладов Всемирного экономического форума говорилось о рисках применения ИИ в финансовой сфере. В частности, финансовые системы, которые включают в себя машинное обучение, могут представлять собой отличную цель для хакеров и эпицентр системного сбоя.