Разработчики сталкиваются с выгоранием, боясь последствий развития ИИ

Сотрудники ведущих компаний и организаций, занимающихся развитием искусственного интеллекта, все чаще сталкиваются с психологической нагрузкой из-за работы над технологиями, которые, по их мнению, могут нести риски для общества. Несколько примеров, а также комментарии самих сотрудников приводит Financial Times.

За последние два года более десятка ведущих исследователей покинули Anthropic, OpenAI и Google DeepMind, ссылаясь на обеспокоенность тем, что ИИ может представлять угрозу обществу, либо на чрезмерно интенсивную и ответственную работу над обеспечением безопасности технологии.

В начале сентября 27-летний Джейкоб Коксон, ранее работавший в Anthropic и OpenAI, публично объявил об уходе из компаний. Он заявил, что, по его мнению, обе организации «играют в азартные игры» с будущим человечества. Коксон добавил, что к концу следующего года искусственный интеллект может выйти из-под контроля человека.

Другой исследователь в области безопасности ИИ, Мринанк Шарма из Anthropic, уволился в феврале. Он занимался, в частности, снижением рисков использования ИИ для биотерроризма. После ухода он решил посвятить свободное время поэзии и осмыслению своей работы. В письме к коллегам Шарма предупредил, что «мир в опасности», и отметил, что под сильным давлением людям трудно в полной мере руководствоваться собственными ценностями.

Хиеу Фам также ушел из OpenAI в начале 2026 года и вернулся во Вьетнам. Он объяснил решение высокой интенсивностью работы над системами искусственного интеллекта, которая, по его словам, имела для него серьезные последствия. Фам признался, что столкнулся с выгоранием и проблемами с психическим здоровьем, которые ранее недооценивал.

В британском AI Safety Institute (AISI), занимающемся независимым тестированием передовых ИИ-моделей, несколько сотрудников были временно отстранены от работы из-за стресса, сейчас они проходят консультации с психологом, сообщили Financial Times источники, знакомые с ситуацией.

Один из сотрудников DeepMind рассказал FT, что работа над обеспечением безопасности ИИ сопровождается риском выгорания, поскольку эта задача кажется практически невыполнимой. Дополнительное напряжение создает неопределенность относительно того, как именно будет использоваться искусственный интеллект. FT утверждает, что сотрудник намекал на апрельское соглашение Google с Пентагоном, по которому компания позволила Министерству обороны США использовать свои ИИ-модели для любых законных целей. «Отчасти они [увольнения] связаны с ощущением потери контроля, а также того, что ты создаешь нечто, что причиняет реальный вред», — заявил собеседник газеты.

По словам бывшего сотрудника AISI, особенно обеспокоены специалисты в области кибербезопасности и биохимии: новые модели способны выполнять сложные задачи, включая поиск ранее неизвестных уязвимостей в программном обеспечении и создание новых типов вирусов. Часть сотрудников считают, что развитие технологий идет быстрее, чем формирование механизмов контроля за их применением. «Люди постоянно испытывают тревогу, задаваясь вопросом: под силу ли кому-то это все остановить, или мы наблюдаем за концом света?»

Другой бывший сотрудник AISI добавил, что «убеждение в том, что вы работаете над самой важной проблемой в мире, может привести к очень стрессовой, а порой и токсичной корпоративной культуре и управлению».

^{Фото на обложке: DC Studio / Shutterstock}