Дарио Амодеи ушел из OpenAI, потому что компания планировала партнерство с Россией и КНР
Дарио Амодеи ушел из OpenAI в 2020 году после нескольких лет конфликта с руководством компании, сообщает The Atlantic со ссылкой на источники. Он считал, что глава OpenAI Сэм Альтман и сооснователь Грег Брокман слишком сильно ориентировались на коммерческие интересы и постепенно отходили от первоначальной идеи компании — развивать искусственный интеллект на благо человечества. В частности, Амодеи был против продажи ИИ-технологий России и Китаю.
Амодеи считал, что руководству OpenAI нельзя доверять настолько мощную технологию, как искусственный общий интеллект (AGI). AGI — уровень развития ИИ, на котором он способен выполнять интеллектуальные задачи на одном уровне с человеком.
Одним из наиболее серьезных эпизодов стал конфликт вокруг так называемого «плана стран», который в 2017 году обсуждали сооснователи OpenAI Грег Брокман и Илья Суцкевер. Изначально речь шла о создании международной коалиции для управления рисками AGI, однако затем идея трансформировалась в возможность привлечения средств от правительств США, Китая и России в обмен на будущий доступ к технологии. Представитель OpenAI заявил The Atlantic, что компания действительно недолго рассматривала международный кооперативный формат, но не планировала продавать AGI Китаю или России.
Именно потенциальное предоставление технологии этим странам особенно беспокоило Амодеи. В письме руководству OpenAI в декабре 2017 года он писал, что продажа AGI правительствам, включая Россию и Китай, не остановит, а ускорит международную гонку вооружений и создаст риски для прав человека. Амодеи считал, что передача столь мощной технологии государствам должна оцениваться прежде всего с точки зрения пользы для человечества, а не с точки зрения привлечения финансирования.
Однако «план стран» был не единственной причиной недовольства нынешнего главы Anthropic. Амодеи критиковал другие решения OpenAI по коммерциализации технологий, включая запуск доступа к модели GPT-3 через API, который позволял сторонним компаниям использовать модель в своих продуктах за плату. Амодеи также считал, что Альтман вводил его в заблуждение относительно переговоров с Microsoft и других важных решений. Постепенно эти конфликты убедили Амодеи, что изменить OpenAI изнутри не получится и коммерческие интересы руководства будут преобладать над приоритетами безопасности.
В 2020 году Амодеи покинул OpenAI и создал Anthropic. Спустя пять лет его компания превратилась в одного из главных конкурентов OpenAI, а первоначальные разногласия Амодеи с OpenAI приобрели гораздо больший масштаб. По словам источников The Atlantic, Амодеи до сих пор питает личную неприязнь к Альтману и Брокману. В корпоративном мессенджере он однажды написал, что Альтман и OpenAI — «зло». Впоследствии коллеги попросили его удалить сообщение, опасаясь утечки информации.
Неприязнь между компаниями взаимна. В частных разговорах некоторые работники OpenAI описывали Амодеи как властолюбивого лицемера, который пытается казаться принципиальным гуманистом. Сотрудники OpenAI обвиняют Anthropic в двуличии за то, что она публично предупреждала о рисках ИИ, в то время как фактически ускоряла гонку за его развитие.
Несмотря на противоречия и разные подходы к проблеме безопасности ИИ и его влияния на человечество, которой Anthropic уделяет большее внимание, компаниям удается найти общий язык. Главы компаний в сентябре сошлись во мнении, что развитие ИИ-моделей должно быть замедлено, чтобы у человечества было время найти способ предотвратить их выход из-под контроля человека. Для этого, по мнению руководства OpenAI и Anthropic, ИИ-разработчики должны внедрить независимые проверки систем безопасности.
Фото на обложке: AS project / Shutterstock