Главы крупнейших ИИ-компаний призвали замедлить темпы развития искусственного интеллекта

Главы трех крупнейших американских ИИ-компаний Anthropic, OpenAI и xAI сошлись во мнении о том, что разработчикам стоит замедлить темпы развития моделей искусственного интеллекта для того, чтобы выиграть время и уделить больше внимания безопасности технологии. Однако идея, предложенная главой Anthropic Дарио Амодеи и поддержанная Сэмом Альтманом из OpenAI и главой xAI Илоном Маском, столкнулась с критикой со стороны Китая и президента США Дональда Трампа.

12 сентября Амодеи опубликовал эссе, посвященное перспективам развития искусственного интеллекта. Амодеи фактически повторил идею, выдвинутую Anthropic еще в июне, заявив, что разработчики должны сделать паузу в наращивании возможностей передовых моделей, чтобы успеть создать механизмы, которые позволят контролировать возникающие риски. Частично публикация эссе стала реакцией на громкий уход из Anthropic исследователя Джейкоба Коксона, который объяснил свое увольнение страхом перед неконтролируемым развитием ИИ.

Амодеи не предлагает полностью остановить развитие ИИ: по его словам, прогресс должен продолжаться, но его скорость необходимо сопоставить с возможностями общества и самих компаний по обеспечению безопасности.

Поводом для такого призыва стали, в частности, последние инциденты с автономными ИИ-агентами. Амодеи опасается, что дальнейшее развитие подобных моделей может привести к появлению систем, которые будет значительно сложнее контролировать.

Первой необходимой мерой Амодеи называет независимую проверку передовых моделей. Компании должны предоставить внешним специалистам доступ к ИИ-системам на уровне, сопоставимом с доступом собственных сотрудников. Такие оценщики смогут проверять модели на опасное поведение и выявлять риски, которые разработчики могли пропустить. По словам главы Anthropic, компания в одностороннем порядке уже внедрила такую практику.

Второе направление — координация между самими компаниями. Амодеи предлагает договориться об общих стандартах безопасности и правилах поведения разработчиков, чтобы конкуренция не заставляла каждую компанию жертвовать безопасностью ради скорости.

Наконец, глава Anthropic считает необходимым международное сотрудничество. По его мнению, одних договоренностей между американскими и европейскими разработчиками будет недостаточно, поскольку передовые ИИ-системы создаются и в других странах, прежде всего в Китае. Поэтому Амодеи предлагает постепенно выработать международные правила, которые могли бы устанавливать требования к тестированию наиболее мощных моделей и ограничивать наиболее опасные способы их использования.

При этом Амодеи считает, что демократическим странам важно сохранять максимальное технологическое преимущество над авторитарными режимами, прежде всего Китаем, поскольку отставание в развитии ИИ может создать угрозу национальной безопасности. Для этого, по его мнению, США не должны продавать Китаю мощные ИИ-чипы и оборудование для производства полупроводников, а также должны пресекать контрабанду чипов и удаленный доступ китайских компаний к вычислительным мощностям за рубежом.

Амодеи полагает, что при успешной реализации этих мер США смогут в течение следующих трех-пяти лет увеличить отрыв от Китая, и это не приведет к ухудшению отношений, а, наоборот, повысит шансы на достижение договоренностей с Пекином в будущем.

В отличие от предложения, озвученного от лица Anthropic в июне, эссе главы компании получило поддержку со стороны руководителей нескольких конкурентов. Гендиректор OpenAI Сэм Альтман заявил, что согласен с необходимостью замедлить темпы развития передовых моделей. Он также отдельно поддержал идею независимых проверок: по словам Альтмана, OpenAI готова предоставить внешним оценщикам широкий доступ к своим системам.

На предложение отреагировал Илон Маск, основатель и руководитель xAI. В ответ на публикацию Амодеи он написал: «Дарио прав». The Wall Street Journal характеризует ситуацию как редкий момент единства руководителей крупнейших конкурирующих ИИ-компаний.

Поддержку высказал и руководитель Google DeepMind Демис Хассабис. Он назвал направление, предложенное Амодеи, правильным, хотя отметил, что практические детали еще предстоит проработать.

The Washington Post сообщает, что президент США Дональд Трамп выступил против призывов замедлить развитие ИИ. Он заявил, что опасения вокруг технологии преувеличены, а главной задачей США должно оставаться сохранение лидерства над Китаем. По словам Трампа, страна, которая победит в гонке искусственного интеллекта, получит серьезное экономическое и геополитическое преимущество.

Как сообщает Reuters, государственное китайское издание Global Times назвало эссе Амодеи призывом к новой «холодной войне», направленной против Китая. По мнению издания, за риторикой о безопасности ИИ стоит стремление США ограничить развитие китайских технологий с помощью экспортных ограничений на чипы и регулирования доступа к передовым моделям. В эссе Амодеи предупреждал, что главным вызовом для его предложения замедлить развитие ИИ станет ситуация, если Китай и другие противники США не согласятся с этим.

В понедельник, 14 сентября, подешевели акции ряда азиатских компаний, связанных с искусственным интеллектом и производством полупроводников, свидетельствуют данные торгов. Бумаги SoftBank падали на 13,2%, Kioxia — на 9,8%, SK Hynix — на 5,3%, Samsung Electronics — на 3,7%, Tokyo Electron — на 3,7%, а Taiwan Semiconductor Manufacturing Company (TSMC) — на 1,2%. Старший экономист Sony Financial Group Такаюки Миядзима заявил Reuters, что после призывов ведущих представителей ИИ-индустрии замедлить развитие технологии акции компаний из сфер ИИ и полупроводников в Токио могут оказаться под давлением продавцов.

^{Фото на обложке: gguy / Shutterstock}