Anthropic отказалась снимать защитные барьеры ИИ по требованию Пентагона

Компания Anthropic отказалась выполнить требование Пентагона об устранении защитных механизмов из своих систем искусственного интеллекта, несмотря на угрозы признать стартап «риском для цепочки поставок» и расторгнуть контракт на $200 млн. Об этом пишет Reuters.

Спор Министерства обороны США с Anthropic возник из-за отказа компании убрать ограничения, которые не позволяют использовать технологию для автономного наведения оружия на цель и массовой слежки внутри страны.

Представитель Пентагона Шон Парнелл заявил на своей странице в соцсети X, что ведомство не намерено использовать ИИ для массовой слежки за американцами или создания автономного оружия без участия человека. По его словам, Пентагон просит разрешить использование модели Anthropic для всех законных целей, при этом компании был выдвинут ультиматум до пяти часов вечера пятницы — 27 февраля.

Глава Anthropic Дарио Амодеи подчеркнул, что передовые системы искусственного интеллекта просто недостаточно надежны для таких задач. Источник Reuters, близкий к компании, пояснил, что системы ИИ ведут себя непредсказуемо в новых сценариях, что может привести к «дружественному огню, провалу миссии или непреднамеренной эскалации» в контексте применения оружия.

Амодеи выразил надежду на то, что Пентагон пересмотрит свою позицию, но добавил, что компания обеспечит плавный переход к другому поставщику, если ведомство решит разорвать контракт. Он отметил, что Министерство обороны угрожало не только исключить Anthropic из своих систем и признать стартап ненадежным, но и задействовать «Закон о военном производстве» для принудительного устранения защитных механизмов. Заместитель министра обороны Эмиль Майкл ответил в соцсети X, что Пентагон всегда будет соблюдать закон, но не станет подчиняться прихотям коммерческой технологической компании.

Ранее издание Semafor со ссылкой на источники сообщило, что OpenAI после нескольких месяцев переговоров согласилась предоставить американским военным доступ к ChatGPT. Пентагон настаивал на использовании технологии для любых военных целей, однако на ведомство все равно будут распространяться обычные стандарты защиты при использовании нейросети. К примеру, она может отказаться отвечать на «запрещенные» запросы.