Пентагон хочет использовать ИИ в секретных военных целях

Пентагон давит на ключевые американские ИИ-компании, включая OpenAI и Anthropic, чтобы они допустили использование их ИИ-инструментов без стандартных ограничений, которые распространяются на обычных пользователей, сообщили источники Reuters. Кроме того, ведомство хочет использовать нейросети не только в открытых, но и закрытых сегментах передачи данных (они нужны для обмена секретной информацией — FM).

В частности, в планах Минобороны может быть использование ИИ для планирования военных миссий или наведения оружия на цель. Но эксперты в области нейросетей предупреждают о том, что несмотря на весь потенциал технологии, она допускает ошибки и может давать информацию, которая на первый взгляд кажется правдоподобной, но на деле оказывается ложной. Все это в совокупности может привести к «смертельным последствиям», отмечают специалисты.

11 февраля издание Semafor со ссылкой на источники сообщило о том, что OpenAI после нескольких месяцев переговоров согласилась предоставить американским военным доступ к ChatGPT. Пентагон настаивал, чтобы компания разрешила использовать технологию для «любых военных целей», что автоматически лишало бы OpenAI права ограничивать использование ее разработки в «неэтичных» целях, говорили собеседники издания.

При этом на ведомство все равно будут распространяться обычные стандарты защиты при использовании нейросети. Например, она может отказаться отвечать на «запрещенные» вопросы.