Google заключила секретное соглашение с Пентагоном

Компания Google заключила с Пентагоном секретное соглашение об использовании своих ИИ-моделей Министерством обороны США. Об этом пишет Reuters со ссылкой на сообщение The Information. Информацию агентству также подтвердили в самой компании.

The Information со ссылкой на источники, знакомые с ситуацией, отмечает, что соглашение позволяет Пентагону использовать ИИ-продукцию Google для любых законных государственных целей. Договоренность обязывает компанию оказывать помощь в настройке параметров безопасности и фильтров искусственного интеллекта по запросу правительства.

Соглашение также включает в себя пункт, согласно которому стороны признают, что система искусственного интеллекта не должна использоваться для массового наблюдения внутри страны или для создания автономного оружия, работающего без надлежащего контроля со стороны человека. Однако договоренность не дает Google права контролировать действия правительства или накладывать вето на его законные оперативные решения.

В Google заявили Reuters, что сопровождают как несекретные, так и секретные правительственные проекты. Представитель компании заявил, что Google по-прежнему привержена общепринятому мнению о том, что искусственный интеллект не должен использоваться для массового наблюдения внутри страны или в автономном оружии.

Пентагон заявил агентству, что не заинтересован в использовании ИИ для массового наблюдения за американцами или для разработки автономного оружия, но хочет использовать искуственный интеллект в любых законных целях.

Ранее именно вопрос о слежке за американцами при помощи ИИ привел к срыву переговоров между Anthropic и Министерством обороны и их последующему конфликту, в ходе которого Пентагон признал компанию угрозой для цепочки поставок США. The Information со ссылкой на служебную записку генерального директора Anthropic Дарио Амодеи заявляло о том, что компания выступала против того, чтобы ее технологии использовались для «анализа больших объемов полученных данных», имея в виду слежку за жителями США.

В понедельник, 27 апреля, до того, как стало известно о заключении соглашения с Пентагоном, более 560 сотрудников Google подписали открытое письмо генеральному директору Сундару Пичаи с призывом отказаться от предоставления ИИ-технологий компании правительству США для использования в секретных военных целях. Об этом сообщает Financial Times.

«Мы хотим видеть, как ИИ приносит пользу человечеству, а не используется бесчеловечными или вредоносными способами, — говорится в письме. — Это касается смертоносных автономных систем вооружения и массовой слежки, но ими дело не ограничивается». «Единственный способ гарантировать, что Google не будет связан с такими вредоносными практиками, — это отказаться от участия в любых засекреченных проектах. В противном случае использование технологий может происходить без нашего ведома и без возможности его остановить», — добавляют авторы письма (цитата по FT).

«Речь идет не только о военных. Массовая слежка с использованием ИИ — это прямая угроза гражданским свободам в США, — заявил FT один из участников кампании, подписавший письмо. — «Это не гипотетический и не маловероятный сценарий; мы уже сталкиваемся с этим. Мы видим, как ИИ используется для поддержки авторитарного режима в Китае».

Письмо подписали около 18 топ-менеджеров компании, включая руководителей, директоров и вице-президентов. Самой яркой фигурой, принявшей участие в кампании, стал главный научный сотрудник DeepMind (ИИ-подразделения Google) Джефф Дин. В феврале он писал в социальной сети X, что «массовая слежка нарушает Четвертую поправку и сдерживает свободу выражения мнений», а также подтверждал приверженность запрету на смертельное автономное оружие, введенному компанией в 2018 году.

Запрет был введен в связи с тем, что в 2018 году тысячи сотрудников Google подписали петицию против проекта Maven, в рамках которого ИИ планировалось использовать для улучшения точности ударов беспилотников. Несколько сотрудников уволились из компании. После этого Google не продлила контракт и пообещала не разрабатывать ИИ для слежки или создания оружия.

Однако в прошлом году компания незаметно отказалась от своей позиции, не акцентируя на этом внимание, отмечает FT. Она обновила свои принципы разработки ИИ и удалила формулировку о запрете разработки «оружия или других технологий, основной целью которых является причинение вреда людям».