OpenAI, Google и Anthropic начали борьбу с китайской дистилляцией

Компании OpenAI, Anthropic и Google начали совместную работу по противодействию китайским конкурентам, которые извлекают данные из передовых американских моделей искусственного интеллекта для создания собственных продуктов. Об этом сообщает Bloomberg со ссылкой на осведомленные источники.

Фирмы обмениваются информацией через Frontier Model Forum — отраслевую некоммерческую организацию, которую три технологические компании основали совместно с Microsoft в 2023 году. Цель — выявлять попытки так называемой состязательной дистилляции (adversarial distillation), нарушающие условия использования сервисов. Представители OpenAI подтвердили участие в программе обмена данными и указали на недавний меморандум для Конгресса США, в котором обвинили китайскую DeepSeek в попытках использовать наработки американских лабораторий. Google, Anthropic и Frontier Model Forum от комментариев отказались.

Позже Anthropic идентифицировала еще две компании — Moonshot и MiniMax — как участников незаконного извлечения данных. Американские разработчики подчеркивают, что такие «дистиллированные» модели часто лишены защитных барьеров, что позволяет использовать их для создания биологического оружия или проведения масштабных кибератак.

Сотрудничество компаний подчеркивает серьезность проблемы: некоторые пользователи, особенно в Китае, создают имитационные версии американских продуктов, которые могут переманить клиентов более низкой ценой и представляют угрозу национальной безопасности. По оценкам американских чиновников, несанкционированная дистилляция обходится компаниям Кремниевой долины в миллиарды долларов упущенной прибыли ежегодно.

Дистилляция — это метод, при котором старая модель ИИ используется для обучения новой, воспроизводящей возможности исходной системы при значительно меньших затратах. Некоторые формы дистилляции очень распространены и даже поощряются разработчиками, например, когда компании создают более компактные версии собственных моделей. Однако практика становится спорной, когда третьи стороны — копируют запатентованные разработки без разрешения.

Большинство моделей китайских лабораторий имеют открытые веса, то есть части базовой системы доступны для свободной загрузки и использования на собственных платформах, что делает их дешевле. Это создает экономический вызов для американских компаний, сохраняющих модели закрытыми и рассчитывающих, что клиенты будут платить за доступ к продуктам.