Nvidia столкнулась с претензиями OpenAI к быстродействию чипов

OpenAI недовольна производительностью новейших ИИ-чипов Nvidia и с прошлого года активно ищет альтернативных поставщиков, сообщил Reuters со ссылкой на источники. Разногласия касаются инференса — процесса выдачи ответов пользователям. Nvidia доминирует в обучении моделей, но инференс стал новым фронтом конкуренции, где OpenAI столкнулась с технологическим барьером, пишет агентство.

Внутренние тесты показали слабость оборудования Nvidia при работе с Codex (инструментом для написания кода — FM), где пользователи требуют быстрых ответов. Сотрудники OpenAI объясняют это тем, что архитектура Nvidia полагается на внешнюю память, что замедляет передачу данных и ограничивает скорость ответов чат-бота.

Решение OpenAI искать альтернативы стало проблемой для позиций Nvidia, поскольку совпало с переговорами по инвестициям между компаниями. В сентябре прошлого года производитель чипов заявил о намерении вложить до $100 млрд в стартап, получив взамен долю в OpenAI. Сделка должна была закрыться в течение нескольких недель, сообщал ранее Reuters, однако переговоры затянулись на месяцы. По данным The Wall Street Journal, сейчас они находится на стадии заморозки.

За это время OpenAI успела заключить соглашения с AMD и другими производителями графических процессоров, конкурирующих с Nvidia. В частности, рассматривалось сотрудничество со стартапами Cerebras и Groq для поставки более быстрых чипов, заявили два источника агентства. Однако Nvidia заключила лицензионное соглашение с Groq на $20 млрд, что прекратило переговоры OpenAI с этим стартапом.

Глава Nvidia Дженсен Хуанг ранее назвал сообщения о напряженности в отношениях с OpenAI «чепухой» и подтвердил планы крупных инвестиций. Представитель OpenAI заявил, что компания полагается на Nvidia для большей части своего парка инференса, пишет агенство.