Платформу Hugging Face взломали ИИ-модели OpenAI без участия человека

На прошлой неделе платформа для обучения и тестирования ИИ-моделей Hugging Face была взломана. Позднее OpenAI заявила, что взлом осуществила комбинация ее нейросетей без участия человека. В сообщении разработчика ChatGPT говорится, что речь идет о GPT-5.6 Sol и неназванной предварительной модели.

OpenAI пояснила, что задача этих моделей была в прохождении набора тестов ExploitGym. Однако они были слишком сосредоточены на этом, что привело к нахождению ими уязвимости «нулевого дня» в исследовательской среде OpenAI и производственной инфраструктуре Hugging Face. Это позволило им получить доступ в интернет. После этого модели предположили, что Hugging Face потенциально размещает наборы данных и решения для ExploitGym. Пытаясь получить эти данные, модель завладела секретной информацией.

В сообщении OpenAI говорится, что команда безопасности и ИИ-агенты Hugging Face смогли обнаружить и остановить активность на своей инфраструктуре. OpenAI и Hugging Face совместно сейчас проводят криминалистическое расследование инцидента.

^{Фото на обложке: Summit Art Creations / Shutterstock}