«Белые хакеры» взломали сервисы OpenAI при помощи Claude

Исследователи по кибербезопасности из компании Hacktron AI с помощью модели Claude от Anthropic получили доступ к аккаунту сотрудника OpenAI в ChatGPT, а через него – к внутренней программной инфраструктуре компании. Обнаруженную уязвимость группа исследователей выявила в рамках программы OpenAI по поиску ошибок и сразу сообщила о ней компании, а также рассказала о взломе The Wall Street Journal.

Атака началась 23 июля, когда исследователи обнаружили уязвимость в сервисе Discourse, который OpenAI использует для ведения форума сообщества. Сначала Claude не смог создать рабочий код для эксплуатации ошибки. Однако после выхода новой версии модели Opus 5 на следующий день система смогла найти способ использовать уязвимость. Полученный код позволил исследователям проникнуть на сервер Discourse и получить доступ к токенам аутентификации пользователей.

Оказалось, что часть этих токенов была действительна не только для форума, но и для учетных записей ChatGPT. Некоторые из них принадлежали сотрудникам OpenAI. Кроме того, токены давали возможность получить доступ к GitHub компании, где хранятся программные разработки. Исследователи смогли читать файлы внутреннего репозитория OpenAI, известного как Monorepo.

По данным WSJ, Monorepo представляет собой крупный программный репозиторий, содержащий алгоритмические разработки OpenAI. Исследователи, не имевшие злого умысла, остановили взлом после того, как поняли, что получили доступ к чувствительной информации, но до этого создали pull request с предложением изменить документацию. Изменение содержало надпись «Hacktron AI Team PoC» и ссылку на аккаунты исследователей в X. Это было подтверждением того, что Hacktron действительно получила доступ к репозиторию.

Уязвимость в Discourse была устранена 25 июля, OpenAI отозвала затронутые токены и сессии и ограничила права доступа к токенам авторизации. Компания также поблагодарила Hacktron AI за уведомление об уязвимости. За работу OpenAI выплатила команде $6 500.

По словам технического директора Abundant Security Джошуа Сакса, распространение ИИ-агентов снижает порог для проведения сложных кибератак, поскольку позволяет людям с меньшими техническими навыками находить уязвимости в программном обеспечении. После этого инцидента, а также ранее произошедшей атаки на Hugging Face OpenAI провела масштабный аудит безопасности. По словам президента и сооснователя компании Грега Брокмана, около 25% программистов компании временно переключились на поиск и устранение проблем безопасности.

^{Фото на обложке: daily_creativity / Shutterstock}