ИИ-агент OpenAI взломал правительственный сайт Австралии

ИИ-агент OpenAI в июне получил несанкционированный доступ к правительственному порталу Австралии, связанному с государственной системой медицинского страхования Medicare, заявил премьер-министр страны Энтони Албанезе. Его слова передает The New York Times. OpenAI рассказала правительству Австралии об инциденте лишь в сентябре.

Взлом произошел 18 июня, когда исследовательская команда OpenAI изучала государственные расходы на медицину. После нескольких отказов в доступе на австралийский правительственный сайт агент самостоятельно нашел способы обойти ограничения и получил доступ к закрытой информации.

По словам Албанезе, агент получил доступ к информации о расходах на медицинские услуги, которая не содержала персональных данных пациентов. OpenAI также заявила, что ее модели не получали доступа к медицинским картам и другим источникам, содержащим данные пациентов. При этом компания признала, что в ходе работы модели совершили действия, которые не соответствовали заданным инструкциям. Австралийские власти считают этот случай первым известным несанкционированным доступом ИИ-агента к правительственной информационной системе страны.

OpenAI сообщила австралийским властям об инциденте только 10 сентября — почти через три месяца после произошедшего. Албанезе заявил, что обсудил ситуацию с главой компании Сэмом Альтманом и выразил недовольство как самим инцидентом, так и задержкой с уведомлением властей. Правительство создало специальную группу для расследования и намерено выяснить, как агент получил доступ и почему государственные системы не обнаружили нарушение раньше. Австралийское управление сигналов и кибербезопасности выпустило предупреждение и рекомендовало организациям усилить защиту публичных веб-ресурсов.

^{Фото на обложке: Summit Art Creations / Shutterstock}