Anthropic добивается отмены экспортных ограничений для Fable 5 и Mythos 5

Anthropic пытается договориться с администрацией президента Дональда Трампа об отмене экспортных ограничений, наложенных властями США на новейшие ИИ-модели компании — Fable 5 и Mythos 5, сообщает The Wall Street Journal со ссылкой на источники, знакомые с ситуацией.

Как сообщают источники WSJ, в субботу, 13 июня, представители Anthropic и американские чиновники несколько часов обсуждали судьбу Fable 5. В переговорах участвовали министр торговли США Говард Лютник, директор по кибербезопасности Белого дома Шон Кэрнкросс, сооснователь Anthropic Том Браун и глава направления государственной политики компании Сара Хек.

В пятницу, 12 июня, власти США запретили иностранным правительствам, компаниям и частным лицам использовать модели Anthropic Fable 5 и Mythos 5. Чтобы полностью выполнить требования этого постановления, компания полностью отключила к ним доступ. В Anthropic заявили, что под ограничения попали многие иностранные пользователи, включая некоторых сотрудников компании, родившихся за пределами США.

Причиной введения ограничений стали результаты исследования специалистов Amazon. В систему защиты Fable 5 включен алгоритм, который не позволяет модели отвечать на запросы, касающиеся тем с повышенным уровнем риска, например, кибербезопасности и биологии. Однако тесты Amazon показали, что некоторые защитные механизмы Fable 5 можно обойти, изменив формулировку запросов. Исследователям удалось получить информацию об уязвимостях как минимум в четырех программах.

После ознакомления с результатами исследования глава Amazon Энди Джесси обсудил ситуацию с представителями администрации США, включая министра финансов Скотта Бессента. Вскоре Белый дом провел совещание и попросил Anthropic убрать модель из публичного доступа. По данным источников WSJ, решение о введении ограничений одобрил лично Дональд Трамп.

Anthropic выполнила распоряжение администрации Трампа, при этом выразив несогласие с позицией правительства и заявив, что система защиты, внедренная в новейшие модели, достаточно эффективна и по результатам тестов не была взломана ни разу. В Anthropic прокомментировали метод обхода запрета на поиск уязвимостей, на который компании указало правительство. В компании заявили, что найденные в результате этого «взлома» уязвимости могли быть обнаружены и при помощи менее мощных моделей, без каких-либо обходов системы безопасности.

В Anthropic отметили, что «меры защиты настолько сильны, что многие пользователи жаловались на их чрезмерность». Ранее, еще до отключения публичного доступа к Fable 5, The Wall Street Journal писала, что многие биологи, химики и врачи не могут обсуждать с моделью даже самые безобидные темы из поля их профессиональной деятельности, например, митохондрии.

Для урегулирования противоречий с правительством Anthropic направила в Вашингтон ряд ведущих экспертов, включая исследователя кибербезопасности Николаса Карлини, руководителя группы оценки рисков моделей Логана Грэма и главу направления защитных механизмов Дэйва Орра. Они должны встретиться с государственными экспертами по безопасности в надежде найти компромисс и добиться восстановления доступа к моделям.

В воскресенье, 14 июня, группа специалистов по кибербезопасности и искусственному интеллекту опубликовала открытое письмо, адресованное Лютнику и Кэрнкроссу. Письмо содержало призыв отменить экспортные ограничения. По мнению его авторов, запрет лишил защитников информационной безопасности доступа к передовым технологиям, создал неопределенность на рынке и поставил под угрозу лидерство США в сфере ИИ без достаточных оснований.

По словам авторов письма, информация об уязвимостях, полученная при помощи Fable, может быть полезна и для обеспечения кибербезопасности. Модель не создавала вредоносное программное обеспечение для кибератак, а лишь выдавала сведения, которые могут использоваться как злоумышленниками, так и специалистами по защите сетей.