Anthropic предложила Конгрессу США законопроект о регулировании ИИ

Anthropic предложила американским законодателям проект закона о безопасности передовых систем искусственного интеллекта, сообщает Politico со ссылкой на источники. Документ, с которым ознакомилось издание, позволит властям добиваться приостановки выпуска или использования модели только в случае прогнозируемой непосредственной угрозы, способной привести к ущербу более чем на $1 млрд либо гибели или тяжелым травмам более 50 человек.

Законопроект предусматривает независимую оценку передовых моделей специалистами, зарегистрированными в Министерстве торговли США. Если эксперты выявят непосредственную угрозу (риски, связанные с созданием биологического оружия, обходом моделью защитных механизмов разработчика или кибератаками), они должны будут сообщить об этом министерству в течение 72 часов после завершения проверки. Министерство сможет обратиться в Федеральный суд округа Колумбия с просьбой приостановить выпуск модели. При этом другим федеральным ведомствам и должностным лицам будет запрещено самостоятельно останавливать ее разработку, внедрение или внутреннее использование.

Документ также обяжет разработчиков создавать системы обеспечения безопасности ИИ, публиковать отчеты о новых моделях, информировать о серьезных инцидентах и защищать сотрудников, сообщающих о нарушениях в сфере безопасности ИИ. Предложение Anthropic также ограничивает возможности властей вмешиваться в работу моделей без судебного решения — вопрос, ставший особенно чувствительным после введенных летом экспортных ограничений в отношении двух передовых моделей компании.

^{Фото на обложке: gguy / Shutterstock}