Суверенный и патриотичный: что требует от ИИ новый закон

В среду, 18 марта, правительство опубликовало для общественного обсуждения долгожданный проект закона об искусственном интеллекте — ключевого документа, который определит регулирование отрасли.

Как отмечают юристы, проект «написан широко». Его авторы попытались решить и проблему ответственности, и авторских прав, и «нейрослопа» в соцсетях, и даже наличии у ИИ «традиционных российских ценностей».

Насколько у них это получилось, какие вопросы есть к проекту у юристов и как адаптироваться рынку, — разбирались Frank Media.

В первую очередь, законопроект вводит в правовое поле само определение искусственного интеллекта — комплекс технологий, который позволяет имитировать когнитивные функции человека, включая самообучение, и получать результаты, сопоставимые с человеческими или превосходящие их.

После чего закрепляет три вида технологии, чьи «права» будут неравны.

При этом, как писал «Коммерсантъ» со ссылкой на источник в крупной IT-компании и нескольких участников рынка, сейчас на рынке нет «суверенных» решений, в которых бы не использовался разработанный зарубежом открытый исходный код (open-source). Ведь создание модели с нуля — крайне дорого и сложно. «Если эта норма сохранится в финальной версии без уточнений, статус «суверенной модели» останется практически недостижимым», — согласен партнер Digital & Analogue Partners Юрий Брисов.

Разработчики российских больших языковых моделей (LLM), «Сбер» и «Яндекс», а также «Альянс в сфере ИИ» не ответили на запрос Frank Media.

Некоторые юристы все же отмечают, что прямого запрета на использование open-source, как и зарубежных чипов, в законе не прописано. В то же время, они указывают, что, по проекту, правительство может установить дополнительные критерии «суверенных моделей». «На практике это означает регуляторный риск: чем более зависима архитектура модели от критичных иностранных компонентов, тем выше вероятность, что при утверждении критериев она не будет квалифицирована как «суверенная»», — объясняет юрист IP/IT LCH.LEGAL Анна Юпатова.

Для «трансграничных» же моделей правовая неопределенность усиливается. Приложения иностранных разработчиков и раньше блокировали (или «замедляли») без суда — например, из-за несоблюдения требований по локализации персональных данных россиян. Теперь это станет возможно просто при наличии самого статуса «трансграничной» технологии.

Другая новация призвана защитить потребителей. Компании обяжут сообщать, что они используют ИИ при предоставлении услуг, а у граждан появится право на получение услуги без ИИ. «Это важная социальная гарантия, особенно в медицине, юриспруденции, экстренных службах», — отмечает Юрий Брисов.

При этом это право можно толковать крайне широко. Ведь даже использование ИИ при подборе персонала или аналитике может отражаться на качестве услуг компании, а значит — также формально могут попадать под требования закона, считает Брисов. Чтобы избежать рисков, компаниям стоит прописать во внутренних документах четкое разделение: где ИИ используется лишь как вспомогательный инструмент, а где — как автономная система принятия решений, советует он.

«В тексте проекта акцент сделан прежде всего на тех случаях, когда ИИ используется при продаже товаров, оказании услуг или при принятии автономных решений, затрагивающих права и законные интересы граждан. Поэтому вспомогательное внутреннее использование <…> само по себе не выглядит запретным, но чем ближе система к самостоятельному принятию решений в отношении человека, тем выше регуляторный риск», — объясняет директор по управлению проектами направления генеративного ИИ «Рексофт» Юрий Шевченко.

На защиту граждан от ИИ-продуктов направлены и другие нормы законов. Так, владельцев ИИ-сервисов обяжут маркировать контент, созданный с помощью ИИ, а соцсети с аудиторией более 100 тысяч человек в сутки должны будут проверять наличие маркировки у ИИ-контента. Если ее не обнаружится, то соцсеть либо добавляет ее сама, либо удаляет контент.

При этом проект прямо не требует предоставлять доказательства, что контент действительно был сгенерирован ИИ, отмечает Юпатова. «Технически достоверно определить, создан ли контент с помощью ИИ, на сегодняшний день невозможно с достаточной степенью надежности. Это означает, что норма либо будет исполняться формально, либо приведет к массовому перемаркированию контента «на всякий случай», — считает Борисов.

В группе VK отказались отвечать на запрос Frank Media.

Кроме того, если нейросети использовались госорганами, то граждане смогут оспорить принятое таким образом решение в досудебном порядке. «На бумаге это выглядит прогрессивно. На практике — крайне сложно реализуемо в нынешнем виде. Главная проблема: как гражданин узнает, что решение было принято с участием ИИ?», — задается вопросом Брисов.

Как отмечает Юпатова, нынешний проект дает рынку «каркас», однако как на практике будут происходить описанные процедуры, станет понятно только после выхода подзаконных актов правительства.

Авторы законопроекта также попытались поставить точку в дискуссиях, нарушает ли ИИ авторские права. Разработчики обучали нейросети на контенте, который был создан другими людьми, обычно без их согласия, что вызывало вопросы к правомерности таких действий. Теперь правительство предлагает закрепить: извлечение информации из объектов авторского права, ее классификация и анализ для обучения ИИ не является нарушением авторских и патентных прав, если контент был получен правомерно или опубликован в открытом доступе.

Пока формулировки законопроекта в этой части кажутся достаточно широкими, и предел такого использования интеллектуальной собственности остается дискуссионным, считает Юпатова.

Сами же результаты работы ИИ будут защищаться авторским правом. Владельцы ИИ-сервисов должны будут включать в пользовательское соглашение условие о том, кому принадлежат права на сгенерированный контент.

Если ИИ выдаст пользователю ответ, нарушающий российское законодательство, то за это последует ответственность. Ее будут нести разработчик модели ИИ, оператор системы ИИ, владелец сервиса и пользователь «соразмерно степени вины каждого».

Так, разработчик, оператор и владелец ИИ-сервиса будут отвечать, если они заведомо знали или должны были знать о возможности такого результата. При этом с них снимут ответственность, если они предприняли исчерпывающие меры для предотвращения вреда; соблюдали все требования закона; вред возник из-за непреодолимой силы, умысла потерпевшего или действий третьих лиц, которые невозможно было предвидеть.

Среди мер, которые должен по закону предпринять владелец ИИ-сервиса: выполнение требований «закона Яровой». Если его суточная аудитория превышает 500 тысяч россиян, владелец должен хранить данные и содержание сообщений пользователей и предоставлять их по требованию правоохранительных органов.

Как указано в законопроекте, ответственность может быть как административной, так и уголовной.

Законопроект не будет распространяться на применение ИИ для обороны и безопасности государства, охраны правопорядка, предотвращения чрезвычайных ситуаций. Правила работы в этих областях будут определять президент России или другие федеральные законы.

Сейчас полноценного закона, регулирующего ИИ в сфере безопасности, в России нет. Хотя и существуют отдельные акты, которые устанавливают критерии для программного обеспечения, которая может использоваться на критически значимой инфраструктуре, отметил лидер направления интеллектуальной собственности и защиты данных White Square Никита Айрапетов.

«В Европейском союзе, для сравнения, подход противоположный: EU AI Act включает правоохранительную деятельность в зону регулирования <…> Это, пожалуй, самое уязвимое место законопроекта. Именно оборона, правоохранительная деятельность и чрезвычайные ситуации — это те сферы, где ИИ напрямую затрагивает жизнь, здоровье и свободу человека», — считает Юрий Брисов.

Авторы законопроекта не забыли и о высоком. В документе прописали, что ИИ должен разрабатываться на основе «традиционных российских духовно-нравственных ценностей». Среди них: патриотизм, гражданственность, служение Отечеству, крепкая семья, приоритет духовного над материальным, гуманизм, коллективизм и другие.

Как именно нейросеть сможет приоритизировать духовное над материальным и проявлять свою гражданственность, авторы не прояснили. Возможно, и здесь стоит дождаться подзаконных актов.