Российским ИИ-моделям пропишут проверку на духовность и нравственность

Российские IT-компании смогут передавать проверку больших моделей искусственного интеллекта (ИИ) на соответствие закону и традиционным духовно-нравственным ценностям независимым испытательным лабораториям, рассказали «Ведомостям» источники, знакомые с обсуждением подзаконных актов. Отдельного акта с перечнем самих ценностей готовить не планируется — их список уже закреплен в указе президента № 809.

По словам собеседников издания, вместо этого совместно с бизнесом разработают специальные бенчмарки для проверки моделей. Правительственная комиссия по цифровизации может создать испытательную лабораторию по инициативе Минцифры. Разработчик подаст заявление с описанием архитектуры модели и механизмов фильтрации контента, после чего лаборатория протестирует ответы системы и попытки обхода встроенных ограничений через промпт-инъекции.

Положительное заключение станет одним из условий присвоения модели статуса национальной или суверенной – это открывает доступ к господдержке, включая участие в госзакупках. Обязательной проверке подлежат не все модели, а только претендующие на такой статус, уточнил источник в Минцифры.

Финальное решение о присвоении статуса останется за Минцифры, а безопасность для государственных систем проверят ФСБ и ФСТЭК. Представитель министерства отметил, что пакет актов еще проходит межведомственное согласование, поэтому об итоговой конструкции проверки говорить преждевременно.

Эксперты предупреждают, содержательное толкование традиционных ценностей – таких как справедливость и историческая память – сложно перевести в технические требования к модели, поэтому единым знаменателем может стать только процедурный стандарт тестирования.

^{Фото на обложке: Unsplash}