Российскому бизнесу запретят использовать ИИ для манипулирования пользователями
Разработчики систем искусственного интеллекта будут предупреждать пользователей о недопустимости применения нейросетей для манипулирования поведением человека или эксплуатации его уязвимостей, указано в законопроекте об ИИ, с которым ознакомились «Известия».
Эксплуатация уязвимостей предполагает использование различных состояний человека в целях «целенаправленного воздействия на поведение, принятие решений или несанкционированный доступ к информации». При этом закон не содержит примеры подобных действий и не уточняет, какое наказание последует за ними.
Запрет коснется операторов и разработчиков нейросетей — то есть те компании, которые создают и внедряют ИИ в сервисы, считает ведущий эксперт в области ИИ «Университета 2035» Ярослав Селиверстов. Он также может затронуть компании, реализующие товары и услуги, поскольку они собирают информацию о предпочтениях пользователей с помощью ИИ и используют эти данные для рекламы, добавляет гендиректор TelecomDaily Денис Кусков.
Запрета на манипуляцию реализовать будет сложнее, поскольку сценариев ответов ИИ и диалогов с пользователем — огромное множество, и даже разработчики не в силах на них повлиять, говорит Кусков. В то же время запрет не распространяется на ИИ, используемые в сфере обороны и нацбезопасности, что создает дополнительные риски бесконтрольного использования гражданских разработок для манипулятивных военных целей, добавляет председатель правления «Центра беспилотных систем и технологий» Андрей Безруков.
Эффективность предложенных мер зависит от того, где находится офис компании: если в России, то под страхом ответственности руководство компании внедрит нужные протоколы, но, если речь идет о зарубежных офисах, то с ними это не пройдет, следует из слов руководителя направления «Разрешение It&Iр споров» в «Рустам Курмаев и партнеры» Ярослава Шицле. Фактически же предложенный законопроект основан на презумпции виновности разработчиков ИИ за абстрактные нарушения, которые при помощи ИИ могут совершить третьи лица, подытоживает директор Института исследований интернета Карен Казарян.