Американские нейросети стали соблюдать китайскую цензуру
Американские ИИ-модели невольно повторяют за китайскими чат-ботами: при вопросах о политике КНР они либо молчат, либо озвучивают официальную линию Коммунистической партии, пишет The Wall Street Journal со ссылкой на исследования.
«Это один из непредвиденных побочных эффектов обучения», — признает член независимого наблюдательного совета Meta* и австралийский профессор права Николас Сюзор. ИИ-модели обучаются на больших массивах данных из интернета, в том числе на публикациях государственных СМИ. «В результате получается коктейль со вкусом авторитарной пропаганды», — отмечает WSJ.
Так, в одном из тестов, проведенных под руководством Сюзора, модель Claude Sonnet 4 от Anthropic охотно создавала листовки с критикой президента США Дональда Трампа и короля Великобритании Карла III, но отказывалась делать то же самое для китайского лидера Си Цзиньпина или тайского короля Маха Вачиралонгкорна, ссылаясь на соображения безопасности. Модели Gemini 3 Pro от Google и Llama 4 Maverick от Meta также иногда отказывались создавать протестные листовки против этих двух азиатских лидеров, но всегда были готовы помочь с агитацией против Трампа и Карла III.
По мнению Сюзора, у этого есть две основные причины. Во-первых, разработчики сознательно внедряют функцию безопасности для защиты пользователей в авторитарных странах, где критика главы государства может привести к тюремному заключению. Во-вторых, лаборатории ИИ не уделяют достаточного внимания проблеме несбалансированности ответов их моделей.
Компания Anthropic заявила, что это не так, и в ее последних моделях число чрезмерных отказов значительно сократилось. Разработчик ChatGPT, компания OpenAI, отметила, что ее модели по умолчанию придерживаются объективной точки зрения и «никогда не должны избегать обсуждения темы исключительно из-за ее деликатности или спорности». Компания Meta отказалась от комментариев, а Google не ответила на запрос.
Хотя заставить американские модели ИИ продвигать китайскую пропаганду на английском языке действительно трудно, на китайском языке они же будут гораздо чаще отвечать в русле официальной позиции Пекина. К такому выводу пришло другое исследование, опубликованное в мае в журнале Nature, в котором тестировались две модели Claude и две модели ChatGPT. Большая часть данных на китайском языке в интернете поступает из государственных источников, в то время как англоязычная пропаганда Пекина размывается другой информацией.
Авторы обоих исследований призывают технокорпорации сообщать пользователям, что ответы были получены из материалов госСМИ. Как рассказал Сузор, он встречался с сотрудниками ведущих американских лабораторий ИИ после публикации своего отчета, но в итоге сомневается, что они что-либо изменят.
* Компания Meta признана экстремистской организацией и запрещена в России.