Цензура без визы: как чат-боты переносят политические запреты через границы

Цензура без визы: как чат-боты переносят политические запреты через границы

Представьте простую ситуацию. Вы живёте в стране, где разрешено критиковать власть. Открываете чат-бот и просите написать сатирическое стихотворение о президенте другого государства. Или помочь составить листовку для мирной акции протеста.

Вместо текста получаете вежливый отказ:

Тема слишком чувствительная. Такой материал может создать риски, нарушить местные законы или усилить политическую напряжённость.

Но вы не находитесь в той стране. Её законы на вас не распространяются. Вы вообще можете сидеть в Тель-Авиве, Лондоне, Сиднее или Нью-Йорке.

Тем не менее местный политический запрет уже добрался до вас — через программу, которая выглядит нейтральным помощником.

Именно такую проблему обнаружил Oversight Board, изучив ответы десяти крупных языковых моделей. Системы заметно чаще отказывались создавать критические материалы о руководителях и правительствах стран, где подобная критика ограничивается законом.

Государственной цензуре больше не обязательно закрывать сайт или блокировать газету. Иногда достаточно, чтобы её логику усвоил чат-бот.

Когда государственная граница появляется внутри ответа

Исследователи проверяли модели, созданные Anthropic, DeepSeek, Google, Meta, OpenAI и xAI. Им задавали одинаковые вопросы о десяти странах.

Пять стран относились к средам, где политическая критика сравнительно свободна:

• Великобритания;

• США;

• Чили;

• Япония;

• Тайвань.

В пяти других странах законы, ограничивающие критику власти, применяются заметно жёстче:

• Китай;

• Саудовская Аравия;

• Камбоджа;

• Таиланд;

• Турция.

Чат-ботов просили создать протестные листовки, сатирические стихи, оценить работу правительств и политических лидеров, а также ответить на вопросы, связанные с поддержкой или протестом.

Результат оказался неприятным.

Когда речь шла о странах с более свободной политической речью, модели отказывались создавать критические материалы в среднем в 14% случаев.

Когда запрос касался государства, где критика власти преследуется, отказов было уже 34%.

То есть вероятность отказа выросла более чем вдвое.

Особенно важно место проведения эксперимента. Запросы отправляли из Австралии, а модели работали преимущественно на инфраструктуре, расположенной в США.

Ни китайский, ни саудовский, ни турецкий закон не должен был напрямую определять ответ пользователю в Австралии.

Но связь всё равно проявилась.

Oversight Board назвал это риском цензуры по доверенности: ограничение, возникшее внутри одной политической системы, начинает действовать за её пределами через технологического посредника.

Без тайного звонка из министерства

Здесь легко уйти в конспирологию.

Представить чиновника авторитарного государства, который звонит в американскую компанию и требует: «Запретите вашей модели критиковать нашего лидера».

Исследователи не нашли доказательств такого вмешательства.

Более того, по одним только ответам модели практически невозможно установить, почему она повела себя именно так. Причин может быть несколько, и они способны накладываться друг на друга.

Цензура может попасть в модель:

1. через данные, на которых она училась;

2. через последующую настройку поведения;

3. через правила компании-разработчика;

4. через автоматические фильтры, включающиеся перед выдачей ответа;

5. через требования национального законодательства;

6. через попытки снизить юридические и репутационные риски.

Никакого единого «переключателя цензуры» может не существовать.

Представьте кухню большого ресторана. Один человек выбирает продукты. Другой составляет рецепт. Третий решает, что нельзя подавать клиенту. Четвёртый проверяет готовое блюдо перед залом.

Если в итоге из меню исчезло определённое блюдо, не всегда ясно, на каком этапе это произошло.

С языковыми моделями примерно так же.

Интернет никогда не был нейтральным учебником

Мы часто говорим: искусственный интеллект обучается на интернете.

Эта фраза создаёт ложное впечатление, будто существует один огромный, свободный и относительно нейтральный архив человеческого знания. Нужно лишь загрузить его в компьютер — и получить беспристрастный разум.

Такого интернета нет.

Информационная среда уже много лет формируется государствами, поисковиками, платформами, редакциями, правообладателями, университетами, рекламными системами и владельцами сайтов.

В одной стране независимые медиа блокируют. В другой — закрывают архивы. Где-то поисковая система удаляет ссылки по судебным решениям. Где-то журналисты вынуждены использовать эвфемизмы. Где-то критические публикации просто не появляются, потому что их автор рискует свободой.

Модель учится не на реальности.

Она учится на цифровом следе реальности.

А этот след уже отредактирован.

Допустим, в интернете на определённом языке существует десять тысяч официальных текстов, восхваляющих правительство, и лишь несколько сотен критических публикаций. Часть из них заблокирована, часть плохо индексируется, часть написана намёками.

Для модели официальный взгляд оказывается не обязательно правдивее, но статистически заметнее.

Она видит его чаще.

И постепенно начинает воспринимать как более безопасный, привычный или вероятный способ говорить на эту тему.

Цензура может быть встроена в сам язык

Один и тот же чат-бот способен отвечать на политический вопрос по-разному в зависимости от языка запроса.

На английском ответ может быть прямым:

В стране существует авторитарная система, оппозиция ограничена, независимые СМИ подвергаются давлению.

На языке самой страны формулировка вдруг становится мягче:

Политическое устройство имеет сложные исторические особенности. Разные наблюдатели оценивают его по-разному, а правительство подчёркивает необходимость стабильности.

Факты вроде бы не отрицаются.

Но меняется рамка.

В первом случае читатель получает оценку. Во втором — осторожный туман, где государственное объяснение занимает больше места, чем критика.

Здесь важно не смешивать исследования. Oversight Board не проверял, как язык запроса меняет ответы. Его эксперимент был посвящён связи между поведением моделей и ограничениями политической речи в разных юрисдикциях.

Но другие исследовательские группы обнаруживали языковую асимметрию.

В одном эксперименте одинаковые вопросы о политике США и Китая задавали GPT на английском и упрощённом китайском. Китайские ответы чаще воспроизводили благоприятную для Пекина информацию и мягче оценивали проблемы Китая.

Другое исследование проверило четырнадцать моделей из западных стран, Китая и России на шести официальных языках ООН. Авторы пришли к выводу, что характер ограничений часто был ориентирован на домашнюю аудиторию разработчика.

В 2026 году отдельное исследование ответов о статусе Тайваня также зафиксировало заметные различия между английскими и китайскими запросами у большинства протестированных систем.

Это не означает, что любой ответ на китайском, русском, арабском или другом языке обязательно подвергнут цензуре.

Но язык запроса перестаёт быть простой упаковкой мысли.

Он может влиять на то, какие источники активируются, какие формулировки считаются привычными и какой политический контекст модель видит за вопросом.

Почему модель не просто переводит ответ

У человека возникает логичный вопрос: разве чат-бот не должен сначала понять смысл, а затем дать один и тот же ответ на любом языке?

Не совсем.

Большая языковая модель не хранит готовую энциклопедическую статью, которую переводит по запросу. Она строит ответ заново, опираясь на закономерности, найденные в текстах.

А тексты на разных языках отличаются.

Англоязычный массив о конкретной стране может включать:

• международные СМИ;

• научные исследования;

• доклады правозащитных организаций;

• эмигрантские издания;

• материалы иностранных правительств;

• критику режима.

Массив на местном языке может сильнее зависеть от:

• государственных СМИ;

• официальных документов;

• контролируемых социальных платформ;

• разрешённых учебников;

• текстов, прошедших самоцензуру;

• поисковой выдачи, уже очищенной регулятором.

Поэтому два языковых слоя внутри одной модели способны напоминать двух людей, которые выросли в разных медиасредах.

Они знают об одном событии.

Но привыкли рассказывать о нём по-разному.

Отказ — самая заметная, но не самая опасная форма

Когда чат-бот пишет «я не могу помочь», цензуру хотя бы видно.

Пользователь понимает: ответ заблокирован.

Гораздо сложнее заметить мягкую цензуру.

Она не запрещает разговор. Она незаметно меняет его.

Например, модель может:

• не упомянуть важный факт;

• заменить прямое определение расплывчатым;

• поставить официальную позицию на первое место;

• подробно описать аргументы власти и сократить критику до одной строки;

• назвать репрессии «мерами по обеспечению стабильности»;

• представить документированное нарушение прав как «предмет разногласий»;

• добавить столько предостережений, что исходный вопрос растворится;

• отказаться от вывода, хотя данных для него достаточно.

Это похоже на экскурсовода, который не закрывает дверь в неудобный зал музея, а просто проходит мимо неё и ничего не говорит.

Посетитель не знает, что пропустил.

Именно поэтому мягкая цензура может быть опаснее прямого запрета. Пользователь получает связный, уверенный и грамматически безупречный ответ. В нём нет красного штампа «ОТРЕДАКТИРОВАНО».

Он выглядит полным.

Хотя полным не является.

Безопасность и цензура — не одно и то же

В разговоре об ограничениях ИИ важно не смешивать разные вещи.

Чат-бот не обязан создавать угрозы, инструкции по нападению или призывы к насилию. Ограничение такого контента может защищать людей и не имеет отношения к подавлению политической критики.

Исследование Oversight Board хорошо показывает разницу.

Когда моделям предлагали создавать материалы, связанные с насилием, они отказывались почти всегда — независимо от страны. В свободных политических средах уровень отказов составлял около 94%, в ограничительных — около 92%.

Заметной разницы не было.

Но когда просьба касалась мирной политической критики — листовки или сатирического стихотворения, — страна уже влияла на результат.

Именно здесь проходит важная граница.

Не помогать причинять вред — разумное ограничение. Не помогать критиковать власть только потому, что эта власть запретила критику, — совсем другая история.

Проблема не в самом существовании правил.

Проблема в правилах, которые работают непрозрачно, непоследовательно и переносят политические запреты туда, где они не должны действовать.

Вежливый отказ может звучать убедительнее закона

Модели часто не просто отказываются. Они объясняют отказ.

Например:

• материал может угрожать безопасности участников;

• политическая тема слишком чувствительна;

• создание протестного текста выходит за допустимые рамки;

• ответ может нарушить местное законодательство;

• критика способна усилить напряжённость.

Часть этих опасений может быть разумной. В некоторых странах участие в протесте действительно опасно.

Но пользователь может просить текст для академического анализа, театральной постановки, публикации за рубежом или мирной кампании в стране, где такая речь законна.

Модель этого не всегда учитывает.

Она выдаёт осторожность за универсальную мораль.

Получается странная ситуация. Государство вводит репрессивный закон. Затем чат-бот ссылается на риск нарушения этого закона как на основание не помогать с критикой государства.

Запрет начинает сам себя подтверждать.

И всё это звучит не как цензура, а как забота о пользователе.

Американская компания тоже может переносить чужие запреты

Легко предположить, что проблема касается только моделей, созданных внутри авторитарных государств.

Но исследование Oversight Board затронуло системы разных разработчиков, включая крупнейшие американские компании.

Причина проста: происхождение компании не определяет всё поведение модели.

Американская модель может обучаться на китайских, арабских, турецких и русскоязычных текстах. Для выхода на международные рынки она получает локальные настройки. Компания учитывает законы разных стран, требования партнёров и риски блокировки продукта.

Кроме того, один и тот же разработчик может использовать внешних подрядчиков для оценки ответов. Люди, участвующие в разметке, тоже существуют внутри конкретных культурных и политических сред.

В результате модель, созданная в Калифорнии, может нести в себе следы десятков информационных режимов.

География офиса не гарантирует свободу ответа.

Цензура попадает в трубы

Главный риск связан даже не с отдельным чат-ботом.

Крупные языковые модели становятся фундаментом для тысяч других продуктов:

• поисковых систем;

• банковских помощников;

• образовательных платформ;

• государственных сервисов;

• редакционных инструментов;

• программ для анализа документов;

• корпоративных баз знаний;

• систем модерации;

• переводчиков;

• голосовых ассистентов.

Представьте фундаментальную модель как центральную водопроводную станцию. К ней подключены жилые дома, школы, больницы, рестораны и предприятия.

Если проблема возникает на уровне одного крана, её можно заменить.

Если она находится на станции, вода с тем же привкусом пойдёт по всему городу.

Разработчик небольшой образовательной платформы может даже не знать, что подключённая модель по-разному относится к критике правительств. Он видит удобный API, цену и показатели качества.

Затем школьники, журналисты или сотрудники международной организации начинают получать ответы, уже прошедшие через чужую политическую осторожность.

Так цензура превращается из отдельного решения в инфраструктуру.

Случай первый: журналист за пределами страны

Представим русскоязычного журналиста, живущего в Европе.

Он готовит материал об авторитарном правительстве и просит чат-бот:

Составь десять острых вопросов президенту о политических заключённых и давлении на независимые СМИ.

На английском модель помогает.

На русском начинает смягчать формулировки, предлагает «избегать конфронтационного тона» и заменяет политических заключённых на «лиц, осуждённых по спорным делам».

Журналист может заметить разницу, если свободно владеет обоими языками.

Большинство пользователей не станет проводить такой эксперимент.

Они примут первый ответ как технически нейтральный.

Государство, о котором идёт речь, не блокировало журналиста. Не писало его редактору. Не угрожало платформе в стране его проживания.

Но его язык принёс с собой информационную среду, сформированную этим государством.

Это пример, а не описание конкретного подтверждённого случая. Но именно такой сценарий становится возможным при языковой асимметрии.

Случай второй: диаспора разговаривает с прошлой страной

Для эмигранта родной язык — не просто инструмент.

На нём человек ищет новости, объясняет детям семейную историю, спорит о политике, читает о городе, который покинул. Он может физически находиться в свободной стране, но продолжать жить внутри прежней языковой среды.

Если чат-бот на этом языке воспроизводит официальную риторику прошлого государства, цензура продолжает сопровождать человека после переезда.

Она словно приезжает в его чемодане.

Особенно уязвимы люди, которые:

• плохо читают по-английски;

• не знают, какие независимые источники искать;

• используют чат-бота вместо поисковика;

• считают нейросеть беспристрастным арбитром;

• не могут сравнить ответы на разных языках.

Раньше эмигрант мог сменить телевизионный канал или открыть другое издание.

Теперь один интерфейс сам объединяет поиск, перевод, пересказ и вывод.

Удобство становится точкой контроля.

Слова меняют восприятие ещё до фактов

Политическая цензура не всегда требует удалить событие из ответа. Иногда достаточно правильно его назвать.

«Протестующие» можно заменить на «участников беспорядков».

«Разгон демонстрации» — на «восстановление порядка».

«Государственная пропаганда» — на «официальную информационную политику».

«Аннексия» — на «воссоединение».

«Военная цензура» — на «меры информационной безопасности».

Фактическое ядро остаётся рядом, но эмоциональная и политическая оценка меняется.

Мы часто думаем, что модель сначала устанавливает факты, а потом подбирает нейтральные слова. На деле слова и есть часть того, как она собирает реальность.

Формулировка определяет, кто выглядит агрессором, кто — защитником, а кто — источником нестабильности.

Поэтому требование «пусть ИИ просто остаётся нейтральным» мало что решает.

Нейтральность тоже нужно определить.

Для правительства нейтральным может считаться официальный словарь. Для правозащитника тот же словарь будет формой сокрытия насилия.

Что политические игроки могут сделать дальше

Авторы исследований не доказали, что конкретные государства тайно управляют конкретными коммерческими моделями.

Но возможность влиять на ИИ неизбежно привлечёт правительства.

Причём вмешательство не обязательно будет выглядеть как прямой приказ разработчику.

Государство может:

• наводнять интернет официальными и полуофициальными текстами;

• ограничивать доступ моделей к независимым источникам;

• требовать локального хранения и фильтрации данных;

• лицензировать только политически лояльные системы;

• связывать доступ к рынку с правилами генерации;

• финансировать собственные модели;

• создавать синтетические материалы в огромных объёмах;

• давить на местных партнёров глобальных компаний;

• использовать государственные закупки для продвижения нужных стандартов.

Раньше пропагандисту нужно было убедить человека прочитать статью.

Теперь достаточно добиться, чтобы статья стала частью обучающей среды, из которой модель собирает миллионы ответов.

Это более медленное влияние.

Зато оно масштабируется почти без ограничений.

Не каждый странный ответ — заговор

При этом нельзя превращать любой отказ чат-бота в доказательство государственной цензуры.

Модели нестабильны. Они могут отвечать по-разному на один запрос даже в течение нескольких минут.

На результат влияют:

• формулировка вопроса;

• версия модели;

• системные инструкции;

• настройки конкретного приложения;

• случайность генерации;

• автоматический перевод;

• обновления правил;

• качество данных на выбранном языке;

• ошибки классификатора безопасности.

Иногда осторожный ответ появляется не из-за политического давления, а потому, что модель плохо поняла запрос.

Иногда она одинаково избегает оценок всех политиков, поскольку разработчик настроил её не высказывать собственные политические предпочтения.

Иногда модель знает о теме слишком мало и маскирует пробел общими словами.

Поэтому отдельный скриншот ничего не доказывает.

Нужны повторные запросы, сравнение языков, моделей, формулировок и версий. Именно поэтому исследования собирают тысячи ответов, а не строят вывод на одном эффектном диалоге.

Сегодняшняя модель завтра уже другая

Исследования чат-ботов быстро стареют.

Модель, протестированная в марте, к июлю может получить новые настройки. Компания меняет системные инструкции, фильтры и обучающие данные, иногда не сообщая пользователю подробностей.

Название продукта остаётся прежним.

Поведение меняется.

Поэтому подобные работы нельзя читать как вечный рейтинг:

эта модель свободная, а эта цензурированная.

Они показывают состояние систем в конкретный период и помогают обнаружить повторяющийся риск.

Намного важнее вопрос не о том, какая компания сегодня получила лучший результат.

Важнее, существуют ли у всех компаний:

• постоянные проверки;

• публичная методика;

• тестирование разных языков;

• объяснение отказов;

• возможность внешнего аудита;

• механизм исправления обнаруженных перекосов.

Без этого пользователь зависит от невидимых обновлений.

Сегодня ответ пришёл.

Завтра тот же вопрос вдруг стал «чувствительным».

Что должны объяснять разработчики

Пользователю недостаточно получить фразу: «Я не могу помочь».

Нужна конкретика.

Если ограничение связано с законом определённой страны, система должна назвать страну и норму. Если действует политика компании — дать ссылку на понятное правило. Если запрос блокирует защитный фильтр — объяснить категорию риска.

Особенно странно, когда модель учитывает зарубежный закон, но не сообщает об этом человеку, который находится в другой юрисдикции.

Хорошая система могла бы написать:

Я ограничил ответ, потому что сервис применяет правило, связанное с законодательством такой-то страны. Вы находитесь за её пределами, поэтому можете запросить общую историческую или правозащитную информацию.

Пока такие объяснения встречаются редко.

Oversight Board предлагает компаниям раскрывать государственные запросы, публиковать правила работы с законами, противоречащими международным стандартам, и предупреждать пользователей, когда правовое ограничение влияет на выдачу.

Это не решит все проблемы.

Но хотя бы включит свет.

Проверять нужно не только английский

Большая часть оценки ИИ по-прежнему сосредоточена на английском языке.

На нём больше тестов, исследователей, журналистов и открытых наборов данных. Именно английскую версию модели компания обычно показывает на презентациях.

Но глобальный продукт не должен считаться безопасным и качественным только потому, что хорошо работает на языке своего главного офиса.

Нужны отдельные проверки:

• на китайском;

• арабском;

• русском;

• турецком;

• персидском;

• испанском;

• французском;

• иврите;

• языках с меньшим объёмом цифровых данных.

Причём простой перевод английского теста не всегда подходит.

Локальные эксперты должны проверять, какие слова модель выбирает, какие события пропускает и какие официальные формулы воспроизводит автоматически.

Цензура редко живёт только в ответе «нет».

Чаще она прячется в нюансе, который замечает человек, выросший внутри языка.

Что может сделать обычный пользователь

Полностью проверить большую модель самостоятельно невозможно. Но снизить риск можно.

Задавайте вопрос разными способами

Если политический ответ кажется слишком общим, попросите:

• перечислить конкретные факты;

• отделить официальную позицию от критики;

• привести точки зрения независимых исследователей;

• назвать аргументы правозащитных организаций;

• указать, что осталось спорным;

• объяснить причину отказа.

Сравнивайте языки

Если владеете двумя языками, задайте один вопрос на каждом. Разница не обязательно доказывает цензуру, но показывает, где стоит проверить информацию глубже.

Сравнивайте модели

Один чат-бот — не весь искусственный интеллект. Разные системы обучаются и настраиваются по-разному.

Просите первичные источники

Не ограничивайтесь пересказом. Ищите законы, судебные решения, доклады, статистику и оригинальные заявления.

Не путайте уверенность с полнотой

Красивый ответ может быть неполным. Модель умеет гладко соединять даже ограниченный набор данных.

Проверяйте чувствительные темы вне чата

При работе с войнами, выборами, протестами, правами человека и политическими лидерами чат-бот лучше использовать как помощника, а не как последнюю инстанцию.

Главная привычка проста: спрашивать не только «что модель сказала?», но и «что она могла не сказать?»

Чат-бот меняет сам способ искать информацию

Поисковик показывает несколько ссылок. Они могут быть плохими, рекламными или предвзятыми, но пользователь хотя бы видит, что источников много.

Чат-бот собирает всё в один текст.

Это удобно. Но вместе с удобством исчезают швы.

Мы не видим:

• какой источник получил больший вес;

• какой был исключён;

• какие формулировки пришли из официального документа;

• какой фильтр изменил ответ;

• что система решила не упоминать.

Модель становится одновременно библиотекарем, редактором, переводчиком и автором.

Столько власти над информацией раньше редко находилось в одном интерфейсе.

Именно поэтому прозрачность здесь важнее, чем в обычном поиске.

Если чат-бот превращается в главный вход в знания, мы должны понимать, кто держит ключ.

Взгляд «ПО • ДРУГОМУ»

Разговор о цензуре в ИИ не сводится к поиску «правильной» модели.

Полностью нейтральной системы не существует. Любая модель создаётся через выбор: какие данные взять, что удалить, как настроить безопасность, каким законам подчиняться и какие ответы считать допустимыми.

Но между неизбежным выбором и скрытой политической цензурой есть разница.

Пользователь имеет право знать:

• когда ответ ограничен;

• почему это произошло;

• чьё законодательство повлияло на результат;

• действует ли запрет только в одной стране или глобально;

• можно ли получить информацию в другой форме;

• кто проверяет решения разработчика.

Сегодня мы часто доверяем чат-боту именно потому, что он не похож на государственное телевидение.

У него нет флага в углу экрана. Нет ведущего с поставленным голосом. Нет портрета лидера за спиной.

Есть белое поле и спокойный текст.

Но отсутствие декораций ещё не означает отсутствие политики.

Запрету больше не нужен паспорт

Раньше цензура была привязана к территории.

Газету запрещали внутри страны. Радиостанцию глушили у границы. Сайт блокировал местный провайдер. Человек уезжал — и получал доступ к другой информационной среде.

Языковые модели меняют эту логику.

Они собирают внутри себя данные, правила и политические привычки разных государств. Затем один и тот же технологический фундамент используется по всему миру.

В результате запрет может покинуть страну, где его приняли.

Пройти через обучающие данные.
Закрепиться во время настройки.
Спрятаться за словом «безопасность».
Попасть в международный сервис.
И появиться в ответе человеку, который никогда не подчинялся этому закону.

Без блокировки.

Без официального уведомления.

Без видимой цензуры.

Именно поэтому спор об ИИ — это уже не только спор о качестве технологии. Это разговор о том, кто получает право редактировать нашу картину мира.

Чат-бот может ошибаться. Может быть осторожным. Может отказываться от опасного запроса.

Но когда он защищает власть от мирной критики, пользователь должен хотя бы понимать, чья это осторожность и откуда она приехала.