Новости Новый уровень цензуры: ИИ понимает не только слова, но и подтекст

[NewsMaker]

Как Китай автоматизирует подавление инакомыслия.

---

---

В Китае активно разворачивается новая волна цифровой цензуры, и на этот раз её инструментом становится искусственный интеллект. Утечка базы данных, с которой Для просмотра ссылки Войди или Зарегистрируйся TechCrunch, показывает: власти создают систему на базе больших языковых моделей (LLM), способную автоматически выявлять и блокировать материалы, считающиеся политически чувствительными. Среди 133 000 примеров — жалобы на коррупцию, бедность в деревнях, недовольство действиями полиции и даже тонкие сатирические посты.

Система представляет собой качественно иной уровень по сравнению с привычной фильтрацией по ключевым словам. Она способна анализировать контекст, распознавать аллюзии, метафоры и даже намёки, что делает контроль над информацией гораздо более точным и незаметным. Такой подход позволяет не только фильтровать публикации, но и совершенствовать сами китайские ИИ-модели, усиливая их встроенную способность к репрессии.

В базу включены публикации, затрагивающие темы, вызывающие общественное недовольство: загрязнение окружающей среды, проблемы с безопасностью продуктов питания, трудовые споры, экономические махинации. Особое внимание уделяется вопросам Тайваня, военных дел и политической сатиры. Причём цензуре подвергаются не только прямые обвинения, но и более завуалированные формы критики — например, использование идиом о власти и падении иерархии.

Выдержки из базы включают жалобы бизнесменов на вымогательство со стороны местной полиции, описание запущенных деревень, где остались только старики и дети, а также упоминание о партийном чиновнике, изгнанном из КПК за коррупцию и «суеверия». Для просмотра ссылки Войди или Зарегистрируйся показал, что одно только слово «Тайвань» встречается более 15 000 раз — яркий показатель того, какие темы находятся под особенно пристальным наблюдением.

База Для просмотра ссылки Войди или Зарегистрируйся на незащищённом сервере Baidu. Несмотря на отсутствие подтверждений участия конкретных компаний, хостинг на общедоступной платформе указывает на отсутствие должной защиты таких систем. Последние записи в базе датируются декабрём 2024 года, что свидетельствует о её актуальности и, возможно, продолжающемся обучении модели.

Примечательно, что в описании базы используется термин «работа с общественным мнением» — официальный эвфемизм в лексиконе китайских властей, обозначающий пропаганду и цензуру. Эта сфера регулируется Администрацией киберпространства Китая (CAC). Сам председатель КНР Си Цзиньпин не раз подчёркивал, что интернет должен быть «передовой линией» информационного влияния партии.

Посольство Китая в Вашингтоне Для просмотра ссылки Войди или Зарегистрируйся сообщило TechCrunch, что выступает против «беспочвенных нападок и клеветы на Китай» и что Китай придает большое значение развитию этичного ИИ.

В сентябре 2024 года стало известно, что Китай Для просмотра ссылки Войди или Зарегистрируйся интернет-цензуры. Важное место в проекте уделено контролю за содержанием информации.