China Desenvolve Inteligência Artificial para Intensificar Censura Online

Um banco de dados vazado revela que a China desenvolveu um sistema de inteligência artificial (IA) que visa superar sua já formidável máquina de censura. A descoberta foi feita pela TechCrunch, que obteve acesso ao conjunto de dados contendo 133.000 exemplos destinados a treinar um modelo de linguagem grande (LLM) para identificar automaticamente conteúdos sensíveis aos olhos do governo chinês.

O Impacto da IA na Censura

O sistema de IA não se limita a tabus tradicionais como o massacre da Praça da Paz Celestial. Ele se concentra principalmente em censurar cidadãos chineses online, mas pode ser utilizado para outros propósitos, como melhorar os modelos de IA da China que já têm censura extensiva.

Xiao Qiang, pesquisador da UC Berkeley especializado em censura chinesa, afirmou que o banco de dados é uma ‘evidência clara’ de que o governo chinês ou seus afiliados pretendem usar LLMs para aprimorar a repressão. ‘Diferente dos mecanismos tradicionais de censura, que dependem de mão de obra humana para filtragem baseada em palavras-chave e revisão manual, um LLM treinado com tais instruções melhoraria significativamente a eficiência e a granularidade do controle de informação liderado pelo estado’, disse Qiang à TechCrunch.

Public Opinion Work

O banco de dados não revela quem o criou, mas menciona que é destinado ao ‘trabalho de opinião pública’. Michael Caster, gerente de programa da Ásia da organização de direitos humanos Article 19, explicou que esse termo é supervisionado por um poderoso regulador do governo chinês, a Administração do Ciberespaço da China (CAC), e geralmente se refere a esforços de censura e propaganda.

O objetivo final é garantir que as narrativas do governo chinês sejam protegidas online, enquanto quaisquer opiniões alternativas sejam eliminadas. O presidente chinês Xi Jinping descreveu a internet como a ‘linha de frente’ do ‘trabalho de opinião pública’ do Partido Comunista Chinês (PCC).

Repressão com Inteligência Artificial

O conjunto de dados examinado pela TechCrunch é a mais recente evidência de que governos autoritários estão buscando aproveitar a IA para fins repressivos. Relatórios da OpenAI revelaram que um ator não identificado, provavelmente operando da China, utilizou IA generativa para monitorar conversas em redes sociais, especialmente aquelas que advogam por protestos de direitos humanos contra a China, e encaminhá-las ao governo chinês.

A IA também foi usada para gerar comentários altamente críticos a uma proeminente dissidente chinesa, Cai Xia. Tradicionalmente, os métodos de censura da China dependem de algoritmos mais básicos que bloqueiam automaticamente conteúdos que mencionam termos proibidos, como ‘massacre da Praça da Paz Celestial’ ou ‘Xi Jinping’.

Mas novas tecnologias de IA, como LLMs, podem tornar a censura mais eficiente ao encontrar até mesmo críticas sutis em uma escala vasta. Alguns sistemas de IA também podem continuar melhorando à medida que consomem mais dados.

‘Acho crucial destacar como a censura impulsionada por IA está evoluindo, tornando o controle estatal sobre o discurso público ainda mais sofisticado, especialmente em um momento em que modelos de IA chineses, como o DeepSeek, estão causando impacto’, disse Xiao, o pesquisador de Berkeley, à TechCrunch.

Conclusão

Esta revelação ressalta a crescente sofisticação da censura na China, utilizando tecnologias de ponta para controlar narrativas e silenciar dissidências. A combinação de IA com métodos tradicionais de censura representa um desafio significativo para a liberdade de expressão e a transparência na era digital.