A Meta comunicou que está a recalibrar a sua moderação automatizada de conteúdos para limitar apenas as chamadas violações de alta gravidade, como as que estão relacionadas com o terrorismo. Somada às políticas adotadas por outras empresas, incluindo o Telegram e o X (anteriormente conhecido como Twitter), esta situação levará à propagação de conteúdo muito mais abusivo e repleto de ódio em várias das maiores plataformas de redes sociais do mundo. Parte deste conteúdo terá como alvo comunidades marginalizadas, incluindo pessoas LGBTIQ+, refugiados, migrantes e minorias de todos os tipos. Ao fazê-lo, afastará aquelas comunidades destas plataformas, limitando a sua visibilidade, isolando-as ainda mais e reduzindo a sua liberdade de expressão.
De uma maneira geral, estas mudanças causarão danos que não afetarão apenas pessoas e grupos específicos. A liberdade de expressão exige não só que as pessoas sejam capazes de expressar as suas opiniões, mas também que sejam capazes de procurar e de receber ideias e informações. As plataformas de redes sociais mal regulamentadas restringem essa liberdade de várias formas. Ao silenciar algumas pessoas e comunidades, restringem o alcance da informação disponível para todos e ao permitirem a proliferação de mentiras e de desinformação, envenenam o ambiente de informação. Ao esbaterem a linha entre factos e ficção, fragmentam as sociedades e corroem o espaço público tão necessário para o debate aberto, baseado em factos e num entendimento comum básico.
O aumento substancial do volume de conteúdo não moderado e de discurso de ódio que resultará destas alterações será prejudicial em todos os momentos, mas isto pode ter consequências particularmente devastadoras durante conflitos, crises e campanhas eleitorais, afetando centenas de milhões de pessoas, independentemente de serem ou não utilizadores destas plataformas. Acabei de regressar da Síria, onde testemunhei a toxicidade da desinformação vingativa que leva à violência.
De facto, em 2018, o próprio Facebook reconheceu que não tinha feito o suficiente para evitar que a sua plataforma fosse utilizada para fomentar a divisão e incitar à violência contra os rohingya no Myanmar. Reconheceu que pode e deve fazer melhor. Há outros exemplos semelhantes. As campanhas eleitorais em todo o mundo mostraram também que a falta de governação baseada nos direitos nos ambientes das redes sociais pode prejudicar a coesão social e distorcer a tomada de decisões democráticas. Nos últimos anos, em campanhas eleitorais do Brasil ao Quénia, da Moldávia à Roménia, têm surgido relatos de desinformação e de conteúdos de ódio espalhados nas plataformas de redes sociais. Nestas circunstâncias, é crucial que as empresas apliquem a devida diligência em matéria de direitos humanos e que os Estados garantam que os espaços de debate online e offline permanecem livres e abertos a todos.
A moderação de conteúdos não é fácil e pode ser controversa. O meu Gabinete soou o alarme em casos de aplicação excessiva da lei, por exemplo, quando alguns Estados usaram leis e políticas duras para silenciar vozes dissidentes e suprimir material indesejado no domínio público. E, para citar um exemplo, várias organizações da sociedade civil documentaram recentemente a supressão de material sobre os direitos dos palestinianos em várias plataformas de redes sociais.
Mas, regular cuidadosamente o discurso de ódio online e moderar os conteúdos para evitar danos reais não é censura. É um pilar essencial da integridade da informação na era digital e uma responsabilidade das plataformas de redes sociais.
A comunidade internacional já tem uma estrutura para nos orientar nestas questões: o direito internacional dos direitos humanos. Este conjunto acordado de normas e de padrões visa precisamente proteger todas as liberdades, para todos, ao mesmo tempo que previne o incitamento ao ódio e à violência. É universal, dinâmico e pode adaptar-se a questões emergentes.
Os direitos humanos não estão sujeitos a debate ou a redefinição. A nossa liberdade de expressão foi conquistada com muito esforço, ao longo de anos de protestos contra a censura e a opressão. Devemos estar vigilantes para a proteger. Isto significa enfrentar a incitação ao ódio e à violência quando esta viola a lei e proteger o direito de todos de aceder à informação, para que as pessoas possam procurar e receber ideias de uma vasta gama de fontes diversas. As lições dos últimos anos são claras: as plataformas que são cegas à violência e que ignoram as ameaças enfrentadas pelos jornalistas e pelos defensores dos direitos humanos ficarão inevitavelmente aquém e prejudicarão a liberdade de expressão.
Uma governação de conteúdos eficaz deve dar prioridade à transparência, à responsabilização e prever a capacidade de contestar as decisões de moderação de conteúdos. É necessário considerar o contexto, as nuances da linguagem local e quem está a controlar o conteúdo e a sua distribuição. Em suma, deve ter em conta o contexto mais amplo da informação.
A governação eficaz dos conteúdos online só pode surgir de debates abertos, contínuos e bem informados em toda a sociedade. O meu Gabinete continuará a exigir e a trabalhar pela responsabilização no espaço digital, em conformidade com a lei dos direitos humanos. Os direitos humanos devem ser a nossa bússola para salvaguardar o discurso público, construir confiança e proteger a dignidade de todos.

*Alto-comissário das Nações Unidas para os Direitos Humanos