Blog

Meta, precisamos de mais formas de combater a desinformação (não menos) na era dos deepfakes e da IA

Texto original em inglês

A recente decisão da Meta de permitir mais discursos de ódio e conteúdos nocivos sob o pretexto de liberdade de expressão, assim como de eliminar a checagem de fatos no Facebook, Threads e Instagram, representa um retrocesso significativo. Esse posicionamento coloca em risco comunidades marginalizadas e vulneráveis, além de agravar os riscos emergentes da IA (inteligência artificial). 

“Embora a checagem de fatos não seja uma solução mágica para resolver disputas sobre o que é falso, ela é uma parte crucial na defesa da informação, na responsabilização dos poderosos e no combate à confusão entre verdade e mentiras. Embora decisões de moderação de conteúdo possam falhar, mais frequentemente elas são voltadas para prevenir danos e ódio, além de fornecer informações às pessoas para que possam julgar por si mesmas o conteúdo que consomem. Ainda precisamos que as plataformas se responsabilizem e que haja uma moderação de conteúdo fundamentada em realidades globais e direitos humanos. Na era emergente da IA, essa necessidade é maior do que nunca”, afirma Sam Gregory, diretor executivo da WITNESS.

A decisão da Meta reflete um desprezo pelas vozes e necessidades das pessoas mais impactadas pelas ameaças que ela representa. Comunidades marginalizadas e vulneráveis costumam ser as primeiras e mais profundamente afetadas por informações enganosas e falsas, discursos de ódio e censuras reais e coercitivas por parte de seus governos. Pessoas e grupos parceiros da WITNESS em Mianmar conhecem bem essa realidade, assim como as comunidades imigrantes e LGBTQIA+ nos EUA e globalmente. Em vez de criar mecanismos para amplificar como essas comunidades vulneráveis, defensores de direitos humanos e verificadores de fatos na linha de frente podem se proteger, fortalecer a verdade e enfrentar mentiras, as recentes ações da Meta seguem na direção oposta e ampliam os riscos.

Há mais de três décadas, a WITNESS tem ajudado pessoas ao redor do mundo a usar vídeos e tecnologia para defender os direitos humanos e compartilhar informações confiáveis. Embora as ferramentas digitais tenham ampliado a capacidade de cidadãos e jornalistas para documentar e expor abusos, elas também têm sido cada vez mais usadas como armas para desestabilizar a sociedade civil, perpetuar discursos de ódio e colocar em risco pessoas defensoras dos direitos humanos e jornalistas.

Novas tecnologias, como ferramentas baseadas em IA, intensificaram esses desafios, permitindo a criação de simulações convincentes de mídia autêntica, incluindo manipulações sofisticadas e sutis de áudio e vídeo – o que pode minar ainda mais a confiança e abrir novos caminhos para desinformação e manipulação.

“As mesmas comunidades com as quais a WITNESS trabalha são as que têm menos acesso e capacidade para enfrentar esses novos mecanismos que promovem desinformação. Já vimos como a comunidade global de checagem de fatos está em desvantagem na luta para detectar tanto a enganação gerada por IA quanto as alegações de poderosos de que a realidade foi falsificada com IA. Enfraquecer ainda mais esses esforços só piora essa situação desafiadora”, afirma Sam Gregory”

Na WITNESS, acreditamos que o futuro da criação, disseminação e moderação de conteúdo gerado por IA – e as decisões sobre como isso ajudará ou prejudicará comunidades vulneráveis globalmente, como serão implementadas salvaguardas e como a autenticidade e a síntese serão comunicadas às pessoas – está diretamente relacionado às decisões que estão sendo tomadas hoje sobre a moderação de conteúdo nas redes sociais. 

As ações da Meta refletem uma tendência preocupante de priorizar a conveniência corporativa, a proximidade com o poder autoritário e uma reivindicação não aprofundada de liberdade de expressão em detrimento da responsabilidade legítima e da segurança de comunidades marginalizadas.

Nos comprometemos em desafiar as estruturas de poder no setor de tecnologia que perpetuam danos a pessoas defensoras de direitos humanos e jornalistas comunitários. Esse compromisso é especialmente urgente enquanto navegamos pelas implicações de mudanças políticas recentes, como a nova administração Trump nos Estados Unidos, que está posicionada para exercer influência significativa sobre as empresas de tecnologia e a governança da IA – como exemplificado pelo recente anúncio da Meta.

Saiba mais sobre os esforços da WITNESS para moldar a tecnologia em prol dos direitos humanos aqui (em inglês) e como apoiar essa causa