RELATÓRIO DA WITNESS MOSTRA OS DESAFIOS ENFRENTADOS PARA COMBATER AS DEEPFAKES
A WITNESS, organização global que promove o uso de vídeos e tecnologia na defesa dos direitos humanos, apresenta nesta quarta-feira, 16 de outubro, o relatório “Deepfakes no Brasil – Prepare-se agora”, baseado no trabalho realizado no Brasil, mas fundamentado no trabalho global da organização de fornecer informações sobre deepfakes e como se preparar para elas. Deepfakes são maneiras novas de criar com mais facilidade, vídeos e áudio realistas de pessoas fazendo ou dizendo coisas que nunca fizeram.
No caso de deepfakes, os casos mais comuns envolvem violência baseada em gênero com imagens sexuais não consensuais em sites pornográficos, mas as ameaças já começaram a se aprofundar para outros públicos.
“Será cada vez mais fácil e comum usar a inteligência artificial para manipular vídeos ou áudios com perfeição. Precisamos estar atentos e preparados, mas não em pânico. Agora é a hora de garantir que as pessoas certas sejam ouvidas no Brasil e no mundo todo, e saber o que eles temem e que soluções exigem. Precisamos nos defender do risco de que todas as informações verdadeiras sejam colocadas em dúvida ou que um volume crescente de informações falsas oprima jornalistas, agências ou grupos que verificam informações ou atrapalhem ainda mais nossa esfera pública”, disse Sam Gregory, diretor de programas da WITNESS.
O Brasil é um dos países que mais sofre com o compartilhamento de “fake news” segundo pesquisa divulgada no ano passado, semanas antes da eleição, pelo Instituto Ipsos, o Brasil é o país no mundo em que a maioria das pessoas acredita em notícias falsas (62% da população). É importante lembrar que o WhatsApp confirmou recentemente o uso de boletins em massa de notícias falsas durante o último processo eleitoral brasileiro em 2018.
“Quando conversamos a convite da WITNESS, eu e outros ativistas de diferentes comunidades embora na maioria das vezes ainda estejamos trabalhando para combater notícias falsas e desinformação, o sentimento que temos em comum, é o medo, pois sabemos que seremos afetados por deepfakes embora isso ainda vá levar um tempo. Estamos especialmente preocupados em voltar para casa em segurança e com nossa reputação intacta, e a possibilidade de um vídeo falso colocar os ativistas em risco de morte é maior. “, disse Lana Souza, jornalista, co-fundadora do Coletivo Papo Reto e moradora do Complexo do Alemão.
“Atualmente, a maioria dos vídeos de deepfake que encontramos online são vídeos de pornografia de celebridades, obviamente, usando imagens de mulheres famosas sem seu consentimento. Mas não só celebridades tem sido alvo dessa prática, um caso que me impressionou aconteceu recentemente na Índia, com uma jornalista que denunciava um crime de estupro coletivo e foi vítima de um vídeo de deepfake envolvendo sua imagem em cenas de sexo. O objetivo ali era silenciá-la em sua atividade de jornalista e no seu exercício de liberdade de expressão e de imprensa. O compartilhamento não consentido de imagens íntimas, que alguns chamam equivocadamente de ‘revenge porn’, já é utilizado em muitos casos tentando envergonhar e calar mulheres, e os deep fakes levam esse tipo de violếncia de gênero para um outro patamar, ainda mais complicado.”, disse Joana Varon, fundadora da Coding Rights.
Como enfrentar as deepfakes – preocupações e caminhos possíveis
Em julho, a WITNESS organizou uma convocação nacional sobre o assunto no Brasil, identificando que neste debate é necessário principalmente colocar as populações mais vulneráveis que já enfrenta esse problema em tecnologias e estratégias semelhantes de desinformação, por isso nós convidamos ativistas que trabalham em favelas e pessoas que trabalham com violência de gênero para participar da discussão, juntamente com os principais jornalistas, verificadores de fatos, tecnólogos, e humorista que são especialistas em deepfake e pessoas que trabalham com plataformas de mídia social. O grupo discutiu as ameaças com as quais se preocupava e precisava se preparar, bem como as soluções que desejavam na sociedade e nas plataformas de mídia social.
As principais preocupações levantadas por esses grupos são: como isso coloca em risco ainda maior os ativistas e líderes comunitários mais ameaçados; ataca as possibilidades de usar o vídeo como prova, além de sobrecarregar a capacidade de jornalistas e agências de checagens de fatos que contam com poucos recursos. Eles também se preocuparam com a forma como um volume crescente de manipulação gerada com uso de inteligências artificiais afetará ainda mais a confiança do público e com a desculpa de que “isso é uma deepfake” possa se tornar uma nova forma de descartar a verdade.
“O vídeo se tornou uma ferramenta fundamental para a credibilidade e prestação de contas aos defensores dos direitos humanos e para mídia comunitária. O poder de prova das filmagens por parte dos cidadãos é fundamental para garantia dos direitos humanos. Mas uma nova ameaça de manipulação audiovisual apresenta é que vídeos e áudio possam ser editados para que crimes possam ser ocultados, ou mesmo para que seja criada tanta confusão que as pessoas descartem o trabalho de checagem, dizendo ‘É uma deepfake’ mesmo quando não for.”.”Precisamos nos preparar para essa possibilidade”, disse Daiene Mendes, da WITNESS Brasil.
“Plataformas como o Facebook têm um papel fundamental a desempenhar, garantindo que eles forneçam sinais quando a falsificação for invisível aos olhos. Não podemos esperar que as pessoas os vejam com facilidade, e as plataformas também devem fornecer recursos de detecção acessíveis a jornalistas e outras pessoas para que encontrem essas manipulações e as expliquem ao público “, disse Sam Gregory.
As principais recomendações feitas pela WITNESS neste relatório se concentram em garantir que a educação e a alfabetização da mídia se concentre em apoiar os mais vulneráveis em todo mundo, que ferramentas para a detecção dessas novas falsificações estejam amplamente disponíveis para os jornalistas e os ajudem quando estiverem diante de um material deste tipo e que se dê a ênfase crítica do papel de plataformas como Facebook e WhatsApp para investir em ferramentas que ajudem as pessoas a discernir o que é manipulado.
“É possível que isso que seja um problema global e é fundamental que as decisões sobre o que é necessário e as soluções que queremos, tanto técnicas como não, não sejam determinadas apenas nos EUA e na Europa ou excluindo as vozes das pessoas que serão mais prejudicadas.”, enfatizou Sam Gregory que está em São Paulo para o lançamento deste relatório, no dia 16 de outubro, e a convite da Associação Nacional de Jornalistas (ANJ), no dia 17 de outubro, para falar sobre “Deepfakes: a última geração da desinformação” no evento “Desinformação: Antídotos e Tendências” promovido pela ANJ.
LEIA AQUI O RELATÓRIO COMPLETO