Blog

Deepfakes e abuso digital: combatendo a violência de gênero facilitada pela tecnologia

WITNESS submete recomendações ao Comitê Consultivo do Conselho de Direitos Humanos da ONU sobre a questão da violência de gênero facilitada pela tecnologia

Texto escrito originalmente em inglês

Março é um mês para celebrar as conquistas e lutas das mulheres, mas também um momento para reconhecer as ameaças digitais que continuam a afetá-las de forma desproporcional. Desde o vazamento de imagens íntimas sem consentimento, deepfakes abusivos até o assédio impulsionado por algoritmos, a violência de gênero facilitada pela tecnologia (TFGBV, na sigla em inglês) compromete a igualdade de gênero, a liberdade de expressão e a segurança pessoal.

Para enfrentar de forma urgente esse tipo de violência, a WITNESS apresentou recomendações ao Comitê Consultivo do Conselho de Direitos Humanos da Organização das Nações Unidas (ONU) como parte de seu estudo sobre o tema. O texto destaca lacunas no atual quadro internacional de direitos humanos e oferece estratégias concretas para fortalecer as respostas globais à violência de gênero digital, com base em anos de trabalho com tecnologia e comunidades vulneráveis em todo o mundo.

Desde 2018, a WITNESS realiza consultas presenciais globais com jornalistas, tecnólogos, líderes comunitários e outros atores de direitos humanos. Durante essas conversas, a violência sexual e de gênero impulsionada por inteligência artificial (IA) foi identificada como uma das ameaças mais urgentes em várias regiões, como o Sudeste Asiático, África e América Latina. O uso indevido de inteligência artificial generativa para criar deepfakes sexuais não consensuais de pessoas comuns já é uma realidade. Deepfakes que retratam líderes e ativistas femininas em situações comprometedoras ou falsas podem ser usados para desacreditar sua autoridade, minar sua influência, corroer a confiança pública e levar a danos físicos. Isso pode ter um efeito assustador, desencorajando as mulheres de participar de arenas políticas, sociais e econômicas, reforçando assim a desigualdade de gênero.

Violência de gênero impulsionada por IA

Ao longo dos anos, o programa Technology, Threats and Opportunities (TTO, Tecnologia, Ameaças e Oportunidades, em português) da WITNESS tem evidenciado como a inteligência artificial, especialmente a IA generativa e a tecnologia de deepfakes, vem sendo usada como arma para silenciar e desacreditar comunidades vulneráveis. Em 2018, a WITNESS liderou o projeto Prepare, Don’t Panic, a primeira iniciativa da sociedade civil voltada para enfrentar as ameaças da mídia sintética ao ecossistema de informação. Como parte desse esforço, a organização tem conduzido extensas avaliações de risco e impacto dos padrões de proveniência e autenticidade, além de defender ferramentas de detecção mais equitativas e eficazes. Essa experiência também expôs as limitações significativas dessas tecnologias no enfrentamento da violência de gênero facilitada pela tecnologia. 

Desde 2023, a Deepfake Rapid Response Force (DRRF) da WITNESS também forneceu análises de deepfakes em tempo real em contextos eleitorais e de conflito globalmente, destacando o impacto das manipulações geradas por IA no ecossistema de informação, na democracia e nos direitos humanos. As lições aprendidas com a DRRF se traduzem diretamente nos desafios enfrentados ao lidar com conteúdo sexual de deepfakes não consensuais, que é cada vez mais usado como ferramenta de intimidação, extorsão e desinformação. Isso tem graves implicações para a democracia, a liberdade de expressão e a segurança pessoal de mulheres e minorias de gênero:

• Mulheres na política, mídia e ativismo estão sendo desproporcionalmente alvo de desinformação gerada por IA e assédio online, o que pode desencorajá-las de participar da vida pública.
• A IA está ampliando os riscos e padrões de abuso de desinformação existentes, impactando de forma desproporcional grupos já vulneráveis, incluindo mulheres negras, indígenas, com deficiência, migrantes, minorias de gênero e a comunidade LGBTQ+ em geral.
• As atuais ferramentas de detecção de IA permanecem inadequadas, especialmente para idiomas não ingleses e comunidades com baixos recursos, tornando a justiça inacessível para muitas vítimas e pessoas sobreviventes de violências. E, em muitos casos, se o conteúdo é gerado por IA ou manipulado, isso não muda o dano causado—o dano à reputação, credibilidade, segurança e integridade pessoal já foi feito, com poucos recursos para os afetados.

Lacunas nas regulamentações internacionais de direitos humanos

Apesar do aumento da violência de gênero facilitada pela tecnologia TFGBV, as regulamentações atuais são inadequadas para enfrentar as novas ameaças digitais, deixando vítimas e sobreviventes com poucos recursos legais. As principais falhas incluem:

• Embora os tratados internacionais de direitos humanos abordem a violência de gênero de forma ampla, eles não levam em consideração as dimensões digitais do abuso, incluindo ameaças impulsionadas por IA, e o impacto desproporcional da TFGBV em grupos marginalizados.
• Há uma falta de padrões globais aplicáveis e mecanismos para responsabilizar empresas de mídia social e desenvolvedores de IA em responder à TFGBV.
• A natureza transfronteiriça do abuso online complica a aplicação da lei e a proteção dos sobreviventes, exigindo uma cooperação internacional mais forte.

Fortalecendo as proteções

Em nossa submissão, a WITNESS pede reformas urgentes para garantir que os espaços digitais não sejam usados como armas contra comunidades marginalizadas. Nossas principais recomendações incluem:

• Estabelecer mecanismos internacionais e compromissos com empresas que ajudem a abordar e garantir a responsabilidade pelo uso indevido de conteúdo gerado por IA para criar e disseminar imagens íntimas não consensuais.
• Garantir acesso equitativo a soluções de detecção e fortalecer a responsabilidade de plataformas de tecnologia, criadores de aplicativos e lojas de aplicativos.
• Criar políticas centradas no sobrevivente que forneçam interoperabilidade, remoção rápida de conteúdo prejudicial e recursos legais acessíveis.
• Capacitar ativistas, jornalistas e organizações da sociedade civil com ferramentas e conhecimento para navegar e combater a TFGBV.
• Implementar regulamentações globais vinculantes que exijam transparência nos mecanismos de remoção e práticas de desenvolvimento de IA por empresas de tecnologia.

À medida que a WITNESS atua junto à ONU e outros órgãos internacionais, reforçamos a urgência de fortalecer as proteções globais contra a TFGBV. Por isso, pedimos que governos, empresas de tecnologia e a sociedade civil tomem medidas concretas para desmantelar as estruturas que permitem a violência digital.