Estão surgindo impactos mais profundos sobre segurança digital e direitos humanos com o alto uso de inteligência artificial. Entre os principais desafios está o avanço de práticas de violência de gênero, tema que ganha destaque em uma nova cartilha lançada pela Coalizão Direitos na Rede. A publicação “Violência de Gênero – Casos envolvendo uso de Inteligência Artificial” reúne estudos, dados e análises sobre como ferramentas automatizadas vêm sendo usadas para ampliar abusos.

O material aponta que recursos baseados em IA já são utilizados na produção de deepfakes pornográficos, vigilância abusiva, perseguição digital e disseminação de conteúdos manipulados sem consentimento. Segundo a cartilha, a ausência de mecanismos robustos de governança e responsabilização tecnológica cria um ambiente favorável para a reprodução de desigualdades históricas e violência estrutural em escala ampliada.

Violência digital contra mulheres e adolescentes

No Brasil, o tema passou a integrar discussões sobre direitos digitais, proteção de dados e segurança online, principalmente diante do aumento de denúncias envolvendo assédio virtual, exposição íntima e monitoramento abusivo. Um levantamento do DataSenado de 2025 indica que cerca de 3,7 milhões de mulheres brasileiras relataram ter sofrido violência recente. Para a Coalizão, as novas tecnologias não criam o problema, mas ampliam sua capacidade de alcance, velocidade de disseminação e permanência online.

A cartilha destaca especialmente o crescimento dos deepfakes de conteúdo sexual. Segundo os estudos reunidos, mais de 90% dos conteúdos sintéticos identificados na internet têm caráter pornográfico e mulheres aparecem como principais vítimas. Em outra análise compilada pelo documento, 98% dos materiais manipulados disponíveis online possuem teor sexual e 99% atingem mulheres. O material também chama atenção para casos envolvendo adolescentes e ambientes escolares, indicando expansão do problema entre jovens.

Os riscos ampliados por vieses e falhas

Outro ponto analisado é a reprodução de vieses discriminatórios. A publicação reúne pesquisas que apontam que 44% das ferramentas de IA apresentam viés de gênero, enquanto 25% acumulam também distorções raciais. A publicação também aborda o uso crescente de tecnologias digitais para controle e intimidação. Ferramentas de monitoramento, rastreamento e exposição online aparecem entre os mecanismos utilizados em práticas de perseguição e violência psicológica. Para a entidade, a dificuldade de remover conteúdos íntimos falsos das plataformas mostra fragilidades nos atuais modelos de moderação e responsabilização tecnológica.

Apesar do foco nos riscos, a cartilha afirma que a inteligência artificial também pode ser aplicada em ações de prevenção e proteção. Entre os usos apontados estão identificação de padrões de violência, apoio à formulação de políticas públicas e desenvolvimento de mecanismos de resposta mais rápidos. A Coalizão defende, porém, que esses avanços dependem de regras claras de transparência algorítmica, supervisão pública e participação social.

Entre as principais recomendações da organização estão a criação de mecanismos ágeis para remoção de conteúdos abusivos, adoção de salvaguardas contra vieses algorítmicos, inclusão da perspectiva de gênero nas discussões regulatórias sobre IA e fortalecimento de políticas públicas de proteção digital às vítimas.

A cartilha completa está neste link.