Em uma data simbólica para a comunidade trans, a ONG Código Não Binário lançou a TybyrIA, primeira inteligência artificial totalmente aberta em português voltada à detecção de discurso de ódio anti-LGBTQIA+, e protocolou uma Ação Civil Pública (ACP) contra Meta, Google, X e ByteDance. A iniciativa, construída em parceria com IBRAT, Fonatrans e AzMina, combina desenvolvimento tecnológico próprio e litigância estratégica para questionar a atuação das plataformas digitais na moderação de conteúdos violentos, reposicionando grupos minorizados como protagonistas na criação de soluções e na responsabilização das Big Techs.

A ACP tem como base um relatório técnico elaborado a partir da análise de mais de 12 mil comentários, coletados e classificados por metodologia própria após um episódio de viralização de conteúdo com alto volume de ataques anti-LGBTQIA+ em 2024. O estudo aponta indícios de omissão e falhas estruturais nos sistemas de moderação, sustentando que os algoritmos privilegiam conteúdos de alto engajamento, inclusive discursos de ódio, enquanto a remoção deste tipo de conteúdo ocorre de forma desigual quando comparada a violações de direitos autorais, por exemplo.

Resposta tecnológica e regulatória ao ódio digital

A TybyrIA, batizada em referência histórica a Tibira do Maranhão (primeira pessoa vítima oficial de LGBTfobia), foi desenvolvida como um modelo pequeno e especializado, com código, dados e metodologia públicos. A proposta demonstra que soluções de inteligência artificial de menor escala podem ser eficazes, com menor custo ambiental e operacional, e já vem sendo adotada por comunidades técnicas no Brasil e no exterior, além de reconhecida em eventos internacionais de tecnologia e direitos humanos.

No campo jurídico, a ação solicita medidas estruturais, como planos de due diligence em direitos humanos específicos para a população LGBTQIA+, revisão de algoritmos, auditorias independentes e maior transparência das plataformas. Também requer indenização por danos morais coletivos, em um contexto considerado favorável após decisões recentes do STF sobre responsabilidade ativa das plataformas e avanços regulatórios no ambiente digital brasileiro.