Em boa parte do que utilizamos no mundo digital tem a presença da inteligência artificial, e isso está mudando a forma como famílias precisam orientar crianças e adolescentes sobre segurança na internet. É o que mostra o relatório “Norton Insights: Connected Kids”, da Norton, que aponta uma nova realidade dos pais brasileiros.

Embora 89% afirmem se sentir à vontade para conversar com os filhos sobre riscos no ambiente digital, quase metade (49%) acredita que eles não conseguem diferenciar conteúdos criados por IA daqueles produzidos por pessoas. Já 59% dos entrevistados restringem o uso de aplicativos, monitoram a atividade online ou já conversaram especificamente sobre inteligência artificial com seus filhos. Ainda assim, 85% demonstram receio de que a tecnologia seja usada para produzir imagens, vídeos ou conversas falsas envolvendo crianças e adolescentes.

Iskander Sanchez-Rola, Diretor Sênior de IA e Inovação na Norton, explicou em nota que “os pais passaram anos ensinando seus filhos a reconhecer estranhos na internet, mas a IA muda a natureza do que significa ‘perigo’ no ambiente online. Desde o uso indevido e a alteração de fotos publicadas ou compartilhadas, até bots de IA que atuam como cibercriminosos ou se passam por fontes confiáveis, existem riscos completamente novos, e isso significa que pais e responsáveis precisam atualizar a forma como conversam com seus filhos sobre segurança online”.

Conteúdo falso e golpes preocupam famílias

Os dados indicam que a inteligência artificial já influencia diretamente a experiência digital das crianças, pois além da dificuldade em reconhecer conteúdos gerados por IA, os pais relatam preocupação com a criação de perfis falsos e identidades digitais usadas para enganar menores de idade.

Entre os responsáveis cujos filhos já sofreram cyberbullying, 29% disseram que o agressor utilizava uma identidade falsa ou fingia ser outra pessoa. Outros 14% afirmaram que o ataque partiu de uma conta ou bot criado com inteligência artificial.

Outro risco destacado pelo estudo envolve a manipulação de imagens. Criminosos têm recorrido a fotografias produzidas por IA e perfis falsificados para conquistar a confiança de crianças e adolescentes, convencendo-os a compartilhar fotos reais que posteriormente podem ser utilizadas em esquemas de sextorsão financeira.

As salas de bate-papo aparecem como a principal fonte de preocupação para 20% dos entrevistados, seguidas pelo Discord (18%), jogos online (15%) e TikTok (11%). Contudo o levantamento mostra que os ambientes de jogos também exigem atenção. Entre os pais de crianças que jogam títulos com recursos de chat, 61% afirmam que os filhos já conversaram com desconhecidos por texto ou voz. Além disso, 33% disseram que eles receberam mensagens ofensivas ou inadequadas, enquanto 29% relataram que os filhos foram convidados a deixar o jogo para continuar a conversa em outra plataforma.

“Os recursos de conversa presentes nos jogos são, muitas vezes, onde ocorre a real exposição, e tendem a ser menos visíveis para os pais e responsáveis do que o uso das redes sociais. Quando uma criança deixa uma plataforma de jogos online e migra para um aplicativo de mensagens privadas porque alguém pediu isso, essa escalada pode ser difícil de detectar, e as crianças podem não reconhecer isso como algo que vale a pena mencionar”, reforçou Iskander.

Conversa não basta para reduzir a exposição

Apesar da confiança dos pais para tratar do tema, a pesquisa aponta que diversos comportamentos de risco continuam acontecendo no cotidiano das crianças. Segundo o levantamento, 40% utilizam dispositivos após o horário permitido para dormir, 22% conseguem acessar redes sociais ou sites que os responsáveis acreditavam ter bloqueado e 13% compartilharam informações pessoais com desconhecidos.

Outro dado chama atenção: 14% dos pais disseram que seus filhos consomem conteúdo explícito na internet. Para a Norton, esses números mostram que o diálogo continua sendo importante, mas precisa ter acompanhamento constante, controle de tempo de tela, filtragem de conteúdo, educação digital e ferramentas de proteção.

Para ajudar as famílias, a Norton lançou o material “The Bots & The Bees”, desenvolvido com o intuito de abordar temas ligados à inteligência artificial, identidade digital, relacionamentos online e pensamento crítico diante da crescente presença de conteúdos sintéticos na internet.