O uso de inteligência artificial está se tornando parte do nosso dia a dia, mas quando se trata de finanças, os usuários demonstram maior preocupação no uso da tecnologia. Em encontro no inovabra, especialistas destacaram a necessidade de preparo para os riscos emergentes e para as expectativas cada vez mais altas por parte dos clientes.

Henrique Fabretti, sócio e CEO do Opice Blum Advogados, reforçou que no mercado financeiro a confiança é peça fundamental. A IA precisa ganhar esta confiança, uma vez que vem sendo amplamente utilizada e o sistema financeiro precisa lidar com o desafio permanente de equilibrar inovação, experiência do usuário e governança. Segundo ele, coletar dados, pedir consentimento e fazer experimentações têm limites claros e um atrito mal administrado mina a confiança.

Outro ponto de alerta trazido por Fabretti foi de que a improvisação não cabe mais em projetos de IA. Para ele, governança é o elemento que amarra segurança, experiência do cliente e conformidade, reduzindo o risco de incidentes capazes de comprometer a reputação. No limite, até a sobrevivência de negócios é colocada em risco, sobretudo, aqueles que avançam rápido demais sem a estrutura adequada; há casos da ascensão e queda de produtos digitais em questão de semanas.

Interação com cliente

A experiência do cliente está intimamente ligada à confiança e Katsuren Machado, da Arbitralis, citou uma pesquisa da Qualtrics que mostra que os clientes ainda não percebem melhoria real na experiência quando a empresa implanta IA. Muitos citam que não perceberam melhora nem ganharam tempo, o que levant a questionamentos sobre jornadas automatizadas que podem gerar atrito e dificultar o acesso ao atendimento humano.

Katsuren explicou que uma interação responsável com o cliente depende de 3 pilares delimitadores. O primeiro é uma coleta mínima de dados, pedindo apenas o que realmente gere valor; o segundo é a transparência sobre uso dos dados, deixando claro o propósito, como vai coletar e por qual motivo; e por fim o controle granular das permissões para o cliente, permitindo que suas escolhas sejam mais detalhadas. Estes pontos podem fazer da IA um instrumento de construção de confiança e proximidade com os clientes.

Como dica essencial, Katsuren propôs não falar com o cliente somente quando for implementar alguma tecnologia ou para saber se ficou satisfeito. Ela indica uma comunicação contínua, próxima com o seu cliente, documentando e implantando os feedbacks recebidos.

Segurança em tempo real

Na camada de segurança, Adriano Filadoro, CEO da Vigilant autoXDR, destacou que a exposição digital é inevitável atualmente. Para ele o que tem sido feito em termos de cibersegurança é o básico, como MFA, gestão de vulnerabilidades, monitoramento contínuo. Mas isso já não é suficiente diante da ampliação da superfície de ataque impulsionada pela IA generativa. A implementação dessas ferramentas de segurança nem sempre é fácil, e usualmente o processo é demorado e custoso financeiramente.

Um estudo da IBM aponta que um hacker fica em média 299 dias dentro da rede/sistema sem ser detectado antes de fazer seu ataque. Agentes de resposta autônoma e em tempo real podem ser um divisor de águas para a detecção de uma invasão logo que ela aconteça. Filadoro explica que devemos usar as mesmas ferramentas e inteligências dos fraudadores para evitar e responder aos ataques e ressalta que o alvo pode ser a empresa, mas o acesso é através das pessoas.

Um case apontado por Filadoro mostra a extensão que um ciberataque pode ganhar, quando não se tem ferramentas de controle adequadas. O fato ocorreu em um hotel de Las Vegas, onde hackearam o sensor de temperatura (dispositivo IoT) de um aquário, que era conectado na internet, para capturar 3.8 terabytes de informações confidenciais. Ele foi direto ao orientar sobre cibersegurança: faça o básico bem feito, o resto é resiliência.

Regulamentação adicional e democratização

O debate também trouxe o desafio regulatório. Camila de Araújo Guimarães, advogada do time de proteção de dados e IA no Opice Blum Advogados, ressaltou que o setor financeiro já possui uma base sólida de obrigações que orientam sobre segurança digital, como a LGPD, princípios de transparência e direitos sobre decisões automatizadas. O futuro Marco Legal da IA, que está em discussão no congresso, deve intensificar as exigências existentes e não será um substituto.

Ela aponta que frameworks internacionais e normas técnicas já permitem às empresas se antecipar nesta regulação, diluindo custos e evitando improvisos quando a regulação for aprovada e entrar em vigor. Para organizações que lidam com modelos complexos, avaliações de impacto algorítmico devem ganhar protagonismo.

Camila destacou a que a democratização da IA por enquanto está ainda na facilidade ao acesso a ferramentas, inclusive no celular. Ela reforça que precisamos entrar na camada de letramento, democratizar o conhecimento e entendimento sobre a tecnologia. Só é possível gerenciar riscos sobre o que temos conhecimento e fazer governança do que sabemos como funciona. Para Camila, a democratização da educação em IA é o desafio para os próximos anos.