A euforia em torno da inteligência artificial generativa começa a dar lugar a uma fase de maior maturidade e cautela. Ainda que tenhamos muitas discussões com promessas milagrosas, já se discute mais impactos organizacionais, como em cultura e estrutura, e também a eficiência real daquilo que se oferta em massa. À medida que as empresas buscam extrair valor real e sustentável dessa tecnologia, o foco sai daquele “encantamento” com chatbots para a necessidade de governança e prestação de contas. Nesse grupo de profissionais mais críticos está Scott Zoldi, Chief Analytics Officer da FICO, que conversou com um grupo de jornalistas da América Latina durante o FICO World, em Orlando (EUA). O executivo defende que o futuro da IA não reside apenas em modelos cada vez maiores, mas na aplicação responsável e especializada da tecnologia.

Em sua função na FICO, o executivo e PhD está à frente de uma série de projetos com IA e responde por diversas patentes que a empresa detém, entre elas as que trata de uma IA mais responsável, além de outra relacionada que versa sobre ética e explicabilidade. Mas o que seria uma implantação de IA responsável, por exemplo? Zoldi entende que para que um projeto de IA seja considerado verdadeiramente responsável, deve se sustentar em quatro pilares fundamentais:

1. Robustez: o modelo deve ser construído corretamente, utilizando processos e padrões rigorosos, com um entendimento profundo dos dados de treinamento e de como eles se aplicam aos clientes reais;
2. Explicabilidade: não basta que o modelo forneça um resultado; ele deve ser capaz de explicar o “porquê” por trás de cada decisão. Em setores altamente regulamentados, a interpretabilidade física — onde é possível olhar e entender a lógica do modelo — é essencial;
3. Ética: o sistema não deve ser injusto ou discriminatório com nenhum grupo de pessoas;
4. Auditabilidade: todo o processo de desenvolvimento e as decisões tomadas pelos agentes de IA devem ser registrados em um registro imutável, como um blockchain, para que reguladores e equipes de governança possam verificar se os padrões foram seguidos.

O desafio de tornar a IA explicável

De todos os pilares da IA responsável, a explicabilidade é apontada pelo executivo como o maior desafio atual. “Enquanto para a IA tradicional e o aprendizado de máquina clássico já existem métodos consolidados (como scorecards interpretáveis), a IA generativa ainda é uma área de pesquisa ativa nesse quesito”, lembrou Zoldi.

O desafio reside em ir além de uma simples inferência e conseguir uma explicação robusta, especialmente em modelos de linguagem. “A complexidade desses modelos torna difícil garantir que a razão fornecida pela IA para uma decisão seja, de fato, a lógica interna que ela utilizou, e não apenas uma justificativa plausível gerada posteriormente.”

Pontos ignorados em projetos de IA

Se do lado de quem desenvolve há desafios a serem suplantados, do outro lado do balcão, também não faltam barreiras para garantir bons resultados com investimento na tecnologia. Questionado sobre o que estariam ignorando as empresas em projetos de IA, Zoldi avalia que muitas organizações falham em obter resultados consistentes porque negligenciam aspectos técnicos e estratégicos fundamentais. Nesse sentido, ele cita três pontos importantes:

• O uso de modelos genéricos para decisões críticas: “um dos maiores erros é utilizar modelos de propósito geral (como os disponíveis em celulares para tarefas cotidianas) para tomar decisões que impactam vidas humanas, como a concessão de crédito”, ressalta Zoldi. O executivo enfatiza que para decisões de alto risco, são necessários modelos específicos de domínio, altamente governados e com controle total sobre os dados de treinamento;

• A “ciência” por trás dos dados: as empresas costumam ignorar que a IA não faz milagres sozinha; ainda há muita ciência de dados envolvida. Isso inclui a construção de variáveis, o contexto e a tokenização especializada — um processo que exige expertise no setor (como serviços financeiros) para alimentar o modelo com as informações mais relevantes;

• Eficiência e Custos: “modelos de linguagem de grande escala (LLMs) são ineficientes e caros. Muitas empresas ignoram que podem obter melhor desempenho e menor custo utilizando modelos de linguagem pequenos (SLMs) e focados em tarefas específicas”, comentou Zoldi. Para ele, os modelos menores podem ser atualizados com mais frequência, são mais fáceis de monitorar e consomem significativamente menos energia.

Diferentemente do que ainda muita gente vende no mercado, o pesquisador e executivo entende que o sucesso de um projeto de IA não virá de um único modelo massivo, mas de uma estratégia em camadas. Ao aderir a uma estratégia nesse estilo, a empresa utilizaria modelos externos para tarefas gerais e modelos internos, especializados e altamente responsáveis, para o núcleo do seu negócio. Zoldi ainda alerta que a pressa em “não ficar para trás” pode levar ao erro, e o foco deve ser a educação e a aplicação ética da ciência para evitar danos aos negócios e às pessoas.