A adoção da inteligência artificial nas empresas vem acompanhada por pressão por ganhos de produtividade, redução de custos e necessidade de inovação. Organizações de diferentes setores ampliam investimentos em IA generativa e agentes autônomos, mas o desafio, segundo especialistas, é garantir que essa expansão ocorra com governança, segurança e critérios claros de uso.

O tema foi debatido durante encontro promovido pela FIAP em parceria com o Gartner, que reuniu Marcelo Lau, coordenador acadêmico da FIAP, e Luciano De Dominicis, Sr. Executive Partner do Gartner. O painel discutiu os impactos da IA nas organizações, os riscos emergentes da automação e as estratégias necessárias para construir ambientes corporativos mais resilientes.

A avaliação dos especialistas é que muitas empresas iniciaram projetos de inteligência artificial antes mesmo de estabelecer políticas de uso, mecanismos de controle ou critérios de governança. A velocidade de adoção tem superado a maturidade dos processos internos.

Para Luciano, a governança deve acompanhar a inovação desde o início da jornada. “Eu preciso sim utilizar, eu não posso parar o negócio. E eu tenho que ter governança sobre isso. A governança de IA tem que suportar o crescimento, a inovação, mas com segurança“. Segundo ele, a estrutura de IA deve envolver áreas como tecnologia, jurídico, compliance, gestão de riscos e liderança executiva.

O executivo destacou que um dos principais problemas atuais é a utilização massiva da tecnologia sem medição clara de valor para o negócio. “Eu tenho um problema hoje muito sério também do uso massivo, extensivo e não medindo valor ou não medindo impactos“. Para ele, a implementação deve começar pela identificação de riscos, definição de políticas e criação de mecanismos de controle capazes de sustentar a escalabilidade da IA.

IA sem controle pode comprometer resultados

Além dos desafios de segurança, o debate trouxe um tema que vem ganhando relevância entre CIOs e líderes de tecnologia: o custo operacional da inteligência artificial. Marcelo alertou que decisões equivocadas sobre consumo de modelos e tokens podem gerar impactos financeiros significativos.

“Você ficará desempregado por mau planejamento”, afirmou o professor ao comentar casos de empresas que adotam IA sem avaliar corretamente custos, consumo de recursos e retorno esperado. O cenário lembra os primeiros movimentos de migração para computação em nuvem, quando muitas organizações expandiram infraestrutura sem controle adequado dos gastos.

Segundo Marcelo, o mercado precisa abandonar a visão de que a inteligência artificial é uma solução automática para qualquer problema e ele enfatiza que “a inteligência artificial, ela não é miraculosa, e se você não souber o que está fazendo, ela com certeza dará resultados ruins“. O especialista ainda ressaltou que o uso indiscriminado de modelos pode gerar informações incorretas, alucinações, decisões inadequadas e desperdício de recursos.

Supervisão humana continua indispensável

A conversa abordou também a crescente preocupação com vazamento de dados, compartilhamento excessivo de informações corporativas e uso de bases não confiáveis para treinamento e consulta. Segundo Luciano, a qualidade dos dados continua sendo um dos fatores mais críticos para o sucesso da IA. “Dado ruim, output ruim. Dado ruim com IA, output é absurdamente problemático em termos de viés, alucinação, e todo o erro que a própria IA pode acarretar”, alertou. Para o executivo, a alfabetização em inteligência artificial (AI Literacy) será um diferencial cada vez mais importante para profissionais e empresas.

Não podia ficar de fora o avanço da IA agêntica, modelo baseado em agentes autônomos capazes de executar tarefas sem intervenção humana constante. Embora a tecnologia prometa ganhos expressivos de produtividade, ela também amplia a superfície de risco das organizações.

Luciano explicou que a autonomia dos agentes exige mecanismos robustos de identidade, monitoramento e governança. Ainda não existe cenário seguro para operações totalmente autônomas em ambientes críticos. Ele pontua que provavelmente nunca teremos um agente 100% autônomo, pois a validação humana é essencial e defende o conceito de “man in the loop”, no qual decisões estratégicas continuam dependendo da validação humana.

Adoção responsável depende de pessoas e processos

A governança também foi apontada como um processo coletivo. Para Luciano, as empresas precisam abandonar a ideia de que a gestão da IA é responsabilidade exclusiva da área de tecnologia: “governança é um esporte coletivo“. A recomendação é criar estruturas multidisciplinares que envolvam negócios, tecnologia, jurídico, compliance e segurança desde a definição dos casos de uso.

Na visão de Marcelo, a construção desse modelo começa por um princípio básico. “Eu tenho que saber o que eu tenho. Se eu não sei o que eu tenho, eu não vou saber cuidar“, explicou e defendeu que qualquer estratégia de IA deve partir do inventário de dados, sistemas, processos e ativos corporativos, permitindo identificar prioridades e riscos antes da implementação.

Os especialistas também alertaram para os impactos da IA sobre o mercado de trabalho. Embora a tecnologia automatize atividades repetitivas, ambos defendem que ela não elimina a necessidade de qualificação profissional. Pelo contrário. A demanda por profissionais capazes de compreender modelos, avaliar resultados, interpretar riscos e governar sistemas inteligentes tende a crescer nos próximos anos. Ao finalizar, Luciano destacou que a evolução da tecnologia exigirá um profissional cada vez mais apoiado por inteligência artificial, mas ainda responsável pelas decisões estratégicas.