Por Felipe Testolini*

A inteligência artificial (IA) tornou-se uma das ferramentas mais transformadoras dos últimos anos, impactando todos os setores da economia, principalmente os de saúde, varejo e finanças, que trabalham com um contingente de dados enorme. Para elucidar qual a melhor forma de conduzir a implementação de IA nas empresas e a importância da governança de dados em todo o processo, eu gosto de fazer um paralelo com a Fórmula 1. Nesse sentido, a governança de IA tem atuado como um safety car, acionada apenas quando acontece algum problema e é aí que mora o erro.

É necessário quebrar o paradigma de adotar protocolos de governança apenas para a contenção de danos e passar a estabelecer uma estrutura preventiva robusta, composta por monitoramento contínuo, com o uso de ferramentas para mitigar os riscos, antes deles acontecerem. Da mesma forma que barreiras de proteção, como o capacete, sensores e protocolos de segurança em corridas evitam acidentes antes mesmo de um carro entrar na pista, a governança de IA deve ser um sistema proativo, que assegure que a tecnologia seja utilizada com responsabilidade e sem surpresas indesejadas.

Mas… o que é Governança em IA?

São práticas e regulamentações para assegurar o uso adequado da IA. Isso inclui princípios éticos, legais e regulatórios. Ela facilita a conformidade com legislações de proteção de dados, como a LGPD e o GDPR, protegendo a reputação da empresa e minimizando riscos financeiros.

Para as empresas, a governança de IA assegura a qualidade e segurança dos dados utilizados nos modelos, melhorando a precisão e eficiência das operações. Ela também vai além do controle de acesso, incluindo mecanismos para rastrear o ciclo de vida dos modelos de IA, desde o treinamento até sua implementação e atualização. Isso garante que os sistemas sejam monitorados e ajustados de forma contínua para mitigar riscos de obsolescência ou falhas. Além disso, a governança de IA envolve a definição de métricas claras para a avaliação de desempenho e a capacidade de auditar decisões automatizadas, o que promove maior responsabilidade e confiança nos resultados. Essas práticas fortalecem a competitividade das empresas, permitindo um uso mais sustentável e ético da IA.

Assim como nas pistas, segurança em 1º lugar para um bom uso da IA

A governança de IA garante o uso seguro e eficaz da tecnologia, que gera valor sem expor a organização a riscos desnecessários.  O mercado de governança de IA foi estimado em US$ 264,18 milhões em 2024 com previsão de atingir US$ 936,44 milhões até 2029, segundo relatório da Mordor Intelligence, o que reflete a relevância do assunto para as empresas.

À medida em que a IA se integra ao dia a dia corporativo, seu potencial para avanços significativos – como em diagnósticos médicos mais rápidos e predições financeiras – também aumenta. Contudo, sem uma governança rigorosa, esses avanços podem resultar em problemas, como informações falsas, decisões enviesadas ou a manipulação de dados sensíveis, que comprometem a segurança das organizações e a confiança dos consumidores. Por isso, é fundamental que as empresas tenham parceiros especializados para ampliar sua visão sobre o tema e orientá-las na estruturação de práticas de governança robusta que garantam segurança sem limitar o potencial da tecnologia. Frameworks de mercado, como os desenvolvidos pelo NIST, Gartner e os modelos dos EUA e da União Europeia, oferecem diretrizes valiosas para isso. 

Atenção a vulnerabilidades e falhas!

O caso da Air Canada, em 2024, chamou a atenção para um problema recorrente na adoção da IA. Com a crescente busca por eficiência, muitas empresas têm implementado chatbots para automatizar o atendimento ao cliente. No entanto, esses sistemas frequentemente geram informações imprecisas. A Air Canada enfrentou essa realidade quando seu chatbot recomendou a um cliente seguir uma política de reembolso por luto que não existia na companhia. Com a expansão da IA, muitas empresas estão correndo para adotar a tecnologia para maximizar sua eficiência, mas o problema é que os chatbots frequentemente inventam informações e não fornecem respostas precisas. Esse episódio reflete um desafio maior: enquanto empresas correm para adotar a IA sem supervisão adequada, as big techs estão mudando as regras da governança, flexibilizando normas para acelerar a implementação da tecnologia.

A governança de IA precisa acompanhar o ritmo acelerado do avanço tecnológico, garantindo que novas soluções sejam implementadas com segurança. A recente decisão do Google de remover a cláusula que proibia o desenvolvimento de tecnologias prejudiciais ilustra como normas antes consideradas inegociáveis estão sendo flexibilizadas. Assim como no caso da Air Canada, em que a falta de supervisão resultou em informações imprecisas, a flexibilização de normas pode impactar a confiabilidade dos sistemas automatizados e a segurança das empresas. Diante desse cenário, cresce a necessidade de mecanismos de governança robustos, que garantam a implementação segura dessas soluções.

Além disso, essa mudança nos força a  questionar o papel da governança corporativa e da segurança cibernética no mundo atual. Se as grandes empresas de tecnologia estão colocando a ética em segundo plano, as empresas precisam reavaliar suas estratégias de proteção. A flexibilização das diretrizes aumenta os riscos, tornando a segurança uma prioridade ainda mais urgente. Organizações devem não apenas proteger seus dados, mas também antecipar novas ameaças, adaptando suas políticas e protocolos de segurança para acompanhar o ritmo dessa evolução tecnológica acelerada.

Próximos passos

Internacionalmente, a regulamentação de IA tem avançado. A União Europeia, por exemplo, é uma referência com diretrizes claras que visam a garantir o uso ético e seguro da IA. Essas normas têm servido de inspiração para outros países. Os Estados Unidos discutem o Artificial Intelligence Accountability Act, projeto de lei que visa a responsabilizar empresas por falhas provocadas pela IA. Além disso, entidades como a Organização Internacional de Normalização (ISO), lançou a ISO/IEC 42001, primeira norma global para a gestão responsável da Inteligência Artificial.

No Brasil, embora o debate ainda seja inicial, diversas empresas já estão adotando boas práticas e adaptando-as à nova realidade para garantir a competitividade, a sustentabilidade e assegurar o uso ético e seguro dessas ferramentas. Consultorias especializadas no tema têm ajudado as empresas a mapear as melhores aplicações da IA para o seus negócios e a construírem modelos de governança com políticas e práticas que garantam seu uso seguro e efetivos. O Grupo Ivy, por exemplo, registrou aumento de 150% no último ano em empresas que buscaram soluções de governança de IA para garantir uma estrutura de processos, regras e governança preparadas para utilizar a tecnologia de forma efetiva, robusta e segura. São essas as organizações que estarão preparadas para colher os benefícios da IA sem comprometer a confiança pública ou correr riscos desnecessários. Combinar inovação com responsabilidade é a melhor estratégia para garantir uma IA mais diversa e segura.

*Felipe Testolini é administrador com pós-graduação em Tecnologia da Informação e MBA em Negócios Digitais pela USP, além de especializações no MIT Sloan e na Singularity University. Com mais de 24 anos de experiência, Testolini já atuou como CIO na Sonda e como CEO na Sigmais. Atualmente, é vice-presidente do Grupo Ivy, holding nacional com foco em soluções tecnológicas.