A expansão da inteligência artificial generativa no setor público começa a exigir mais do que bons modelos de linguagem. Para colocar essas tecnologias em produção, órgãos precisam de infraestrutura capaz de acompanhar a velocidade de evolução dos LLMs, controlar custos e, ao mesmo tempo, evitar que a gestão de diferentes provedores de nuvem vire um problema à parte.

É justamente nessa frente que o Tribunal de Contas da União (TCU) estruturou sua estratégia. O órgão passou a utilizar uma plataforma multicloud da Claro empresas como integradora de ambientes da AWS, Microsoft Azure, Google Cloud e Oracle. A proposta é concentrar a operação em um único contrato e facilitar a movimentação das cargas de trabalho entre diferentes provedores.

Multicloud como base para a IA

A estratégia ganhou importância com a expansão do ChatTCU, assistente de inteligência artificial desenvolvido pelo próprio tribunal. A ferramenta já atende cerca de 3.500 usuários e reúne 19 modelos de linguagem, que utilizam serviços nativos distribuídos entre diferentes ambientes de nuvem.

O Secretário de Tecnologia da Informação e Evolução Digital do TCU, Rainério Rodrigues Leite, contou em nota que “cada nuvem tem suas particularidades e ter possibilidade de alternar entre diferentes provedores de forma imediata, controlada e prática foi fator determinante para viabilizar o desenvolvimento e o sucesso de nossos projetos em IA e, principalmente, o ChatTCU. Temos 19 modelos de LLM disponíveis e eles fazem uso de serviços nativos alocados em nuvens de fornecedores distintos, cada um com suas características e complementariedades. E o grande facilitador desse projeto, que nos permitiu ganhar escala e agilidade, foi a Plataforma Multicloud Claro empresas”.

Na prática, o modelo reduz a dependência de uma única nuvem. A TI do tribunal pode escolher diferentes serviços de acordo com as características de cada projeto e testar novas alternativas sem precisar reconstruir toda a estrutura contratual.

A mudança também afeta a gestão administrativa. Em vez de lidar separadamente com fornecedores, contratos, faturamento e processos de contratação, o TCU centraliza essa relação por meio da Claro empresas. A empresa atua como integradora dos diferentes ambientes de cloud.

Menos burocracia para testar novos LLMs

A velocidade de evolução dos modelos de IA é outro fator importante. Um LLM pode deixar de ser a alternativa mais adequada poucos meses depois de sua adoção. Para uma organização pública, porém, trocar de fornecedor ou contratar uma nova tecnologia pode envolver processos burocráticos e contratuais.

Segundo Leite, a estrutura multicloud permite testar e migrar cargas com mais rapidez. “Como os modelos de IA evoluem rapidamente, o contrato multicloud viabiliza a migração de cargas de trabalho e o teste de novos LLMs quase em tempo real, sem a necessidade de novos aditivos contratuais. Podemos experimentar o que há de melhor em cada um dos ambientes de nuvem, sem burocracia contratual”, explicou.

O controle financeiro continua sendo uma parte importante dessa arquitetura. O tribunal utiliza políticas próprias de FinOps para acompanhar o consumo de recursos de IA, incluindo mecanismos de auditoria de prompts e definição de cotas financeiras por usuário.

A plataforma multicloud amplia essa visão ao consolidar informações sobre os recursos de infraestrutura utilizados em diferentes provedores. Isso facilita o acompanhamento do consumo e a governança do ambiente de nuvem.

Gestão centralizada de quatro nuvens

Para a Claro empresas, um dos principais ganhos está justamente na redução da complexidade associada à operação de múltiplos fornecedores. A centralização também evita que o órgão tenha de administrar faturamentos separados e lidar diretamente com diferentes condições comerciais e variações cambiais.

“A gestão de um ambiente multicloud costuma ser o principal gargalo financeiro e operacional das organizações. Com a nossa solução, removemos essa barreira ao centralizar o faturamento e o suporte de diferentes provedores de nuvem em uma única plataforma. Isso proporciona ao TCU uma visão consolidada de seus recursos de infraestrutura, facilitando a governança e garantindo que o tribunal foque seus esforços no desenvolvimento de suas soluções de IA, enquanto nós simplificamos essa gestão”, apontou também em nota Mário Rachid, diretor-executivo de Soluções Digitais Claro empresas.

A experiência do TCU ultrapassa o uso interno da tecnologia. Segundo as informações divulgadas, o tribunal atingiu nível 5 de maturidade em inteligência artificial generativa aplicada ao controle governamental em um levantamento da Organização para a Cooperação e Desenvolvimento Econômico (OCDE) que analisou 39 países.

A instituição passou ainda a compartilhar a experiência acumulada com outras organizações. O código-fonte do ChatTCU e o conhecimento desenvolvido no projeto já são disponibilizados para mais de 160 instituições no Brasil e no exterior.