Que 95% dos projetos de IA falham ou não têm resultados esperados todos no mercado já decoraram. Também é de conhecimento geral que muitas empresas sofrem com problemas relacionados à governança de dados o que, consequentemente, impede avançar com inteligência artificial. Mas tem uma parcela de organizações – de portes variados – que sofre na busca por uma equalização de custo. E custo é ponto importante, seja na partida (muitas postergam decisão por entender que o projeto é caro), seja no meio do caminho, especialmente quando a opção é pelo processamento em nuvem. 

No segundo caso, entra no debate a cobrança pelo consumo de tokens que tem torrado orçamentos de tecnologia muito antes do imaginado. Há casos em que empresas projetaram X para um ano e o valor foi consumido em menos de 4 meses. Isso causa algo que é pesadelo para qualquer financeiro: a falta de previsibilidade. Trata-se de um comportamento que se viu muito no surgimento da computação em nuvem no modelo público e assiste-se agora, de forma exponencial, com IA. 

Para Dell Technologies, assim como foi com cloud computing, o caminho do meio se apresenta como o mais adequado, ou seja, um modelo híbrido. E a empresa investe cada vez mais em uma linha completa que permite aos clientes processar tudo in-loco, se assim for o desejo, e fugir 100% do custo por token. 

A mais recente aposta nessa direção é o Dell Pro Max GB10, praticamente uma AI Factory miniatura que permite rodar modelos localmente e sem conexão com a internet. O produto não é um PC e nem tem Windows, trata-se de uma arquitetura pensada para processamento de inteligência artificial, como lembrou o diretor de produtos da Dell Technologies para América Latina, Rafael Pacheco. 

O executivo reforça que este produto permite iniciar a jornada e evolui-la para o modelo que a empresa decidir, já que o que for desenvolvido nessa plataforma, pode rodar em sistemas maiores sem grandes desafios. “Ele faz parte da inteligência artificial, ele pode estar conectado à uma rede, à uma nuvem, ele pode estar em diversos sistemas e a gente já tem exemplos diversos nessa dimensão. Tem clientes nossos que deixam ele conectado em servidores e ficam com atividades específicas”, exemplificou Pacheco.

Comece pelos objetivos

Para a fabricante, o grande desafio da nuvem quando se fala em projetos de IA é a imprevisibilidade. Pacheco, por exemplo, entende que, para teste, é saudável adotar modelos rodando em nuvem. “Mas quando a empresa optou por uma solução e será de uso recorrente, tem que discutir caminhos e trazer ferramentas locais”, comentou. Esse movimento contribui para redução de custo por consumo de token, mas traz benefícios relacionados à produtividade, já que as respostas são imediatas e a latência desaparece.

O produto não é fabricado no Brasil, mas já está homologado e certificado e, de acordo com executivos, a demanda tem sido grande, em especial pela facilidade de uso. O custo inicial é de R$ 60 mil já incluindo a consultoria para o primeiro uso. Em termos de configuração o Dell Pro Max GB10 tem processador NVIDIA GB10 (cache L2 de 16MB, 20 núcleos Arm); sistema operacional NVIDIA DGX OS, memória unificada de 128 GB e até 4 tera de armazenamento, até 1 petaflop de capacidade de processamento e GPU NVIDIA Blackwell.

O potencial da máquina, argumenta a fabricante, permite iniciar uma jornada de IA com menos complexidade e em dia com termos que têm sido cada vez mais caros em projetos de tecnologia: segurança e soberania dos dados. O equipamento entra na linha da AI Factory que, para o diretor de vendas da Dell Technologies, Gustavo Souza, precisa ser encarada como uma fábrica de geração de tokens controlada, escalável e segura.

Ao falar sobre os desafios das empresas em suas jornadas de IA, Souza trouxe uma perspectiva adotada pela própria Dell, que é iniciar olhando o resultado que se busca, para, depois, trabalhar itens que fazem sentido como escolha de modelo de IA, equipamentos ou nuvem e mesmo o desenho do caso de uso em si. 

“Normalmente se começa pensando no modelo ou uso de caso. Quando a Dell começou a jornada tinha mais de 900 iniciativas e reduziu para 5, porque precisa de resultado; e com nosso framework avaliamos uso de caso, tipo de tratativa que precisa com dados, infraestrutura (se local, nuvem ou híbrido) e, por fim, melhor modelo”, explicou Souza, lembrando que a fabricante conta com time de consultores cientistas de dados que auxilia em todo esse processo.