O 4º Congresso Brasileiro de Medicina Geral trouxe a tecnologia para o debate com um tema desafiador: a segurança e ética na saúde digital. Em um painel que reuniu especialistas, ficou claro que a inteligência artificial não é mais uma promessa futurista, mas uma ferramenta de trabalho presente que exige governança robusta para não se tornar um “bug” ético no sistema de saúde. O debate explorou desde a nova Resolução 2454/2024 do CFM até os riscos da “Shadow AI” nos hospitais.

Juliana Hasse, Presidente da comissão estadual de Direito Médico e da Saúde da OAB/SP, destacou que a IA na medicina deve ser vista como um insumo que amplifica a capacidade humana, porém também traz consigo uma nova camada de responsabilidade documental. Ela ressaltou que a velocidade da tecnologia sempre superará a da legislação, citando que o Brasil ainda aguarda o andamento de marcos regulatórios no Congresso, enquanto a prática clínica já exige respostas imediatas.

A governança institucional, portanto, torna-se o “calcanhar de Aquiles” para as organizações que ainda não estão prontas para as novas exigências de conformidade. A advogada foi enfática ao afirmar que o fator humano é insubstituível na tomada de decisões críticas. Ela pontuou que “a IA não substitui o médico de forma alguma”. Para Juliana, a tecnologia protege a autonomia médica ao oferecer suporte, mas nunca deve ser colocada em “piloto automático”, exigindo que o profissional sempre tenha critério para validar ou até descartar sugestões algorítmicas.

No que tange à segurança jurídica, a integração de IA exige registros precisos no prontuário médico, justificando tanto o uso quanto a opção pelo não uso da ferramenta. Juliana alertou para o “triângulo de responsabilidade” entre desenvolvedores, instituições e médicos, reforçando que “a questão da responsabilidade, ela aumenta a medida que jamais vai sair do médico a responsabilidade pela decisão final. Não tem como substituir, e ele tem que saber escolher qual vai ser a ferramenta”. Essa documentação será, no futuro próximo, o principal escudo do profissional diante da crescente judicialização da saúde.

A Centralidade do Ato Médico na Regulação da IA

Traçando um histórico da regulação, culminando na Resolução 2454/2026, Jeancarlo Fernandes Cavalcante, VP e head de IA do Conselho Federal de Medicina (CFM), destacou que a resolução posiciona o Brasil com um marco normativo pioneiro focado na centralidade e segurança do paciente. Ele explicou que, ao contrário do modelo europeu, a norma brasileira é voltada especificamente para o ato médico, buscando garantir que conceitos como auditabilidade e explicabilidade sejam respeitados, mesmo diante das complexas caixas pretas dos algoritmos.

Cavalcante expressou preocupação com projetos de lei que, por falta de especificidade técnica, podem classificar qualquer ferramenta de IA em saúde como de alto risco. Ele argumentou que uma regulação excessivamente restritiva pode sufocar o ecossistema de inovação brasileiro: “isso vai travar a inovação. Nós estamos trabalhando para que ele [projeto de lei] não traga qualquer coisa de inteligência artificial como sendo algo difícil”. Para o VP do CFM, é preciso entender que, embora a IA seja baseada em matemática exata, a clínica lida com nuances que apenas o crivo humano pode interpretar.

O papel da IA deve ser estritamente de apoio, funcionando como um assistente que reduz a carga de trabalho mas não detém o poder de diagnóstico final ou comunicação de prognósticos sensíveis. Inclusive neste mês, foi lançada pelo CFM uma plataforma de IA, que entre outras funções auxiliará na busca por falsos médicos em redes sociais. A projeção é que ocorra um aumento de 30% nas fiscalizações com o apoio da IA. Cavalcante defendeu que a tecnologia deve servir à medicina, e não o contrário, mantendo a autonomia do profissional em decidir o melhor caminho para o paciente. Ele reafirmou que “o princípio fundamental é que a inteligência artificial não substitui a inteligência humana”.

Urgência da Governança Hospitalar

No encerramento do painel, foi abordado o fenômeno da “Shadow AI”, onde médicos utilizam ferramentas não homologadas, como o ChatGPT, para auxiliar em consultas sem o controle das instituições. Wagmar Barbosa de Souza, secretário do Conselho Regional de Medicina de São Paulo (CREMESP), comparou as sugestões da IA aos tradicionais guidelines médicos, onde o profissional tem a liberdade de segui-los ou não, mas a responsabilidade técnica e o risco pelo resultado permanecem integralmente com ele, especialmente em ferramentas de uso livre e não regulado.

A discussão indicou que a solução para os conflitos normativos e os dilemas éticos reside na implementação de governança hospitalar e comissões internas de IA, que deverão validar e classificar as ferramentas conforme o risco. Na medicina, a IA não deve ser um impedimento, desde que a eficácia e a segurança sejam estatisticamente comprovadas e auditáveis.