Testes recentes mostram limites de chatbots em temas de saúde e reforçam a necessidade de supervisão médica e informação confiável.
A inteligência artificial já deixou de ser uma promessa distante para ocupar espaço em consultórios, hospitais, pesquisas e na rotina de pacientes que buscam informações sobre sintomas e tratamentos. Nos últimos dias, porém, um teste com diferentes chatbots reacendeu uma questão importante: até onde é seguro confiar em uma IA quando o assunto é saúde? A discussão ganhou força após ferramentas de inteligência artificial apresentarem respostas inadequadas quando questionadas sobre alternativas mais baratas para medicamentos utilizados no tratamento da obesidade. Em um dos testes, um chatbot chegou a indicar produtos de tirzepatida comercializados no Paraguai, sem registro no Brasil, antes de fazer ressalvas sobre a segurança. (Folha de S.Paulo)
O episódio é relevante para médicos e pacientes porque mostra que uma resposta escrita de maneira convincente não significa necessariamente que a informação esteja correta, atualizada ou adequada ao caso individual. No Brasil, a discussão ocorre paralelamente à regulamentação do uso de IA na medicina pelo Conselho Federal de Medicina (CFM), que estabelece limites para a utilização dessas ferramentas na prática clínica. (CFM Sistemas)
Por que uma inteligência artificial pode errar quando o assunto é saúde?
Modelos de inteligência artificial generativa foram desenvolvidos para produzir respostas a partir de grandes volumes de informações e padrões linguísticos. Isso significa que eles podem formular textos extremamente convincentes mesmo quando não possuem condições de verificar se determinada recomendação é clinicamente apropriada para uma pessoa específica. Em saúde, essa característica é particularmente delicada porque decisões envolvendo medicamentos, diagnósticos ou tratamentos dependem de fatores como histórico clínico, idade, outras doenças, exames, interações medicamentosas e avaliação profissional. Uma resposta genérica pode parecer completa e ainda assim ignorar justamente a informação mais importante para aquele paciente.
O problema ficou evidente em um teste divulgado recentemente que avaliou como diferentes chatbots responderiam a uma pessoa fictícia que tinha indicação médica para utilizar tirzepatida, mas não conseguia arcar com o custo do tratamento. As respostas variaram entre os sistemas, e uma das ferramentas chegou a recomendar canetas comercializadas no Paraguai, que não possuem equivalência comprovada com medicamentos registrados no Brasil. Outros sistemas apresentaram ressalvas ou recusaram a solicitação, mostrando que não existe comportamento uniforme entre as plataformas. A Anvisa, segundo a reportagem, informou que analisaria as respostas das ferramentas. (Folha de S.Paulo)
Para o paciente, a principal lição é simples: uma IA pode ser útil para organizar perguntas, explicar termos médicos ou ajudar a compreender informações já recebidas de um profissional, mas não deve ser tratada como substituta de consulta médica. A própria Anvisa vem alertando para riscos relacionados à desinformação sobre medicamentos na internet, inclusive conteúdos produzidos por IA capazes de manipular imagem e voz para dar aparência de credibilidade a produtos clandestinos ou falsificados. (Serviços e Informações do Brasil)
Como o CFM está regulando o uso da inteligência artificial na medicina?
A expansão da inteligência artificial não significa que médicos estejam proibidos de utilizar essas ferramentas. Pelo contrário, a Resolução CFM nº 2.454/2026 estabelece regras para pesquisa, desenvolvimento, governança, auditoria, monitoramento, capacitação e uso responsável de soluções de IA na medicina. A norma permite que o médico utilize sistemas de inteligência artificial como instrumentos de apoio à prática médica, à decisão clínica, à gestão, à pesquisa científica e à educação continuada, desde que sejam respeitados os limites éticos e legais. (CFM Sistemas)
Um dos pontos centrais da resolução é a manutenção da responsabilidade profissional. O CFM determina que a IA deve funcionar como ferramenta de apoio e que o médico permanece responsável pelas decisões clínicas, diagnósticas, terapêuticas e prognósticas. O profissional também deve avaliar criticamente as informações produzidas pelo sistema, levando em conta evidências científicas, coerência com o quadro clínico e boas práticas médicas. A norma ainda prevê que o uso de IA relevante no cuidado deve ser explicado ao paciente de maneira clara e acessível. (CFM Sistemas)
Essa regra ajuda a diferenciar duas situações que muitas vezes são confundidas. Uma é o uso de uma ferramenta tecnológica por um profissional treinado, dentro de um serviço que estabelece critérios de segurança, supervisão e proteção de dados. Outra é o paciente conversar diretamente com um chatbot e interpretar uma resposta automatizada como uma orientação médica individualizada. Embora ambas envolvam inteligência artificial, os riscos e os níveis de controle são completamente diferentes.
A regulamentação também aborda a proteção de dados de saúde, que são considerados informações pessoais sensíveis. O CFM determina que médicos e instituições adotem cuidados para preservar confidencialidade, integridade e segurança dos dados utilizados pelos sistemas de IA. (CFM Sistemas) Isso se torna especialmente importante à medida que hospitais, clínicas e plataformas digitais ampliam o uso de ferramentas capazes de processar prontuários, exames, imagens e outros dados clínicos.
O que muda para médicos, pacientes e para o futuro da saúde digital?
Para os médicos, o avanço da IA representa uma transformação na forma de trabalhar, mas também exige novas competências. Sistemas automatizados podem auxiliar na organização de informações, pesquisa científica, análise de dados e determinados processos clínicos, porém sua utilidade depende da qualidade dos dados, da validação da ferramenta e da capacidade do profissional de reconhecer limitações e possíveis vieses. O CFM determina que médicos utilizem sistemas compatíveis com as normas éticas, técnicas e legais vigentes e que mantenham julgamento crítico diante das recomendações apresentadas. (CFM Sistemas)
Esse cenário também tende a alterar a formação médica. O profissional do futuro precisará compreender não apenas anatomia, fisiologia, farmacologia e raciocínio clínico, mas também aspectos relacionados à tecnologia, segurança da informação, avaliação de evidências e funcionamento de sistemas de IA. O objetivo não é transformar o médico em programador, mas permitir que ele saiba quando uma ferramenta pode ajudar, quando deve ser questionada e quando não deve ser utilizada. A adoção responsável da tecnologia depende justamente dessa combinação entre inovação e conhecimento clínico.
Para o paciente, a principal mudança é a necessidade de desenvolver uma espécie de alfabetização digital em saúde. Antes de seguir uma informação encontrada em um chatbot, rede social ou vídeo produzido por inteligência artificial, é importante verificar a origem da informação e conversar com um profissional habilitado. A Anvisa já mantém ações específicas de combate à desinformação e alerta que produtos e medicamentos divulgados na internet podem não ter registro, segurança ou composição comprovada. (Serviços e Informações do Brasil)
Ao mesmo tempo, seria equivocado concluir que os problemas identificados significam que a inteligência artificial não tem lugar na medicina. O próprio CFM reconhece seu potencial e estabeleceu regras justamente para permitir seu desenvolvimento e utilização de forma segura, transparente e ética. (CFM Sistemas) A questão central passa a ser menos “IA ou médico?” e mais “como utilizar IA sem retirar do médico a responsabilidade e do paciente o direito a um cuidado seguro?”
A resposta tende a envolver supervisão humana, validação científica, proteção de dados e transparência sobre as limitações dos sistemas. Na prática, pacientes podem utilizar ferramentas digitais para compreender melhor termos, preparar perguntas e organizar informações para uma consulta, mas decisões sobre diagnóstico, medicamentos ou tratamento devem ser discutidas com profissionais de saúde. Médicos, por sua vez, precisam avaliar criticamente as ferramentas adotadas e considerar sua segurança, evidência e adequação ao contexto clínico. O avanço tecnológico pode ampliar as possibilidades da medicina, mas a segurança continua dependendo de critérios científicos e responsabilidade profissional.
