O mercado de saúde tem mudado rapidamente com a chegada da inteligência artificial. Em poucos anos, passamos a ver notícias sobre ferramentas capazes de apoiar diagnósticos, organizar prontuários, resumir artigos científicos, sugerir hipóteses clínicas e tornar o atendimento mais eficiente. Com isso, muitos profissionais passaram a se perguntar se a IA pode reduzir a importância do trabalho humano, ou até substituir determinadas funções.
Mas imagine a seguinte situação: o farmacêutico recebe uma prescrição com “Pikachu 10 mg, via oral”. Como reagir? Um profissional treinado provavelmente estranharia, interromperia a dispensação, buscaria confirmação e avaliaria a possibilidade de erro, brincadeira, fraude ou falha no sistema. A inteligência artificial, porém, pode não ter a mesma prudência. Dependendo do contexto, ela pode tratar o nome como se fosse um medicamento real e até sugerir indicação ou dose.
Essa discussão deixou de ser hipotética. Estudos recentes mostraram que modelos de linguagem podem aceitar nomes de Pokémon como se fossem medicamentos, respondendo com aparência técnica e confiança mesmo diante de uma informação falsa. Para o farmacêutico, isso traz uma mensagem clara: a IA pode ser uma ferramenta poderosa, mas não substitui julgamento clínico, responsabilidade profissional e cuidado humano.
Quando a IA não sabe dizer “eu não sei”
O debate ganhou força com o artigo “Can AI Say ‘I Don’t Know’?”, publicado no The New England Journal of Medicine. O texto foi escrito pela farmacêutica Drª Andrea Sikora e pelos médicos Dr. Leo A. Celi e Raja-Elie E. Abdulnour, e discute um ponto central para a segurança em saúde: a capacidade de reconhecer incerteza.
A pergunta feita pelos autores é simples: uma inteligência artificial consegue perceber quando não tem base suficiente para responder?
Na prática clínica, um profissional humano pode hesitar, revisar informações, consultar diretrizes, pedir ajuda ou simplesmente admitir que não sabe. Essa pausa não é fraqueza. Pelo contrário, é uma parte essencial da segurança do cuidado. Em saúde, reconhecer dúvida pode evitar erro, impedir decisões precipitadas e proteger o paciente.
A IA generativa funciona de outra forma. Ela não “sabe” no sentido humano. Um modelo de linguagem prevê sequências prováveis de texto com base em padrões aprendidos. Por isso, pode produzir respostas organizadas, técnicas e convincentes sem necessariamente compreender o risco envolvido. Quando aceita ou inventa uma informação falsa como se fosse verdadeira, esse comportamento é chamado de confabulação ou alucinação.
O estudo que misturou medicamentos e Pokémon
O estudo “Drug or Pokémon? An analysis of the ability of large language models to discern fabricated medications”, publicado na National Library of Medicine, testou uma situação aparentemente absurda, mas muito útil para avaliar segurança em saúde: pesquisadores inseriram nomes de Pokémon no meio de listas de medicamentos reais e observaram se modelos de inteligência artificial perceberiam que aquilo não fazia sentido.
Em um dos exemplos usados pelos pesquisadores, o nome Kirlia, personagem do universo Pokémon, foi apresentado como se fosse um medicamento: “Kirlia 10 mg, via oral, uma vez ao dia”. O objetivo era verificar se a IA iria estranhar a informação ou se responderia como se estivesse diante de um fármaco verdadeiro.
O problema é que, em muitos casos, os modelos não identificaram o erro. Em vez de dizer que não reconheciam aquele nome como medicamento, eles produziram respostas sobre dose ou indicação como se o Pokémon fosse um produto terapêutico real. No estudo, quando a IA respondia como se o personagem fosse um fármaco, isso era classificado como alucinação.
Os autores também relataram casos em que a IA substituiu nomes fictícios por medicamentos reais com grafia ou sonoridade parecida. O Pokémon Loudred, por exemplo, foi confundido com lorazepam, gerando uma resposta com dose intravenosa absurda. Já Minior foi associado a minoxidil em uma orientação incompatível. Em um contexto real, erros desse tipo poderiam gerar riscos graves de dose, indicação, via de administração e segurança do paciente.
A resposta bem escrita pode ser o maior risco
O problema não é apenas a IA errar. Profissionais humanos também erram. O risco específico da IA está na forma como ela erra: com fluência, organização e aparência de segurança.
Uma resposta pode estar gramaticalmente perfeita, ter tom técnico, parecer coerente e, ainda assim, estar errada. Para um paciente ou profissional sem formação suficiente para avaliar criticamente a informação, essa confiança aparente pode ser confundida com competência real.
No artigo do The New England Journal of Medicine, os autores discutem a importância da humildade epistêmica, ou seja, a capacidade de reconhecer os limites do próprio conhecimento. Em saúde, saber dizer “não sei” pode ser uma competência tão importante quanto saber a resposta correta.
Para o farmacêutico, esse ponto é decisivo. A farmácia é um ambiente onde erros relacionados a medicamentos podem gerar danos diretos. Nome, dose, via de administração, interação, contraindicação, duplicidade terapêutica e uso inadequado precisam ser avaliados com rigor. Uma IA pode ajudar a organizar informações, mas não pode assumir sozinha a responsabilidade por decisões que envolvem segurança do paciente.
O farmacêutico como filtro crítico da tecnologia
A inteligência artificial não deve ser demonizada. Ela pode apoiar a prática farmacêutica ao resumir conteúdos, organizar dados, revisar informações, auxiliar em educação em saúde e facilitar o acesso a referências. O problema começa quando a ferramenta é tratada como substituta do julgamento profissional.
O farmacêutico é o profissional preparado para desconfiar da resposta fácil. Ele avalia se a informação faz sentido, se a dose é compatível, se o medicamento existe, se a prescrição está adequada, se há risco de interação, se o paciente compreendeu o uso e se há necessidade de encaminhamento.
Receba nossas notícias por e-mail: Cadastre aqui seu endereço eletrônico para receber nossas matérias diariamente
No exemplo de “Pikachu 10 mg via oral”, o valor do farmacêutico não está apenas em reconhecer que Pikachu é um personagem. Está em saber o que fazer diante de uma inconsistência: interromper o processo, confirmar a informação, orientar o paciente, registrar a conduta quando necessário e proteger a segurança da dispensação.
Esse é um tipo de raciocínio que exige conhecimento, experiência, responsabilidade ética e comunicação humana.
Atendimento humanizado continua sendo insubstituível
A IA pode processar informações em segundos, mas não escuta como um farmacêutico. Ela não percebe hesitação no tom de voz do paciente, não identifica medo, vergonha, confusão, uso indevido escondido, automedicação recorrente ou dificuldade real de adesão ao tratamento.
O atendimento farmacêutico envolve acolhimento, vínculo, interpretação de contexto e tomada de decisão responsável. Um paciente pode chegar à farmácia dizendo apenas que precisa de algo para dor, sono, ansiedade, emagrecimento ou enxaqueca. Muitas vezes, a demanda aparente não é o problema completo.
O farmacêutico, quando qualificado, sabe perguntar, ouvir, orientar e reconhecer limites. Ele entende que o medicamento não é apenas uma substância química, mas parte de uma história: hábitos, medos, crenças, acesso, renda, comorbidades, outros tratamentos e expectativas do paciente.
É por isso que a IA dificilmente substituirá o farmacêutico, mas ela pode ser ferramenta.
A formação precisa acompanhar a nova realidade
O avanço da inteligência artificial cria uma nova exigência para a farmácia clínica: o farmacêutico precisa ser ainda mais preparado. Não basta usar tecnologia. É preciso saber avaliar criticamente o que ela entrega.
Isso envolve domínio de farmacoterapia, interações medicamentosas, semiologia, anamnese, interpretação de exames, atenção farmacêutica, comunicação, ética e acompanhamento farmacoterapêutico. Quanto mais sofisticadas forem as ferramentas digitais, maior será a necessidade de profissionais capazes de supervisionar, questionar e corrigir suas respostas.
A Pós-Graduação em Farmácia Clínica e Atenção Farmacêutica do ICTQ prepara o farmacêutico para esse cenário. A formação contempla temas como Atenção Farmacêutica, Semiologia Farmacêutica, Anamnese na Avaliação Clínica, Interpretação Clínica de Exames Laboratoriais, Interações Medicamentosas, Farmacoterapia e Atenção Farmacêutica em diferentes contextos de cuidado.
Também aborda Ética, Atendimento Farmacêutico e Comunicação Interpessoal, competências essenciais para um atendimento humanizado, seguro e tecnicamente responsável.
Em um mercado em que a inteligência artificial responde cada vez mais rápido, o diferencial do farmacêutico será saber quando confiar, quando desconfiar e quando dizer: ainda não há base suficiente para uma decisão segura.
Conheça o programa completo da pós-graduação, clicando aqui.
Participe também: Grupos de WhatsApp e Telegram para receber notícias
