Terapias Alívio da Dor & Outros - by dorcronica.blog.br

O ChatGPT ainda não está pronto para atender (bem) consultas sobre medicamentos

ChatGPT não está pronto para atender (bem) consultas sobre medicamentos

O chatbot de inteligência artificial ChatGPT em geral responde perguntas sobre medicamentos incorretamente, de acordo com especialistas em informações sobre medicamentos que se apresentaram na American Society of Health System Pharmacists (ASHP) Midyear 2023 Clinical Meeting & Exhibition.

“De longe, o maior perigo da Inteligência Artificial é que as pessoas concluam cedo demais que a compreendem.”

– Eliezer Yudkowsky

“Os profissionais de saúde e os pacientes devem ser cautelosos ao usar o ChatGPT como fonte confiável de informações relacionadas a medicamentos”, disse a autora principal Sara Grossman, PharmD, professora associada de prática farmacêutica na Long Island University (LIU), na cidade de Nova York.

A Dra. Grossman e seus colegas apresentaram ao ChatGPT 39 perguntas relacionadas a medicamentos com respostas definitivas da literatura profissional publicada. O chatbot forneceu apenas respostas precisas, completas e relevantes para 10 das 39 perguntas. O ChatGPT não forneceu nenhuma resposta a 11 das perguntas, apenas fornecendo informações gerais de contexto. Restaram 28 perguntas para as quais o bot se dignou a oferecer uma resposta. Os pesquisadores pediram ao ChatGPT que fornecesse referências para apoiar essas recomendações, mas isso ocorreu apenas em oito das 28 questões. Além do mais, referências inventadas apareceram em cada uma dessas oito bibliografias.

“Elas pareciam muito reais”, disse a autora do estudo, Tina Zerilli, PharmD, professora associada de prática farmacêutica na LIU, com números PubMed PMID e formatos de citação adequados. Mas quando os pesquisadores tentaram recuperar as supostas fontes, descobriram que elas não existiam. As consequências de tal escorregada podem ser graves. Uma questão colocada ao ChatGPT foi se existe uma interação medicamentosa entre o antiviral COVID-19 nirmatrelvir + ritonavir (Paxlovid, Pfizer) e o medicamento para redução da pressão arterial verapamil. O bot disse não. A resposta é sim.

“Esses medicamentos têm o potencial de interagir uns com os outros, e o uso combinado pode resultar na redução excessiva da pressão arterial”, disse o Dr. Grossman.

Qualquer farmacêutico que optasse por confiar inteiramente no conselho do ChatGPT nesta situação poderia inadvertidamente preparar os pacientes para este efeito secundário evitável e potencialmente fatal.

Grossman e seus colegas não apresentaram este estudo como um ataque contra todos os usos da IA ​​na prática farmacêutica, observando que ferramentas como o ChatGPT continuarão a evoluir. Mas, no momento, o ChatGPT não está equipado para responder adequadamente a perguntas sobre medicamentos, descobriu a equipe de pesquisa.

E eles não estavam sozinhos.

Outro pôster apresentado na reunião da ASHP, de pesquisadores da Iwate Medical University, em Morioka, Japão, descobriu que as respostas do ChatGPT a perguntas sobre efeitos colaterais comuns de medicamentos são frequentemente incorretas quando comparadas com fontes validadas.

Os resultados não são surpreendentes. “Testei o ChatGPT em muitas perguntas que os pacientes fazem sobre farmacogenômica e, na maioria das vezes, as respostas estavam erradas. Concordo plenamente com a conclusão deste estudo”, disse Adrijana Kekic, PharmD, especialista clínica em farmacogenômica e diretora associada do programa de educação para farmácia ambulatorial na Mayo Clinic. O principal desafio de sistemas como o ChatGPT, acrescentou a Dra Kekic, é que eles são fechados; não há como avaliar os dados utilizados na construção das respostas fornecidas.

Kekic vê maior esperança em ferramentas de informação médica de código aberto, como o Meditron, em que tanto as fontes de dados como os métodos de processamento de linguagem são públicos e estão disponíveis para serem continuamente melhorados. “Este é um sistema que usa resumos do PubMed, diretrizes médicas e outras fontes válidas para construir seu modelo, e sabemos exatamente o que ele contém. Sistemas abertos como o Meditron provavelmente fornecerão melhores resultados do que um sistema fechado como o ChatGPT, se já não o estiverem fazendo”, explicou ela.

Cadastre-se E receba nosso newsletter

Veja outros posts relacionados…

nenhum

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

CONHEÇA FIBRODOR, UM SITE EXCLUSIVO SOBRE FIBROMIALGIA
CLIQUE AQUI