Pesquisadores avaliaram a confiabilidade dos chatbots de modelos de linguagem grandes (LLMs) em fornecer recomendações de tratamento para câncer e descobriram que 33,33% das recomendações não estavam totalmente em conformidade com as diretrizes estabelecidas. As recomendações do chatbot não estavam totalmente em conformidade com as diretrizes do NCCN, e os especialistas também não conseguiram detectar esses erros, destacando o desempenho abaixo da média dos chatbots LLM em fornecer recomendações de tratamento do câncer confiáveis e precisas. Dada a ampla utilização da IA, os profissionais de saúde precisam educar adequadamente os pacientes sobre o potencial de informações incorretas que essa tecnologia pode fornecer.