En un artículo reciente publicado en la revista JAMA Oncology, los investigadores evaluaron si los chatbots impulsados por grandes modelos de lenguaje, a su vez impulsados por algoritmos de inteligencia artificial, podían ofrecer consejos precisos y fiables sobre el tratamiento del cáncer.
Los resultados del estudio mostraron que las recomendaciones proporcionadas por los chatbots no coincidían completamente con las directrices de la NCCN (National Comprehensive Cancer Network), y que el 33,33% de las recomendaciones contenían errores.
El estudio destaca la necesidad de precaución y regulación cuando la IA se integra en la toma de decisiones médicas. Los hallazgos de esta investigación sugieren que los profesionales de la salud deben educar a los pacientes sobre los posibles riesgos de información errónea asociados con la tecnología de IA, y abogan por la creación de regulaciones federales para la IA y otras tecnologías potencialmente peligrosas.