LLM 不靠谱！​​研究：AI 聊天机器人提供了错误的癌症治疗建议

在最近发表在《JAMAOncology》杂志上的一篇文章中，研究人员评估了由人工智能算法驱动的大型语言模型驱动的聊天机器人是否可以提供准确可靠的癌症治疗建议。研究结果显示，聊天机器人提供的建议与 NCCN 指南不完全一致，且有 33.33% 的建议存在错误。研究强调了 AI 技术渗透医疗决策时需谨慎和监管的必要性。这项研究的发现提示了医疗保健提供者需要教育病人关于 AI 技术可能存在的错误信息风险，并呼吁制定针对 AI 和其他潜在危害的技术的联邦法规。