Dans un article récemment publié dans le journal JAMA Oncology, des chercheurs ont évalué la capacité d'un chatbot conversationnel, basé sur un grand modèle linguistique alimenté par l'intelligence artificielle (IA), à fournir des conseils précis et fiables sur le traitement du cancer.
Les résultats de l'étude ont montré que les conseils fournis par le chatbot n'étaient pas entièrement conformes aux recommandations du NCCN (National Comprehensive Cancer Network), et que 33,33 % des conseils contenaient des erreurs.
L'étude souligne la nécessité d'une prudence et d'une réglementation accrues lors de l'intégration de la technologie de l'IA dans la prise de décision médicale. Les conclusions de cette recherche suggèrent que les professionnels de santé doivent éduquer les patients sur les risques potentiels de désinformation liés à la technologie de l'IA, et appellent à l'élaboration d'une réglementation fédérale concernant l'IA et d'autres technologies potentiellement dangereuses.