El uso de herramientas de IA no reguladas por parte de los médicos para ayudar en el diagnóstico de pacientes está generando preocupación entre los organismos reguladores. La dificultad para explicar el funcionamiento de los modelos de inteligencia artificial aumenta la complejidad de la regulación.
El uso de herramientas de IA no probadas puede conllevar un riesgo de litigios por negligencia médica. Las facultades de medicina y los centros académicos podrían ser una solución para la regulación de las herramientas de IA en el ámbito médico.