Recientemente, un estudio de la Escuela de Gobierno John F. Kennedy de Harvard sobre la "revisión de la información errónea" descubrió que artículos de investigación falsos generados por inteligencia artificial se están infiltrando en motores de búsqueda académicos como Google Académico. Esto podría debilitar la confianza pública en los descubrimientos científicos y perjudicar el desarrollo de productos en las industrias que dependen de investigaciones de vanguardia.
Los investigadores encontraron 139 artículos que parecían haber sido generados por herramientas de inteligencia artificial, y más de la mitad de ellos se centraban en temas como salud, medio ambiente y tecnología informática. Estos artículos de investigación falsos podrían llevar a lanzamientos de productos engañosos y a un desperdicio de recursos, minando la confianza pública en la ciencia y la fiabilidad de las decisiones basadas en evidencia.
Sid Rao, director ejecutivo y cofundador de la empresa de inteligencia artificial Positron Networks, afirma que los grandes modelos lingüísticos generan resultados en función de la probabilidad de sesgos presentes en los datos de entrenamiento del modelo base, lo que puede provocar sesgos en el texto que no tienen relación con la metodología científica utilizada para concebir el artículo. Este sesgo puede producir resultados inexactos y generar contenido erróneo de forma sutil.
Rao advierte que las alucinaciones de la inteligencia artificial pueden producir resultados inexactos y generar contenido erróneo de forma sutil. Por ejemplo, un artículo puede llegar a una conclusión correcta, pero aún así incluir afirmaciones de apoyo no citadas o subjetivas. Incluso con una tasa de error o de alucinaciones del 1%, estos dos problemas debilitarían fundamentalmente la confianza en la investigación científica.
El impacto de los artículos de investigación falsos generados por inteligencia artificial en la inversión en I+D es significativo. Si los inversores no pueden distinguir entre lo que es real y lo que es una tontería algorítmica, empezarán a retirarse. La I+D ya es bastante arriesgada, y la incertidumbre añadida por las publicaciones dudosas impulsadas por la IA empeora la situación.
Además, el impacto de los documentos falsificados en la regulación comercial también puede ser muy grave. Las investigaciones poco fiables confunden a los organismos reguladores, y si la base científica de un producto no es fiable, los legisladores o bien aplicarán una regulación excesiva para proteger a los consumidores, o peor aún, elaborarán políticas deficientes basándose en datos falsos.
Los investigadores piden una mayor regulación de los artículos de investigación falsos generados por inteligencia artificial, y hacen un llamamiento a la comunidad científica y a los organismos reguladores para que adopten medidas que garanticen la fiabilidad y la autenticidad de la investigación científica.
