Un nuevo estudio del Tow Center for Digital Journalism de la Universidad de Columbia ha encendido una señal de alarma sobre los servicios de búsqueda de inteligencia artificial. El estudio muestra que ChatGPT tiene graves problemas de precisión al citar fuentes de noticias, incluso las de editores que colaboran directamente con OpenAI.
El equipo de investigación realizó una prueba exhaustiva de 200 citas de noticias de 20 editores diferentes, y los resultados fueron sorprendentes: ChatGPT cometió errores o proporcionó información de fuentes parcialmente incorrectas en 153 casos. Más preocupante aún es que el sistema rara vez admite la falta de información, solo lo hizo en siete ocasiones.
Los investigadores señalan que, para mantener una buena experiencia de usuario, ChatGPT prefiere inventar respuestas a admitir la falta de información. Lo que es aún más grave es que el sistema presenta estas fuentes falsas con una confianza inquietante, sin mostrar ninguna incertidumbre.
Incluso publicaciones de renombre como el New York Post y The Atlantic, que colaboran directamente con OpenAI, no se libraron de este problema. En algunos casos, ChatGPT incluso enlazó con sitios web que habían copiado artículos completos sin autorización, en lugar de la fuente original.
Matt Honan, editor en jefe de MIT Technology Review, comentó: "Como editores, esto no es lo que queremos ver, y las soluciones viables son extremadamente limitadas."
La respuesta de OpenAI a estos hallazgos preocupantes ha sido cautelosa. La empresa destaca que ChatGPT presta servicio a 250 millones de usuarios semanales y afirma que está trabajando con sus socios para mejorar la precisión de las citas.
La conclusión final del estudio es clara: actualmente, los editores no pueden garantizar que ChatGPT Search muestre su contenido con precisión, independientemente de si tienen o no una relación de colaboración con OpenAI. Este descubrimiento sin duda impulsará un mayor debate y mejoras en la fiabilidad de la información de la inteligencia artificial.
