En el campo de la inteligencia artificial, el 'problema de alucinación' de los modelos de lenguaje grandes ha sido un desafío clave para la industria. Recientemente, los resultados de una prueba basada en el sistema de evaluación HHEM-2.1-Open muestran que el modelo GLM-4-9B de Zhihu AI ha presentado resultados notables. Los datos de la prueba muestran que, de los 85 modelos de lenguaje grandes que participaron en la evaluación, GLM-4-9B obtuvo el primer lugar con una tasa de consistencia de hechos del 98.7% y una tasa de respuesta del 100%. Cabe destacar que la tasa de alucinación de este modelo es de solo el 1.3%, un logro significativo.

Una característica ampliamente considerada como un defecto de la inteligencia artificial, la 'alucinación', se ha convertido en la clave de un gran avance científico. Según la revista Fortune, el profesor David Baker, uno de los ganadores del Premio Nobel de Química 2024, logró un importante avance científico gracias a la característica de 'alucinación' de los modelos de IA. El profesor Baker, de la Universidad de Washington, es el único científico estadounidense entre los tres ganadores del Premio Nobel de Química de este año. Utilizó un software informático para inventar con éxito nuevas proteínas, un logro que finalmente le valió el premio. Nota sobre la imagen: Imagen generada por IA, imagen con licencia.

El auge de los grandes modelos lingüísticos (LLM), especialmente la popularización de aplicaciones como ChatGPT, ha transformado radicalmente la forma en que interactuamos con las máquinas. Estos modelos pueden generar textos coherentes y completos, lo que resulta impresionante. Sin embargo, a pesar de su potencia, los LLM son propensos a las "alucinaciones", es decir, a generar contenido que parece real pero que en realidad es ficticio, sin sentido o inconsistente con la indicación. Investigadores de la Universidad de Harvard han realizado un estudio profundo sobre el fenómeno de las "alucinaciones" en los LLM, descubriendo que su origen radica en el principio de funcionamiento de los LLM. Los LLM funcionan procesando enormes cantidades de datos textuales...

Dos artículos revelan que el contenido generado por IA generativa puede considerarse "disparate", destacando que su desprecio por la precisión supone un desafío para los profesionales que trabajan con el público. La información errónea producida por la IA generativa difiere de las mentiras intencionadamente engañosas; los artículos defienden que el término "disparate" es más preciso y ayuda a mejorar la comprensión pública de la tecnología. Actualmente, la legislación sobre IA es insuficiente para prevenir eficazmente los daños causados por este tipo de información errónea. Los autores sugieren la incorporación de regulaciones similares a las del sector editorial, haciendo hincapié en evitar las "declaraciones imprudentes" que puedan causar daño social, y garantizando que la verdad no sea múltiple.

'Dictionary.com ha elegido la palabra "alucinación" como palabra del año 2023, poniendo de manifiesto la amplia aplicación de la inteligencia artificial. Los datos de búsqueda muestran un aumento del 45% en las búsquedas de "alucinación", y un crecimiento interanual del 62% en las búsquedas de términos relacionados con la IA. El CEO de Google, Sundar Pichai, señaló que el problema de las "alucinaciones" en la IA aún no se ha resuelto. El término, derivado del latín, destaca la continua influencia de la inteligencia artificial en el cambio social.'

El diccionario de Cambridge ha anunciado que la palabra del año 2023 es 'alucinación', un concepto redefinido por la tecnología de IA. Las herramientas de inteligencia artificial como ChatGPT han generado un gran interés, pero también han planteado dudas sobre la fiabilidad de los textos generados por IA. Las 'alucinaciones' de la IA tienen un impacto en la realidad, incluyendo situaciones prácticas como la invención de casos legales. Un experto en ética de la IA de la Universidad de Cambridge señala que las 'alucinaciones' de la IA contribuyen a la antropomorfización de la inteligencia artificial.