En el rápido desarrollo de la inteligencia artificial, si bien la IA generativa ha traído muchas conveniencias, la información falsa que genera se ha convertido en un problema que no se puede ignorar. Para abordar este desafío, el gigante tecnológico Microsoft lanzó recientemente una nueva herramienta llamada "Correction", destinada a corregir la información falsa en el contenido generado por IA.
Como parte de la API de seguridad de contenido de Microsoft Azure AI, "Correction" se encuentra actualmente en fase de vista previa. Esta herramienta puede etiquetar automáticamente texto que pueda contener errores, como resúmenes incorrectos de informes trimestrales de empresas, y compararlo con fuentes confiables para corregir estos errores. Cabe destacar que esta tecnología es aplicable a todos los modelos de IA de generación de texto, incluidos Llama de Meta y GPT-4 de OpenAI.
Un portavoz de Microsoft dijo que "Correction" combina modelos de lenguaje pequeños y grandes para garantizar que el contenido generado sea coherente con los documentos reales. Esperan que esta nueva función ayude a los desarrolladores en campos como la medicina a mejorar la precisión de las respuestas.
Sin embargo, los expertos mantienen una actitud cautelosa. Os Keyes, estudiante de doctorado de la Universidad de Washington, cree que intentar eliminar las falsedades de la IA generativa es como intentar quitar el hidrógeno del agua: es una parte fundamental del funcionamiento de la tecnología. De hecho, los modelos de generación de texto producen información falsa porque en realidad no "saben" nada, solo hacen conjeturas basadas en el conjunto de datos de entrenamiento. Un estudio encontró que ChatGPT de OpenAI tiene una tasa de error del 50% al responder preguntas médicas.
La solución de Microsoft es utilizar un par de metamodelos de "edición" de referencia cruzada para identificar y corregir esta información falsa. Un modelo de clasificación busca posibles errores, invenciones o fragmentos de texto irrelevantes; si detecta estos problemas, introduce un segundo modelo de lenguaje que intenta corregirlos basándose en un "documento base" específico.
Aunque Microsoft afirma que "Correction" puede mejorar significativamente la fiabilidad y la credibilidad del contenido generado por IA, los expertos aún tienen dudas. Mike Cook, investigador de la Queen Mary University, señala que, incluso si "Correction" es tan eficaz como se anuncia, podría exacerbar los problemas de confianza y explicabilidad de la IA. El servicio podría dar a los usuarios una falsa sensación de seguridad, haciéndoles creer que la precisión del modelo es mayor de lo que realmente es.
Cabe mencionar que Microsoft también tiene un cálculo comercial al lanzar "Correction". Si bien la función en sí es gratuita, la función de "detección de documentos base" necesaria para detectar información falsa tiene un límite de uso mensual, y el uso que exceda este límite tiene un coste.
Microsoft está claramente bajo presión para demostrar el valor de su inversión en IA. En el segundo trimestre de este año, la empresa gastó casi 19.000 millones de dólares en gastos de capital y equipos relacionados con la IA, pero hasta ahora ha obtenido pocos ingresos de la IA. Recientemente, analistas de Wall Street han rebajado la calificación de las acciones de Microsoft, cuestionando la viabilidad de su estrategia de IA a largo plazo.
La precisión y el riesgo potencial de información falsa se han convertido en una de las principales preocupaciones de las empresas al probar herramientas de IA. Cook concluye que, si se trata de un ciclo de vida de producto normal, la IA generativa debería seguir en la fase de investigación y desarrollo académicos, para seguir mejorando y comprendiendo sus ventajas y desventajas. Sin embargo, ya se ha implementado en varios sectores.
La herramienta "Correction" de Microsoft es sin duda un intento de resolver el problema de la información falsa de la IA, pero aún queda por ver si realmente puede resolver la crisis de confianza de la IA generativa. En el rápido desarrollo de la tecnología de IA, cómo equilibrar la innovación y el riesgo será un desafío importante para toda la industria.
