Recientemente, el Wall Street Journal informó que la empresa de inteligencia artificial OpenAI ha desarrollado una herramienta capaz de identificar con alta precisión el texto generado por ChatGPT, aunque aún no se ha lanzado oficialmente. En respuesta, OpenAI reconoció que está investigando la tecnología de marcas de agua de texto, pero indicó que aún enfrenta numerosos desafíos.
Según se informa, OpenAI planea utilizar la tecnología de marcas de agua de texto para centrarse en la detección de texto proveniente de ChatGPT, en lugar del contenido generado por modelos de otras empresas. Esta tecnología realizará pequeños ajustes en la forma en que ChatGPT selecciona las palabras, creando una "marca de agua" invisible en el texto, que luego podrá detectarse con una herramienta especializada.
OpenAI afirma que la marca de agua de texto es solo una de las varias soluciones que está explorando, otras incluyen clasificadores y metadatos, con el objetivo de determinar el origen del texto. Si bien la tecnología de marcas de agua de texto funciona bien en algunos casos, su eficacia disminuye cuando se enfrenta a manipulaciones como la traducción, la reescritura o la inserción de caracteres especiales. Además, esta tecnología podría tener un impacto desproporcionado en grupos específicos, como los hablantes no nativos de inglés.
Dadas estas complejidades y su potencial impacto en todo el ecosistema, OpenAI afirma que procederá con cautela en la investigación de la tecnología de rastreo de texto, priorizando el desarrollo de herramientas de autenticación para contenido audiovisual.
Esta decisión ha generado un amplio debate en la industria sobre la identificación y gestión del contenido generado por IA. Con el rápido desarrollo de la tecnología de IA, lograr un equilibrio entre la protección de la innovación y la prevención de riesgos se ha convertido en un punto focal de atención para todas las partes.
