Recientemente, un usuario de la plataforma social X descubrió que la última versión de ChatGPT, GPT-4o, se negó a generar una imagen de una rosa, alegando "No puedo generar la imagen de esta rosa porque no cumple con nuestras políticas de contenido". Este rechazo inesperado rápidamente llamó la atención y generó debates entre los usuarios, muchos de los cuales intentaron descubrir la razón e incluso encontrar formas de eludir esta restricción.
Para verificar este fenómeno, los usuarios realizaron una serie de experimentos. Algunos usuarios hicieron la solicitud en chino e inglés, incluso intentaron usar símbolos especiales en lugar de "rosa", pero todos los intentos fracasaron. Incluso la solicitud de generar una rosa amarilla recibió el mismo rechazo. Sin embargo, al intentar generar otras flores, como peonías, GPT-4o pudo completar la tarea sin problemas, demostrando que su capacidad de generación de imágenes no tenía problemas.
A medida que la discusión avanzaba, los usuarios presentaron varias conjeturas. Algunos sugirieron que la palabra "rosa" podría haber sido incluida en una lista negra por alguna razón; otros sugirieron que ChatGPT podría haber interpretado "rosa" como una insinuación velada, lo que le impidió generar la imagen. Más interesante aún, algunos usuarios bromearon diciendo que la gran cantidad de solicitudes similares durante el Día de San Valentín podrían haber llevado al sistema a restringir la palabra "rosa".
En las pruebas posteriores, los usuarios descubrieron que si se usaba la forma plural de "rosas", o si no se mencionaba directamente "rosa" sino que se describían sus características, GPT-4o podía generar la imagen de la rosa sin problemas. Este descubrimiento provocó un debate profundo sobre el mecanismo de filtrado de contenido de la IA, sugiriendo que podría deberse a una codificación rígida en las políticas de contenido, lo que provocó este extraño error de juicio.
Al mismo tiempo, esta palabra prohibida en ChatGPT provocó asociaciones con situaciones similares que habían ocurrido antes, donde el sistema respondía de forma ambigua cuando se le preguntaba por ciertos nombres específicos, mostrando una evitación de contenido específico. Aunque actualmente "generar una rosa" se ha convertido en un nuevo tabú, otros chatbots de IA como Gemini y Grok todavía pueden generar imágenes de rosas sin problemas, lo que demuestra las diferencias en las restricciones de contenido entre las diferentes plataformas.
Con el desarrollo de este incidente, se plantearon más dudas sobre la razonabilidad y transparencia de la censura de contenido de la IA, y se espera que la IA del futuro pueda satisfacer las diversas necesidades de los usuarios dentro de un marco razonable.
