Recientemente, una investigación del periódico británico The Guardian reveló posibles problemas de seguridad en la herramienta de búsqueda ChatGPT de OpenAI. La investigación descubrió que ChatGPT puede ser manipulado al procesar resúmenes de páginas web que contienen contenido oculto, incluso devolviendo código malicioso. Este contenido oculto puede incluir instrucciones de terceros destinadas a interferir con la respuesta de ChatGPT, o una gran cantidad de texto oculto que promociona un producto o servicio.
Nota de la fuente: La imagen fue generada por IA, con licencia de Midjourney.
En las pruebas, a ChatGPT se le proporcionó un enlace a una página web falsa de un producto de cámara y se le pidió que determinara si valía la pena comprarla. En una página normal, ChatGPT pudo señalar de manera equilibrada los pros y los contras del producto. Sin embargo, cuando el texto oculto de la página contenía instrucciones para dar una evaluación positiva, la respuesta de ChatGPT se volvió completamente positiva, incluso si la página contenía comentarios negativos. Además, incluso sin instrucciones explícitas, el simple texto oculto podía influir en el resumen de ChatGPT, haciéndolo propenso a dar una evaluación positiva.
Jacob Larsen, experto en ciberseguridad de CyberCX, advirtió que si el sistema de búsqueda de ChatGPT se lanza completamente en su estado actual, podría enfrentar un "alto riesgo", ya que alguien podría diseñar sitios web específicamente para engañar a los usuarios. Sin embargo, también señaló que OpenAI cuenta con un sólido equipo de seguridad de IA y se espera que hayan probado y corregido rigurosamente estos problemas para cuando la función esté disponible para todos los usuarios.
Motores de búsqueda como Google han penalizado a los sitios web que utilizan texto oculto, lo que ha provocado una disminución en la clasificación de estos sitios web o incluso su eliminación completa. Karsten Nohl, científico jefe de SR Labs, señaló que el envenenamiento de SEO es un desafío para cualquier motor de búsqueda, y ChatGPT no es una excepción. Sin embargo, esto no es un problema del modelo de lenguaje grande en sí, sino un desafío que enfrenta como nuevo participante en el campo de la búsqueda.
Puntos clave:
🚨 ChatGPT puede ser manipulado por contenido oculto, devolviendo evaluaciones falsas.
🔍 El texto oculto puede influir en la evaluación de ChatGPT, incluso si la página contiene comentarios negativos.
🛡️ OpenAI está trabajando activamente para solucionar los problemas potenciales y mejorar la seguridad de su herramienta de búsqueda.
