Menos de dos meses después del lanzamiento de la función Computer Use de Claude por parte de Anthropic, que permite a Claude controlar dispositivos, investigadores de seguridad han descubierto una potencial vulnerabilidad. Los resultados de la investigación recientemente revelados por el experto en ciberseguridad Johann Rehnberger son sorprendentes: mediante una simple inyección de indicaciones, la IA puede ser inducida a descargar y ejecutar malware.
Rehnberger ha denominado esta vulnerabilidad "ZombAIs". En una demostración, logró que Claude descargara Sliver, un framework de comando y control de código abierto utilizado originalmente para pruebas de equipos rojos, pero que ahora es ampliamente utilizado por hackers como herramienta de malware. Lo que es aún más preocupante es que esto solo es la punta del iceberg. Los investigadores señalan que la IA también puede ser inducida a escribir, compilar y ejecutar código malicioso, con métodos de ataque prácticamente imposibles de prevenir.
Nota de la fuente: La imagen fue generada por IA, a través del servicio Midjourney.
Cabe destacar que este tipo de riesgo de seguridad no es exclusivo de Claude. Expertos en seguridad han descubierto que el chatbot DeepSeek AI también presenta vulnerabilidades de inyección de indicaciones, lo que podría permitir a los atacantes tomar el control de la computadora del usuario. Además, los modelos de lenguaje grande pueden generar códigos de escape ANSI, lo que provoca ataques de "Terminal DiLLMa", que secuestran la terminal del sistema.
Anthropic ya había advertido a los usuarios en la declaración de la versión beta: "La función Computer Use puede no funcionar siempre como se espera. Se recomienda tomar medidas preventivas y aislar a Claude de datos y operaciones sensibles para evitar riesgos relacionados con la inyección de indicaciones."
Este incidente nos recuerda una vez más que, con el rápido desarrollo de la tecnología de IA, los problemas de seguridad no deben pasarse por alto. Los desarrolladores deben encontrar un equilibrio entre funcionalidad y seguridad, mientras que los usuarios deben ser más conscientes de la seguridad al utilizar herramientas de IA y tomar las medidas de protección necesarias.
