Recientemente, en la conferencia de seguridad No Hat celebrada en Italia, la empresa Protect AI, con sede en Seattle, anunció el lanzamiento de una herramienta de código abierto llamada Vulnhuntr. El objetivo de esta herramienta es claro: ayudar a los desarrolladores a descubrir vulnerabilidades de día cero en código Python utilizando el modelo de IA Claude de Anthropic.
La forma en que funciona Vulnhuntr difiere significativamente de las herramientas tradicionales de análisis estático de código. En lugar de simplemente enviar fragmentos de código al análisis de IA, la herramienta identifica automáticamente los archivos de proyecto que podrían procesar entradas de usuarios remotos.
A continuación, la IA Claude analiza a fondo estas posibles vulnerabilidades. Durante este proceso, Claude solicita continuamente funciones, clases y variables en el código para rastrear completamente toda la cadena de llamadas, desde la entrada del usuario hasta la salida del servidor. Este método reduce eficazmente la tasa de falsos positivos y falsos negativos, ya que puede leer toda la cadena de llamadas en lugar de analizar solo pequeños fragmentos de código.
Después de optimizar las mejores prácticas para el uso de la IA Claude, el rendimiento de Vulnhuntr ha mejorado considerablemente. Aunque también admite el uso de GPT-4 de OpenAI, los resultados no son tan buenos como con Claude. McInerney afirma que Vulnhuntr ya ha descubierto más de una docena de vulnerabilidades de día cero en grandes proyectos de código abierto de Python, que no habían sido detectadas ni reportadas previamente por los mantenedores del proyecto.
Actualmente, Vulnhuntr se centra principalmente en siete tipos de vulnerabilidades explotables de forma remota, incluyendo la sobreescritura de archivos arbitrarios, la manipulación de archivos, la falsificación de solicitudes entre sitios (CSRF), la inyección de scripts entre sitios (XSS), la referencia directa a objetos, la inyección SQL y la ejecución remota de código. Los proyectos analizados incluyen varios proyectos de código abierto populares en GitHub con decenas de miles de estrellas.
Sin embargo, Vulnhuntr también tiene algunas limitaciones. Actualmente solo admite código Python y depende de un analizador estático de Python. Al analizar el código, la IA genera una puntuación de confianza para ayudar a los usuarios a determinar la validez de las vulnerabilidades. Aunque esta herramienta ha logrado un progreso significativo en la detección de vulnerabilidades de día cero, McInerney también señala que los resultados generados por la IA pueden no ser siempre consistentes, por lo que puede ser necesario ejecutarla varias veces.
Se espera que Vulnhuntr se publique en GitHub, y Protect AI anima a más cazadores de vulnerabilidades a utilizar esta herramienta para probar proyectos de código abierto.
Puntos clave:
🌟 Vulnhuntr es una herramienta de código abierto que utiliza la IA Claude para ayudar a los desarrolladores a descubrir vulnerabilidades de día cero en código Python.
🛠️ El funcionamiento de esta herramienta difiere del análisis estático, ya que puede rastrear la cadena de llamadas completa desde la entrada del usuario hasta la salida del servidor.
🚀 Vulnhuntr ya ha descubierto varias vulnerabilidades de día cero en grandes proyectos de código abierto y se publicará en GitHub para que los desarrolladores la utilicen.