Recentemente, na conferência de segurança No Hat, realizada na Itália, a Protect AI, sediada em Seattle, anunciou o lançamento de uma ferramenta de código aberto chamada Vulnhuntr. O objetivo da ferramenta é claro: ajudar os desenvolvedores a encontrar vulnerabilidades zero-day em código Python usando o modelo de IA Claude da Anthropic.
A maneira como o Vulnhuntr funciona difere significativamente das ferramentas tradicionais de análise estática de código. Em vez de simplesmente enviar trechos de código para análise de IA, ele identifica automaticamente arquivos de projeto que podem processar entradas de usuários remotos.
Em seguida, a IA Claude analisa profundamente essas potenciais vulnerabilidades. Durante esse processo, o Claude solicita continuamente funções, classes e variáveis no código para rastrear completamente toda a cadeia de chamadas, desde a entrada do usuário até a saída do servidor. Este método reduz efetivamente a taxa de falsos positivos e falsos negativos, pois analisa toda a cadeia de chamadas, e não apenas pequenos fragmentos de código.
Após otimizações com as melhores práticas de uso da IA Claude, o desempenho do Vulnhuntr melhorou significativamente. Embora também suporte o uso do GPT-4 da OpenAI, os resultados não são tão bons quanto com o Claude. McInerney afirma que o Vulnhuntr já descobriu mais de dez vulnerabilidades zero-day em grandes projetos Python de código aberto que não haviam sido detectadas ou relatadas pelos mantenedores do projeto.
Atualmente, o Vulnhuntr concentra-se em sete tipos de vulnerabilidades exploráveis remotamente, incluindo sobrescrita de arquivos arbitrários, manipulação de arquivos, falsificação de solicitação entre sites (CSRF), script entre sites (XSS), referência direta a objetos, injeção SQL e execução remota de código. Os projetos analisados incluem vários projetos populares de código aberto no GitHub com dezenas de milhares de estrelas.
No entanto, o Vulnhuntr também apresenta algumas limitações. Atualmente, ele suporta apenas código Python e depende de um analisador estático Python. Ao analisar o código, a IA gera uma pontuação de confiança para ajudar os usuários a determinar a validade da vulnerabilidade. Embora a ferramenta tenha demonstrado progresso significativo na detecção de vulnerabilidades zero-day, McInerney também observa que os resultados gerados pela IA podem não ser sempre consistentes, portanto, várias execuções podem ser necessárias.
O Vulnhuntr deverá ser lançado no GitHub, e a Protect AI incentiva mais caçadores de vulnerabilidades a usar a ferramenta para testar projetos de código aberto.
Destaques:
🌟 Vulnhuntr é uma ferramenta de código aberto que usa a IA Claude para ajudar os desenvolvedores a encontrar vulnerabilidades zero-day em código Python.
🛠️ O funcionamento da ferramenta difere da análise estática, rastreando a cadeia de chamadas completa, da entrada do usuário à saída do servidor.
🚀 O Vulnhuntr já descobriu várias vulnerabilidades zero-day em grandes projetos de código aberto e será lançado no GitHub para uso dos desenvolvedores.