Na era digital, a segurança de software tornou-se cada vez mais crucial. Para detectar vulnerabilidades em softwares, cientistas desenvolveram sistemas de detecção baseados em aprendizado profundo. Esses sistemas atuam como "inspetores" de software, capazes de identificar rapidamente potenciais riscos à segurança. No entanto, um estudo recente chamado EaTVul surpreendeu esses "inspetores".
Imagine se alguém pudesse fazer com que um detector de metais não identificasse objetos perigosos – assustador, não é? Pesquisadores da Data61 do CSIRO, da Universidade de Tecnologia Swinburne e do grupo australiano DST lançaram o EaTVul, uma estratégia inovadora de ataque de evasão. O EaTVul visa expor a vulnerabilidade dos sistemas de detecção baseados em aprendizado profundo a ataques adversários.
Ele modifica sutilmente códigos vulneráveis, fazendo com que o sistema de detecção pense que tudo está normal. É como se vestisse um item perigoso com uma "capa de invisibilidade", enganando o "olho de águia" da inspeção.
O EaTVul passou por testes rigorosos, com taxas de sucesso surpreendentes. Para fragmentos de código com mais de duas linhas, sua taxa de sucesso ultrapassou 83%, enquanto para códigos de quatro linhas, atingiu 100%! Em vários experimentos, o EaTVul manipulou consistentemente as previsões do modelo, expondo falhas significativas nos sistemas de detecção atuais.
O funcionamento do EaTVul é bastante interessante.
Primeiro, ele usa um método chamado Máquina de Vetores de Suporte (SVM) para identificar amostras-chave sem vulnerabilidades, como encontrar as questões mais confusas em um exame. Em seguida, utiliza uma técnica chamada mecanismo de atenção para encontrar as características-chave que influenciam o julgamento do sistema de detecção, como identificar os pontos-chave de uma resposta que o examinador valoriza mais.
Então, ele usa o ChatGPT, um chatbot de IA, para gerar dados enganosos, como criar respostas que parecem corretas, mas estão erradas. Finalmente, ele emprega um algoritmo genético nebuloso para otimizar esses dados, garantindo que eles enganem o sistema de detecção ao máximo.
Os resultados desta pesquisa soam como um alerta para o campo da segurança de software. Mostra que até mesmo os sistemas de detecção mais avançados podem ser enganados. É como um lembrete de que até mesmo os sistemas de segurança mais rígidos podem ter vulnerabilidades. Portanto, precisamos melhorar e fortalecer continuamente esses sistemas, assim como atualizamos equipamentos de segurança, para lidar com "hackers" cada vez mais astutos.
Endereço do artigo:https://arxiv.org/abs/2407.19216
Destaques:
🚨 EaTVul é um novo método de ataque que engana eficazmente os sistemas de detecção de vulnerabilidades de software baseados em aprendizado profundo, com uma taxa de sucesso de 83% a 100%.
🔍 EaTVul utiliza técnicas como Máquina de Vetores de Suporte, mecanismo de atenção, ChatGPT e algoritmos genéticos nebulosos para modificar códigos vulneráveis de forma inteligente, escapando da detecção.
⚠️ Esta pesquisa expõe a vulnerabilidade dos sistemas atuais de detecção de vulnerabilidades de software, alertando para a necessidade de desenvolver mecanismos de defesa mais robustos para lidar com esse tipo de ataque.
