Recentemente, o pesquisador de segurança alemão Benjamin Fleischer publicou um relatório no GitHub da Microsoft, apontando uma vulnerabilidade de segurança grave na API do ChatGPT da OpenAI, que pode ser explorada para lançar ataques de negação de serviço distribuído (DDoS). Essa vulnerabilidade permite que atacantes, por meio de simples solicitações HTTP, usem o rastreador web do ChatGPT para enviar solicitações em massa a qualquer site, podendo até mesmo causar a paralisação do site alvo.
Observação da fonte: Imagem gerada por IA, provedor de serviços de licenciamento de imagens Midjourney
De acordo com o relatório de Fleischer, a API do ChatGPT apresenta sérias falhas no processamento de solicitações HTTP POST direcionadas a sites específicos. Quando o ChatGPT referencia um site, ele chama um endpoint de API chamado "attributions" para solicitar informações a esse site. Se um atacante enviar uma solicitação a essa API contendo muitos links diferentes, o rastreador web do ChatGPT acessará esses links simultaneamente, lançando uma enxurrada de solicitações ao site alvo.
Fleischer destaca que a API não verifica links duplicados nem limita a quantidade de links. Isso significa que um atacante pode enviar milhares de links em uma única solicitação, todos apontando para o mesmo site alvo. Com ferramentas simples, um atacante pode enviar solicitações ao endpoint do ChatGPT sem autenticação, e os servidores da OpenAI enviarão solicitações para cada link, possivelmente enviando de 20 a 5000 solicitações por segundo ao site alvo.
Como as solicitações vêm de diferentes endereços IP, a vítima dificilmente percebe o ataque. Mesmo que a vítima ative um firewall para bloquear os endereços IP do ChatGPT, o rastreador web enviará as solicitações novamente em um milissegundo. Fleischer afirma ter relatado o problema à OpenAI e à Microsoft por vários canais, mas até agora não recebeu resposta.
Além da vulnerabilidade DDoS, Fleischer menciona outras falhas de segurança na API, incluindo uma vulnerabilidade de injeção de prompt. Isso permite que o rastreador web responda a perguntas por meio do mesmo endpoint da API, em vez de apenas obter informações do site. Fleischer questiona por que a OpenAI não implementou medidas de segurança básicas para evitar esses abusos, apontando que essa é uma lógica de validação simples usada por desenvolvedores de software há anos.
Ele acredita que essa vulnerabilidade pode indicar que a OpenAI não considerou suficientemente a segurança ao desenvolver seu "agente de IA". Para um rastreador web em operação há tanto tempo, a falta de limitação na quantidade de solicitações ao mesmo site é particularmente irracional.
Destaques:
1. 🚨 A API do ChatGPT da OpenAI apresenta uma vulnerabilidade de segurança que pode ser usada para lançar ataques DDoS.
2. 📈 Um atacante pode enviar milhares de links para o mesmo site em uma única solicitação, sobrecarregando o site alvo.
3. ❗ A vulnerabilidade já foi relatada à OpenAI e à Microsoft, mas sem resposta, mostrando negligência na gestão de segurança.
