O Google lançou recentemente um alerta, afirmando que grupos de ameaças persistentes avançadas (APTs) apoiados por vários países estão utilizando seu assistente de inteligência artificial Gemini para aumentar a eficiência do trabalho e melhorar suas capacidades de ataque. Esses hackers não estão simplesmente usando o Gemini para novos ataques cibernéticos, mas sim para pesquisar infraestruturas de ataque potenciais e realizar reconhecimento de alvos, reduzindo assim o tempo de preparação.
O Grupo de Inteligência de Ameaças do Google (GTIG) descobriu que grupos APT de mais de 20 países estão ativamente experimentando o Gemini, sendo as atividades de hackers iranianos e chineses particularmente notáveis. Os hackers estão usando o Gemini para auxiliar no desenvolvimento de ferramentas e scripts, pesquisar vulnerabilidades públicas, traduzir documentos técnicos, realizar reconhecimento de organizações-alvo e encontrar maneiras de evitar a detecção. Pode-se dizer que o Gemini está se tornando uma de suas "novas armas".
Observação da fonte: A imagem foi gerada por IA, fornecida pelo Midjourney.
Por exemplo, hackers iranianos estão usando o Gemini para várias atividades, incluindo reconhecimento de organizações de defesa e especialistas internacionais, pesquisa de vulnerabilidades conhecidas, desenvolvimento de atividades de phishing e criação de conteúdo para operações de influência. Além disso, eles estão usando o Gemini para traduzir e interpretar tecnologia militar, incluindo áreas como drones e sistemas de defesa de mísseis.
Enquanto isso, hackers apoiados pela China estão se concentrando principalmente no reconhecimento de agências militares e governamentais dos EUA, usando o Gemini para pesquisa de vulnerabilidades, criação de scripts e atividades de elevação de privilégios. Eles também estão explorando como acessar o Microsoft Exchange por meio de hash de senhas e até mesmo engenharia reversa de algumas ferramentas de segurança.
Grupos APT da Coreia do Norte também estão usando ativamente o Gemini, abrangendo várias etapas do ciclo de vida de um ataque, pesquisando serviços de hospedagem gratuitos, realizando reconhecimento de alvos e desenvolvendo malware. Eles também estão usando o Gemini para auxiliar o programa de trabalhadores de TI da Coreia do Norte, elaborando candidaturas de emprego sob identidades falsas para obter empregos em empresas ocidentais.
Em contraste, hackers russos usam o Gemini com menos frequência, concentrando-se principalmente em auxílio de scripts e tradução. Suas atividades demonstram uma preferência por modelos de IA desenvolvidos localmente, ou por considerações de segurança operacional, evitando o uso de ferramentas ocidentais.
Vale a pena mencionar que, embora os hackers tenham tentado usar jailbreaks públicos contra o Gemini, essas tentativas não foram bem-sucedidas. Isso também reflete o fenômeno atual de uso indevido de ferramentas de IA generativas no mercado. À medida que o mercado de IA se expande, o número de modelos sem medidas de proteção também aumenta, trazendo novos desafios para a segurança cibernética.
