Recentemente, pesquisadores de segurança cibernética descobriram dois modelos de aprendizado de máquina maliciosos secretamente carregados na popular plataforma de aprendizado de máquina HuggingFace. Esses modelos empregam uma técnica nova e preocupante que usa arquivos pickle 'corrompidos' para contornar os mecanismos de detecção de segurança. Karlo Zanki, pesquisador da ReversingLabs, observa que o início dos arquivos pickle extraídos desses arquivos compactados no formato PyTorch sugere...

Recentemente, a OpenAI alertou que seu modelo de IA, o ChatGPT, está sendo usado por cibercriminosos para várias atividades maliciosas, incluindo o desenvolvimento de malwares, disseminação de informações falsas e ataques de phishing. De acordo com um novo relatório, desde o início de 2024, a OpenAI interveio em mais de 20 operações fraudulentas em todo o mundo, revelando uma tendência preocupante de abuso da IA. Essas atividades incluem não apenas a depuração de malwares, mas também a criação de conteúdo para perfis falsos de mídia social e a geração de e-mails de phishing atraentes.

O novo recurso de pesquisa AI do Google pode ter problemas, possivelmente promovendo sites fraudulentos e malware. Usuários relataram resultados de pesquisa direcionando para sites de lixo, com riscos potenciais de malware. O Google afirma estar resolvendo o problema, mas este incidente destaca os desafios que enfrenta no combate a sites de lixo. Este problema levanta preocupações, e o Google ainda enfrenta desafios e espaço para melhorias na área de pesquisa AI.

Pesquisadores criaram um verme de computador chamado 'Morris II'. O verme pode manipular sistemas de inteligência artificial generativa para executar tarefas maliciosas. Ele se espalha infectando novos sistemas e executa ações danosas através da autorreplicação. O verme é projetado especificamente para atacar o ecossistema de IA generativa e redes interconectadas de agentes. Os pesquisadores alertam sobre o impacto potencial desses ataques em áreas como smartphones e veículos.