Pesquisadores descobriram cerca de 100 modelos de aprendizado de máquina maliciosos na plataforma de IA Hugging Face, que poderiam permitir que atacantes injetassem código malicioso nas máquinas dos usuários. Os modelos de IA maliciosos usam métodos como PyTorch para executar código malicioso, aumentando os riscos de segurança. Desenvolvedores de IA devem usar novas ferramentas, como o Huntr, para melhorar a segurança dos modelos de IA. Os modelos maliciosos descobertos destacam os riscos que os modelos de IA maliciosos representam para os ambientes dos usuários, exigindo vigilância contínua e segurança aprimorada.

Pesquisa britânica revela: ChatGPT pode ser usado para gerar código malicioso. Várias ferramentas de IA comercial apresentam vulnerabilidades de segurança, que podem comprometer a segurança de bancos de dados. Os pesquisadores alertam: riscos potenciais precisam de atenção. Algumas empresas já adotaram as recomendações para corrigir as vulnerabilidades, mas ainda é necessário fortalecer as estratégias de segurança cibernética.

{'1':'Pesquisa da IBM descobriu que modelos de linguagem grandes, como o GPT-4, podem ser enganados para gerar código malicioso ou fornecer conselhos de segurança falsos.''2':'Os pesquisadores descobriram que apenas conhecimentos básicos de inglês e algum conhecimento do conjunto de dados de treinamento do modelo são suficientes para enganar facilmente os chatbots de IA.''3':'Diferentes modelos de IA têm diferentes sensibilidades à enganação, com GPT-3.5 e GPT-4 sendo mais suscetíveis.'}