Recientemente, investigadores de seguridad cibernética descubrieron dos modelos de aprendizaje automático maliciosos subidos sigilosamente a la conocida plataforma de aprendizaje automático HuggingFace. Estos modelos emplearon una técnica novedosa, utilizando archivos pickle 'dañados' para evadir con éxito la detección de seguridad, generando preocupación. El investigador de ReversingLabs, Karlo Zanki, señaló que el inicio de los archivos pickle extraídos de estos archivos de formato PyTorch sugiere...

Recientemente, se ha descubierto una grave vulnerabilidad de seguridad en Impact-Pack, un popular plugin de la comunidad de ComfyUI. La vulnerabilidad reside en el paquete Ultralytics (versiones 8.3.41 y 8.3.42) que utiliza, el cual ha sido comprometido por hackers e infectado con un malware de minería de criptomonedas. Dado que Impact-Pack es un plugin casi universalmente instalado, muchos usuarios podrían verse afectados. El virus descarga y ejecuta automáticamente un programa malicioso a través del paquete Ultralytics modificado, conectándose a un servidor sospechoso para la minería.

OpenAI ha emitido recientemente una advertencia sobre el uso de su modelo de IA ChatGPT por parte de ciberdelincuentes para diversas actividades maliciosas, incluyendo el desarrollo de malware, la difusión de información falsa y ataques de phishing. Según un nuevo informe, desde principios de 2024, OpenAI ha intervenido en más de 20 operaciones fraudulentas a nivel mundial, revelando una preocupante tendencia de abuso de la IA. Estas actividades incluyen no solo la depuración de malware, sino también la creación de contenido para cuentas falsas en redes sociales y la generación de correos electrónicos de phishing atractivos.

La nueva función de búsqueda con IA de Google podría tener problemas, ya que posiblemente promueve sitios web fraudulentos y malware. Los usuarios han informado que los resultados de búsqueda conducen a sitios web basura, con un riesgo potencial de malware. Google afirma estar solucionando el problema, pero este incidente pone de manifiesto los desafíos que enfrenta para gestionar los sitios web basura. Este problema genera preocupación, y Google aún enfrenta desafíos y margen de mejora en el ámbito de la búsqueda con IA.

Investigadores han creado un gusano informático llamado 'Morris II'. Este gusano puede manipular sistemas de inteligencia artificial generativa para realizar tareas maliciosas. Se propaga mediante la auto-replicación e infección de nuevos sistemas, llevando a cabo acciones destructivas. Está diseñado específicamente para atacar el ecosistema de IA generativa y las redes interconectadas de agentes. Los investigadores advierten sobre el impacto de tales ataques en áreas como los teléfonos inteligentes y los automóviles.