La empresa de seguridad de IA Adversa AI ha publicado un informe alarmante que afirma que el nuevo modelo Grok3 de la empresa de Elon Musk, xAI, presenta importantes vulnerabilidades de seguridad cibernética. El equipo de investigación de Adversa descubrió que este último modelo de IA es vulnerable a "ataques de evasión sencillos", lo que podría permitir a los actores maliciosos obtener información sensible como "cómo engañar a los niños, cómo deshacerse de un cadáver, cómo extraer DMT y cómo fabricar una bomba". Peor aún, Adversa...

Recientemente, un hacker ruso que se hace llamar “emirking” publicó en el conocido mercado de hackers BreachForums lo que afirma son los datos de acceso de 20 millones de cuentas de OpenAI ChatGPT, y los puso a la venta. Esta noticia, publicada conjuntamente el viernes por la empresa de IA OpenAI y la empresa de ciberseguridad Malwarebytes Labs, pone de manifiesto la gravedad de las amenazas a la ciberseguridad. Nota de la imagen: Imagen generada por IA, servicio de licencias de imágenes.

Menos de dos meses después del lanzamiento por parte de Anthropic de la función Computer Use que permite a Claude controlar dispositivos, investigadores de seguridad han descubierto una vulnerabilidad de seguridad potencial. Los últimos hallazgos del experto en ciberseguridad Johann Rehnberger son alarmantes: mediante una simple inyección de indicaciones, la IA puede ser inducida a descargar y ejecutar malware. Rehnberger ha denominado este método de explotación 'ZombAIs'. En su demostración, logró con éxito que Cla...

Un experimento de hacking aparentemente absurdo ha vuelto a hacer sonar la alarma sobre la seguridad de la inteligencia artificial. En un concurso de seguridad de chatbots de IA llamado Freysa, un hacker con el nombre en clave 'p0pular.eth' logró 'engañar' con éxito a la IA para que le transfiriera criptomonedas por valor de 47.000 dólares, solo mediante indicaciones de texto cuidadosamente diseñadas. Este sorprendente caso revela las graves vulnerabilidades de seguridad que existen actualmente en los sistemas de IA. El proceso de ataque del hacker fue una operación de ingeniería social ejemplar: primero, el hacker se hizo pasar por un administrador con privilegios, sorteando hábilmente...

Recientemente, la empresa de ciberseguridad Kaspersky publicó un informe de investigación que revela cómo los ciberdelincuentes están utilizando una aplicación falsa de ChatGPT para realizar ataques de puerta trasera y propagar malware. Lo preocupante es que el objetivo de estos atacantes ha cambiado de Asia en 2022 a Arabia Saudita en 2024, mostrando una evolución constante en sus estrategias de ataque. Nota sobre la imagen: Imagen generada por IA, servicio de licencia de imágenes Midjourney. La investigación de Kaspersky muestra que...

El hacker ético Johann Rehberger ha revelado recientemente una alarmante vulnerabilidad de seguridad. Ha descubierto que ChatGPT puede ser explotado por hackers como software espía para robar datos de usuarios de forma continua. Rehberger ha denominado este método de ataque 'SpAIware', y se centra en la nueva función de memoria a largo plazo de la aplicación ChatGPT para macOS. Esta vulnerabilidad aprovecha la función de memoria persistente recientemente implementada en ChatGPT. Mediante la inyección de indicaciones cuidadosamente elaboradas, los hackers pueden...

Un incidente de filtración de datos afectó a los sistemas de OpenAI, pero no se preocupe por si sus conversaciones de ChatGPT se vieron comprometidas. Si bien el ataque en sí parece haber sido superficial, sirve como recordatorio de que las empresas de IA se han convertido rápidamente en uno de los objetivos más buscados por los hackers. Según el New York Times, el exempleado de OpenAI, Leopold Aschenbrenner, insinuó el incidente en un podcast. Lo calificó de "incidente de seguridad importante", pero fuentes anónimas de la empresa...

El New York Times demanda a OpenAI y Microsoft por infracción de derechos de autor. OpenAI contrademanda al New York Times por un supuesto ataque de hackers. La tensión entre los modelos de IA generativa y los titulares de derechos de autor se intensifica.

OpenAI afirma que The New York Times contrató hackers para atacar ChatGPT. OpenAI sostiene que la contratación de hackers por parte de The New York Times es crucial. The New York Times utiliza indicaciones para atacar ChatGPT. OpenAI responde alegando una violación flagrante de los términos de uso del producto. Las empresas de IA se enfrentan a una crisis similar a las demandas por derechos de autor de Google. Empresas de internet venden datos a empresas de IA. Se propone un nuevo marco de investigación sobre la selección de datos. La generación de contenido de IA se extiende rápidamente por internet. Los grandes modelos lingüísticos admiten el uso de datos generados por IA. ERNIE Bot, etc.

Los 'hackers' tendrán la oportunidad de utilizar la inteligencia artificial para proteger las infraestructuras críticas de EE. UU. de los riesgos de ciberseguridad. El concurso de desafíos ofrecerá casi 20 millones de dólares en premios e incluirá la colaboración de empresas líderes en inteligencia artificial. Se pedirá a los participantes que publiquen sus sistemas como código abierto para que sus soluciones puedan utilizarse ampliamente.

En la DEF CON de este fin de semana, miles de hackers participarán en un ejercicio de equipo rojo para atacar los modelos de IA generativa más importantes del mundo. El objetivo del ejercicio de equipo rojo es identificar las debilidades de los modelos de IA y proporcionar retroalimentación sobre los daños incorporados. Esta actividad es la primera actividad pública de equipo rojo de IA generativa en colaboración con Humane Intelligence, SeedAI y AI Village.