Con el rápido desarrollo de la tecnología de inteligencia artificial, muchas empresas están lanzando sus propios sistemas de "agentes de IA", capaces de interactuar de forma autónoma con el entorno y realizar tareas sin intervención humana. Microsoft y Anthropic, entre otras, ya han lanzado sus propios agentes de IA, mientras que el líder del sector, OpenAI, aún no ha publicado su versión, lo que suscita interrogantes. Según un informe de The Information, el retraso de OpenAI está relacionado con los ataques de "inyección de prompts".

El desarrollador Evan Zhou ha explotado con éxito el nuevo sistema de IA de Apple, Apple Intelligence, en macOS 15.1 Beta 1, utilizando un ataque llamado 'inyección de prompts'. Esto le permitió eludir las instrucciones y obtener respuestas arbitrarias. Si bien el objetivo inicial era modificar la calidad del texto, Zhou, inspirándose en un prompt compartido por un usuario de Reddit, construyó un ataque que sobrescribió el prompt del sistema, haciendo que la IA ignorara las instrucciones originales y respondiera con un nuevo texto. Este descubrimiento ha generado una gran preocupación, aunque Apple Intelligen...