Recientemente, Meta publicó un informe de seguridad que revela el uso de la inteligencia artificial (IA) generativa por parte de Rusia en campañas de desinformación en línea. Según el informe, aunque Rusia intenta utilizar la IA para mejorar sus intervenciones en la red, hasta ahora estos esfuerzos no han tenido un éxito significativo.
La investigación de Meta indica que las ganancias obtenidas con las estrategias impulsadas por IA de Rusia son mínimas, limitándose principalmente a aumentar la eficiencia y la capacidad de generación de contenido de los malos actores. David Agranovich, jefe de políticas de seguridad de Meta, señaló que desde la invasión rusa de Ucrania en 2022, estas campañas de desinformación se han centrado principalmente en dañar la reputación de Ucrania y sus aliados.
Con las elecciones estadounidenses acercándose, Meta anticipa que las campañas de desinformación respaldadas por Rusia podrían dirigirse a los candidatos políticos que apoyan a Ucrania. En los últimos años, Facebook ha sido criticado por ser un caldo de cultivo de desinformación electoral, y los agentes rusos aprovecharon la plataforma para sembrar discordia política en las elecciones estadounidenses de 2016 y otras.
Los expertos expresan preocupación por el aumento futuro de la desinformación, especialmente con la proliferación de herramientas de IA generativa como ChatGPT y Dall-E, que permiten a los malos actores crear fácilmente una variedad de contenido falso en poco tiempo. Según el informe, la IA no solo puede crear imágenes y videos, sino también generar texto y redactar noticias falsas.
Meta, al detectar campañas de desinformación, se centra en los patrones de comportamiento de las cuentas, no solo en el contenido publicado. De hecho, estas campañas de influencia a menudo abarcan varias plataformas en línea, y Meta descubrió que las publicaciones en algunas plataformas de redes sociales se utilizan para aumentar la credibilidad del contenido falso. Meta ha compartido estos hallazgos con otras empresas de internet, como X (anteriormente Twitter), y ha destacado la importancia de la colaboración para combatir la desinformación.
Sin embargo, Agranovich mencionó que X está actualmente en un proceso de transformación, y muchos miembros de los equipos que anteriormente colaboraban con Meta se han marchado, lo que ha provocado una respuesta más lenta a las campañas de desinformación. Además, X ha reducido drásticamente los recursos de moderación de contenido, convirtiéndolo en un caldo de cultivo para la desinformación.
Puntos clave:
1. 🇷🇺 Las campañas de desinformación en línea impulsadas por IA de Rusia han tenido poca eficacia y no han logrado resultados significativos.
2. 🗳️ Meta prevé que durante las elecciones estadounidenses, Rusia lanzará ciberataques contra los candidatos que apoyan a Ucrania.
3. 🤖 La proliferación de herramientas de IA generativa facilita a los malos actores la creación y difusión de desinformación.
