Un estudio reciente realizado conjuntamente por la Universidad Ruhr de Bochum, el Instituto Leibniz GESIS y el Centro Helmholtz CISPA en Alemania, reveló que solo el 0.052% de las cuentas de X (anteriormente Twitter) utilizan avatares generados por IA. Los investigadores analizaron casi 15 millones de cuentas de X y encontraron que 7723 de ellas utilizaban avatares generados por IA.
Nota de la fuente: La imagen fue generada por IA, con licencia de Midjourney.
Estas cuentas presentan características notables: pocos seguidores, pocas cuentas seguidas, y más de la mitad fueron creadas en 2023; algunas incluso se crearon en masa en cuestión de horas. El autor principal del estudio, Jonas Ricker, señala que esto indica claramente que estas cuentas no pertenecen a usuarios reales. Tras nueve meses de observación, la plataforma X ha cerrado más de la mitad de estas cuentas.
Al realizar un análisis manual del contenido de 1000 cuentas que utilizan avatares de IA, los investigadores descubrieron que los temas principales se centraban en la política, especialmente en temas relacionados con Trump, la vacuna contra la COVID-19 y la guerra de Ucrania. Además, se observó con frecuencia la aparición de temas relacionados con loterías y finanzas (como las criptomonedas). Los investigadores conjeturan que estas cuentas podrían haberse creado específicamente para difundir información falsa y propaganda política, ya que la creación masiva de cuentas con metadatos similares sugiere la posible existencia de una red organizada.
Aunque este estudio no exploró el alcance de la difusión de estas cuentas que utilizan avatares de IA, su bajo número de seguidores y cuentas seguidas indica una influencia limitada. Esto coincide con un estudio de OpenAI que descubrió que las cuentas de redes sociales que difunden propaganda política generada por IA reciben pocas respuestas, lo que indica una baja efectividad. El equipo de investigación planea automatizar la identificación de avatares falsos de IA en futuros análisis e incorporar modelos más actualizados para comprender mejor el impacto de esta tecnología en las plataformas de redes sociales.
Puntos clave:
📊 El estudio muestra que solo el 0.052% de las cuentas de la plataforma X utilizan avatares generados por IA, y la mayoría son cuentas recién creadas.
🗳️ El contenido de las cuentas que utilizan avatares de IA se centra principalmente en temas políticos, COVID-19 y finanzas.
🔍 La creación masiva de estas cuentas y sus metadatos similares sugieren la posible existencia de una red organizada para difundir información falsa.