Uma pesquisa recente, conduzida em conjunto pela Ruhr-Universität Bochum, o GESIS Leibniz-Institut e o CISPA Helmholtz-Zentrum na Alemanha, revelou que apenas 0,052% das contas do X (anteriormente Twitter) utilizam avatares gerados por IA. Os pesquisadores analisaram quase 15 milhões de contas do X e descobriram que 7.723 delas usavam avatares gerados por IA.
Nota da imagem: Imagem gerada por IA, provedor de licença de imagem Midjourney
Essas contas apresentam características distintas: poucos seguidores, poucas contas seguidas e mais da metade foi criada em 2023; algumas contas foram até criadas em massa em poucas horas. O principal autor do estudo, Jonas Ricker, apontou que isso indica claramente que essas contas não são de usuários reais. Após nove meses de observação, a plataforma X já fechou mais da metade dessas contas.
Ao realizar uma análise manual de conteúdo de 1.000 contas que usam avatares de IA, os pesquisadores descobriram que os temas de conteúdo dessas contas se concentram principalmente em política, especialmente em questões relacionadas a Trump, vacinas contra COVID-19 e a guerra na Ucrânia. Além disso, tópicos de loteria e finanças (como criptomoedas) também aparecem com frequência. Os pesquisadores especulam que essas contas podem ter sido criadas especificamente para espalhar desinformação e propaganda política, pois a criação em massa de contas com os mesmos metadados sugere que elas podem pertencer a uma rede organizada.
Embora este estudo não tenha investigado o alcance da disseminação dessas contas que usam avatares de IA, suas características de poucos seguidores e poucas contas seguidas indicam que sua influência é limitada. Isso é consistente com um estudo da OpenAI que descobriu que as contas de mídia social que espalham propaganda política gerada por IA recebem poucas respostas, tornando essas contas menos eficazes. A equipe de pesquisa planeja automatizar a identificação de avatares falsos de IA em análises futuras e incorporar modelos mais recentes para melhor entender o impacto dessa tecnologia nas plataformas de mídia social.
Destaques:
📊 O estudo mostra que apenas 0,052% das contas da plataforma X usam avatares gerados por IA, e a maioria são contas recém-criadas.
🗳️ O conteúdo das contas que usam avatares de IA trata principalmente de política, COVID-19 e assuntos financeiros.
🔍 A criação em massa dessas contas e os metadados semelhantes sugerem a possível existência de uma rede organizada para espalhar desinformação.