Em uma série recente de posts no Threads, Adam Mosseri, chefe do Instagram, enfatizou a necessidade de os usuários de mídia social estarem mais vigilantes em relação ao crescente conteúdo gerado por IA.
Ele apontou que as imagens e informações que os usuários veem online podem não ser reais, pois a tecnologia de IA já é capaz de gerar conteúdo extremamente semelhante à realidade. Para ajudar os usuários a melhor julgarem a autenticidade das informações, Mosseri mencionou que eles devem considerar a origem do conteúdo, e que as plataformas de mídia social também têm a responsabilidade de apoiar isso.
Mosseri afirmou que o papel das plataformas de mídia social é rotular o conteúdo gerado por IA o máximo possível, ajudando os usuários a identificá-lo. No entanto, ele também admitiu que alguns conteúdos podem ser perdidos e não rotulados a tempo. Para isso, ele enfatizou que as plataformas também precisam fornecer informações de contexto sobre os usuários que compartilham o conteúdo, para que os usuários possam melhor decidir o nível de confiança a ser depositado nesse conteúdo. Sua perspectiva reflete uma profunda preocupação com a credibilidade das informações nas mídias sociais.
Atualmente, o Meta (empresa controladora do Instagram) ainda não fornece informações contextuais suficientes para ajudar os usuários a julgarem a autenticidade do conteúdo. Apesar disso, a empresa recentemente sugeriu que pode fazer ajustes significativos em suas regras de conteúdo. Essa mudança visa melhorar a confiança do usuário nas informações e ajudá-los a lidar melhor com os desafios da tecnologia de IA.
Mosseri mencionou que os usuários devem verificar se as informações fornecidas pelos chatbots são confiáveis antes de confiar em mecanismos de busca impulsionados por IA. Isso é semelhante a verificar a origem de uma declaração ou imagem publicada; apenas informações de contas confiáveis são mais confiáveis.
A abordagem de moderação de conteúdo descrita por Mosseri se assemelha mais a um sistema de revisão liderado pelo usuário, como as notas da comunidade no Twitter e os filtros de conteúdo do YouTube. Embora ainda não esteja claro se o Meta implementará recursos semelhantes, considerando a experiência passada da empresa em emprestar de outras plataformas, sua política futura de gerenciamento de conteúdo merece atenção.
Destaques:
🌐 Os usuários de mídia social devem estar atentos ao conteúdo gerado por IA e prestar atenção à origem do conteúdo.
🛡️ O Instagram se esforçará para rotular o conteúdo gerado por IA e fornecer informações de contexto do usuário.
🔍 O Meta planeja fazer ajustes significativos em suas regras de conteúdo para melhorar a transparência e a confiabilidade das informações.