O chefe do Instagram, Adam Mosseri, declarou nas redes sociais que os usuários devem estar atentos às imagens que veem online, especialmente aquelas geradas por inteligência artificial que podem ser facilmente confundidas com a realidade. Mosseri enfatizou que a inteligência artificial melhorou significativamente sua capacidade de criar conteúdo realista, portanto, os usuários devem ser cautelosos, considerar a fonte da informação e as plataformas de mídia social têm a responsabilidade de ajudar nesse processo.
Ele escreveu: "Como plataformas de internet, nosso dever é rotular o conteúdo gerado por inteligência artificial o máximo possível." No entanto, Mosseri também admitiu que, devido às limitações tecnológicas, algumas dessas marcações podem ser perdidas. Portanto, as plataformas também precisam fornecer informações de contexto sobre quem está compartilhando, para ajudar os usuários a avaliar a credibilidade da informação.
Mosseri apontou ainda que, assim como é necessário entender que um chatbot pode fornecer informações incorretas ao usar um mecanismo de busca de inteligência artificial, verificar se a imagem ou declaração vem de uma conta confiável é uma maneira importante de julgar a veracidade do conteúdo. Atualmente, a plataforma Meta ainda não oferece informações de contexto como as mencionadas por Mosseri, embora a empresa tenha insinuado recentemente que fará ajustes significativos nas regras de conteúdo no futuro.
O sistema que ele descreveu parece mais um mecanismo de moderação liderado pelos usuários, semelhante às notas da comunidade no X e no YouTube, ou aos recursos de moderação personalizada do Bluesky. Embora não haja notícias claras sobre se o Meta implementará um recurso semelhante, é importante notar que o Meta recentemente se inspirou no Bluesky e pode fazer melhorias futuras.