Com a comercialização da inteligência artificial generativa, a quantidade de conteúdo falso online aumentou drasticamente. De acordo com dados da plataforma de verificação de identidade Sumsub, o número de deepfakes globalmente aumentou quatro vezes de 2023 para 2024. Em 2024, os deepfakes representaram 7% de todas as fraudes, envolvendo diversas formas, desde usurpação de identidade e tomada de conta até complexas atividades de engenharia social.
Para combater esse problema, o Meta lançou uma nova ferramenta - o Meta Video Seal - que visa combater os deepfakes adicionando marcas d'água imperceptíveis a vídeos gerados por IA. Lançada em código aberto na quinta-feira, a ferramenta visa facilitar a integração em softwares existentes e complementa outras ferramentas de marca d'água lançadas anteriormente pelo Meta, como o Watermark Anything e o Audio Seal.
Pierre Fernandez, cientista de pesquisa de IA do Meta, disse em entrevista: "Desenvolvemos o Video Seal para fornecer uma solução de marca d'água de vídeo mais eficaz, especialmente para detectar vídeos gerados por IA e proteger a originalidade."
Embora o Video Seal não seja a primeira tecnologia de marca d'água de vídeo proposta, com o SynthID do DeepMind e os métodos de marca d'água da Microsoft já disponíveis no mercado, Fernandez apontou algumas deficiências nas ferramentas de marca d'água existentes. Ele disse: "Embora existam outras ferramentas de marca d'água, elas não funcionam bem após a compressão de vídeo, que é muito comum na disseminação de conteúdo em plataformas de mídia social; alguns métodos também são ineficientes, não são abertos ou não podem ser replicados; além disso, muitos métodos são derivados de marcas d'água de imagem, mas as marcas d'água de imagem não são adequadas para vídeos."
Além da função de marca d'água, o Video Seal também pode incorporar informações ocultas em vídeos, que podem ser usadas posteriormente para rastrear a origem do vídeo. O Meta afirma que o Video Seal é eficaz contra técnicas de edição comuns, como desfoque e recorte, bem como algoritmos de compressão comuns.
No entanto, Fernandez também reconhece algumas limitações do Video Seal, especialmente no equilíbrio entre a perceptibilidade da marca d'água e a resistência à adulteração. Ele apontou que a compressão excessiva e a edição extensa podem destruir a marca d'água ou torná-la irrecuperável.
Um desafio maior para o Meta é a falta de incentivo para desenvolvedores e profissionais do setor utilizarem o Video Seal, especialmente aqueles que já usam outras soluções proprietárias. Para isso, o Meta lançou um ranking público chamado Meta Omni Seal Bench para comparar o desempenho de diferentes tecnologias de marca d'água e realizará um workshop sobre tecnologias de marca d'água na principal conferência de IA ICLR deste ano.
Fernandez disse: "Esperamos que cada vez mais pesquisadores e desenvolvedores de IA integrem algum tipo de tecnologia de marca d'água em seu trabalho e esperamos colaborar com a indústria e o meio acadêmico para acelerar o desenvolvimento dessa área."