Hoje em dia, os deepfakes estão em toda parte. Com a proliferação da IA generativa, o conteúdo falso online está crescendo exponencialmente. De acordo com a plataforma de verificação de identidade Sumsub, o número de deepfakes aumentou quatro vezes entre 2023 e 2024. Em 2024, os deepfakes representaram 7% de todas as fraudes, desde usurpação de identidade e roubo de contas até ataques de engenharia social complexos.

Para combater eficazmente os deepfakes, o Meta lançou recentemente uma ferramenta que pode adicionar marcas d'água imperceptíveis a clipes de vídeo gerados por IA. Esta ferramenta, chamada Meta Video Seal, foi anunciada na quinta-feira como código aberto e visa ser integrada a softwares existentes. Junto com outras ferramentas de marca d'água do Meta, Watermark Anything (relançado hoje sob uma licença permissiva) e Audio Seal, ela forma uma solução completa de marca d'água.

Metaverso Facebook meta

Pierre Fernandez, cientista de pesquisa do Meta AI, disse em entrevista ao TechCrunch: "Desenvolvemos o Video Seal para fornecer uma solução de marca d'água de vídeo mais eficaz, especialmente na detecção de vídeos gerados por IA e na proteção da originalidade."

O Video Seal não é a primeira tecnologia desse tipo. O SynthID do DeepMind pode adicionar marcas d'água a vídeos, e a Microsoft também possui seu próprio método de marca d'água de vídeo.

Mas Fernandez acredita que muitos métodos existentes têm deficiências.

"Embora existam outras ferramentas de marca d'água, elas carecem de robustez em relação à compressão de vídeo (a compressão de vídeo é muito comum quando o conteúdo é compartilhado por meio de plataformas de mídia social); não são eficientes o suficiente para uso em larga escala; não são abertas ou reprodutíveis o suficiente; ou são derivadas de marcas d'água de imagem, que não são ideais para vídeo", disse Fernandez.

Além da marca d'água, o Video Seal também pode adicionar mensagens ocultas ao vídeo para revelar sua origem posteriormente. O Meta afirma que o Video Seal pode resistir a operações de edição comuns, como desfoque e recorte, e a algoritmos de compressão comuns.

Fernandez admite que o Video Seal tem algumas limitações, principalmente o equilíbrio entre a perceptibilidade da marca d'água e sua resistência geral à manipulação. Ele acrescentou que a compressão intensa e a edição significativa podem alterar a marca d'água ou torná-la irrecuperável.

Claro, um problema maior que o Video Seal enfrenta é que desenvolvedores e a indústria não têm muitos motivos para adotá-lo, especialmente empresas que já usam soluções proprietárias. Para resolver isso, o Meta está lançando um ranking público, o Meta Omni Seal Bench, especificamente para comparar o desempenho de vários métodos de marca d'água. Além disso, o Meta também realizará um workshop sobre marcas d'água na ICLR (International Conference on Learning Representations) deste ano. A ICLR é uma importante conferência de IA.

"Esperamos que cada vez mais pesquisadores e desenvolvedores de IA integrem alguma forma de marca d'água em seu trabalho", disse Fernandez. "Esperamos colaborar com a indústria e o meio acadêmico para acelerar o desenvolvimento desta área."

Esta iniciativa do Meta, sem dúvida, oferece novas ideias para combater a proliferação de deepfakes. Código aberto e colaboração aberta podem ser uma maneira eficaz de resolver este problema difícil. No entanto, o futuro do Video Seal ainda depende de sua ampla aceitação e uso pela indústria, e de sua capacidade de combater a evolução constante dos deepfakes.