Com o aumento da popularização da tecnologia deepfake, a quantidade de conteúdo falso na internet cresceu exponencialmente. De acordo com dados da plataforma de verificação de identidade Sumsub, o número de deepfakes quadruplicou de 2023 para 2024, representando 7% de todas as fraudes em 2024. Isso inclui diversas formas de fraude, como usurpação de identidade, invasão de contas e ataques sofisticados de engenharia social.
Para enfrentar esse desafio, a Meta lançou recentemente uma nova ferramenta de marca d'água - Meta Video Seal - projetada para adicionar marcas d'água quase imperceptíveis a vídeos gerados por IA. A ferramenta é de código aberto e foi projetada para se integrar perfeitamente a softwares existentes. O Meta Video Seal se junta a outras ferramentas de marca d'água da Meta, como Watermark Anything e Audio Seal.
Pierre Fernandes, cientista de pesquisa de IA da Meta, em entrevista ao TechCrunch, afirmou: "Desenvolvemos o Video Seal para fornecer uma solução de marca d'água de vídeo mais eficaz, especialmente para detectar vídeos gerados por IA e proteger a originalidade."
Embora o Video Seal não seja a primeira tecnologia desse tipo (DeepMind e Microsoft também possuem tecnologias de marca d'água de vídeo semelhantes), Fernandes acredita que algumas soluções existentes apresentam deficiências. Ele apontou: "Muitas ferramentas de marca d'água têm pouca robustez na compressão de vídeo, não podem ser amplamente utilizadas em plataformas de mídia social e carecem de abertura e reprodutibilidade."
Além da marca d'água, o Video Seal também pode adicionar informações ocultas ao vídeo para identificar posteriormente sua origem. A Meta afirma que a ferramenta é capaz de resistir a edições comuns, como desfoque e recorte, e a algoritmos de compressão populares. No entanto, Fernandes também admite que existe um equilíbrio entre a perceptibilidade da marca d'água e a robustez contra manipulações. Compressão excessiva e edições pesadas podem afetar a marca d'água, ou até mesmo impedi-la de ser recuperada.
Claro, um desafio maior para o Video Seal é a possível baixa adoção por desenvolvedores e indústria, especialmente por empresas que já utilizam soluções proprietárias. Para resolver isso, a Meta planeja lançar um ranking público - Meta Omni Seal Bench - para comparar o desempenho de diferentes métodos de marca d'água e realizará uma oficina sobre marcas d'água na conferência ICLR deste ano.
Fernandes espera que cada vez mais pesquisadores e desenvolvedores de IA integrem algum tipo de marca d'água em seus trabalhos, colaborando com a indústria e o meio acadêmico para impulsionar o progresso nesse campo.
Destaques:
🔍 A ferramenta Meta Video Seal da Meta adiciona marcas d'água a vídeos gerados por IA, resistindo a edições e compressão.
📊 A ferramenta é de código aberto, projetada para integração com softwares existentes e visa impulsionar o desenvolvimento de tecnologias de marca d'água na indústria.
🏆 A Meta também lançará um ranking público para comparar diferentes métodos de marca d'água, promovendo a colaboração e a troca de informações na indústria.