O Zoom está prestes a lançar um recurso impressionante para seus usuários, mas teremos que esperar até o próximo ano para vê-lo em ação. Na sua conferência anual para desenvolvedores, a gigante de videoconferência anunciou que lançará um recurso que transforma vídeos de usuários em avatares digitais realistas, impulsionados por IA.
Este avatar digital não inclui apenas a cabeça, mas também os braços e ombros, sendo praticamente um "gêmeo digital". Os usuários precisam apenas inserir o texto que desejam que o avatar diga, e o Zoom gerará áudio sincronizado com os movimentos labiais do avatar. Parece mágico, não é?
Smita Hashim, diretora de produtos do Zoom, disse que o recurso visa ajudar as pessoas a se comunicarem de forma "mais rápida e eficiente" com colegas em comunicação "assíncrona". Ela enfatizou que esses avatares podem economizar tempo e esforço valiosos para os usuários, além de aumentar a eficiência na criação de vídeos.
No entanto, o surgimento dessa tecnologia também levanta algumas preocupações. Temos que nos perguntar: isso abrirá caminho para o risco de deepfakes?
Na verdade, várias empresas já desenvolveram tecnologias de IA semelhantes capazes de criar "clones" digitais do rosto de uma pessoa, com fala sintética bastante natural. Por exemplo, a Tavus ajuda marcas a criar personagens virtuais para anúncios em vídeo personalizados, enquanto a Microsoft lançou no ano passado um serviço que gera substitutos digitais convincentes.
Mas essas ferramentas geralmente implementam medidas de proteção rigorosas para evitar o mau uso. A Tavus exige declarações de consentimento oral, enquanto a Microsoft exige que seus clientes obtenham permissão e consentimento por escrito de todos os indivíduos cujas imagens sejam usadas nos avatares.
Em comparação, a descrição das medidas de segurança do Zoom parece um pouco vaga. Hashim disse que a empresa está construindo "múltiplas proteções" para o recurso de avatares personalizados, incluindo "autenticação avançada" e marcas d'água. Ela prometeu continuar a revisão e adicionar medidas de segurança no futuro, conforme necessário.
Essa iniciativa do Zoom está alinhada com a visão grandiosa do CEO Eric Yuan. Ele espera que, no futuro, seja possível criar uma IA que possa participar de reuniões do Zoom, responder a e-mails e até atender chamadas em seu lugar.
No entanto, o surgimento dessa tecnologia coincide com a disseminação rápida de deepfakes nas redes sociais, tornando cada vez mais difícil distinguir a verdade da falsidade. Neste ano, vídeos deepfake envolvendo o presidente dos EUA, Joe Biden, Taylor Swift e a vice-presidente Kamala Harris obtiveram milhões de visualizações e compartilhamentos online. Recentemente, após o furacão Helene, uma enxurrada de imagens falsas geradas por IA inundou a internet, mostrando cenas fictícias de destruição e sofrimento humano.
A tecnologia deepfake também tem sido usada para atingir indivíduos, como se passando por parentes para cometer fraudes. De acordo com a Comissão Federal de Comércio dos EUA, as perdas relacionadas a fraudes de identidade superaram US$ 1 bilhão no ano passado.
Então, como o Zoom pretende impedir que golpistas usem sua ferramenta para gerar vídeos falsos maliciosos? Ainda não está claro. Imagens simuladas fornecidas pela empresa mostram uma marca d'água visível no canto superior direito dos vídeos com avatares personalizados. Mas essa marca d'água pode ser facilmente removida por ferramentas de gravação de tela.
Esperamos saber mais detalhes quando o Zoom planeja lançar esse recurso no primeiro semestre de 2025. Na ocasião, os usuários precisarão pagar uma taxa adicional de US$ 12 por mês para usar avatares personalizados no Zoom Clips (sua ferramenta de vídeo assíncrona).
Independentemente das medidas que o Zoom adote, os esforços regulatórios estão em andamento para tentar conter a proliferação de deepfakes. Na ausência de uma lei federal nos EUA que criminalize deepfakes, mais de 10 estados já promulgaram regulamentos contra a personificação auxiliada por IA. Uma lei da Califórnia (atualmente suspensa) seria a primeira a dar aos juízes o poder de ordenar que os publicadores de conteúdo deepfake o removam, sob pena de multa.
Com o lançamento desse novo recurso pelo Zoom, não podemos deixar de nos perguntar: o progresso tecnológico sempre traz impactos positivos? Ao desfrutar da conveniência, estamos inadvertidamente abrindo a Caixa de Pandora? Isso requer uma reflexão profunda de cada um de nós.
