Após sete dias de feriado nacional na China, surgiram relatos de oito dias de críticas direcionadas a Lei Jun e sua empresa por causa da Inteligência Artificial. Em resposta, Lei Jun sugeriu a necessidade de uma legislação mais robusta para regulamentar o uso de deepfakes de rosto e voz, devido aos potenciais problemas éticos e legais.

Lei Jun apontou que os dispositivos de inteligência artificial, como plataformas importantes para a implementação da tecnologia de IA, estão expandindo continuamente sua gama de aplicações, desde smartphones e veículos inteligentes, dispositivos vestíveis até casas inteligentes e robôs. Essa tendência não apenas injeta nova vitalidade no mercado de consumo, mas também fornece um motor crucial para a atualização de alta qualidade e inteligente da cadeia industrial. No entanto, na fase inicial de rápido desenvolvimento dos dispositivos de inteligência artificial, ainda é necessário superar gargalos tecnológicos centrais, construir um ecossistema de inovação colaborativa para promover o desenvolvimento industrial regulamentado, colaborativo, inovador e de alta qualidade.

Imagine: apenas com uma foto, você pode ver essa pessoa falando, se movendo e até mesmo atuando em segundos. Essa é a magia do OmniHuman-1, lançado pela ByteDance. Este modelo de inteligência artificial, que recentemente viralizou na internet, consegue gerar vídeos altamente realistas, dando vida a imagens estáticas. Combinado com um áudio, ele sincroniza os movimentos labiais, os movimentos corporais e as expressões faciais. Diferentemente das tecnologias tradicionais de deepfake, o OmniHuman-1 não se limita apenas à substituição de rostos, mas consegue animar o corpo inteiro.

Com o rápido desenvolvimento da tecnologia de inteligência artificial, o conteúdo deepfake tem chamado cada vez mais a atenção da sociedade. Para lidar com essa questão emergente, a Califórnia promulgou, no início do ano, uma série de novas leis e regulamentos para fortalecer a regulamentação de conteúdo deepfake gerado por inteligência artificial. Essas leis afetarão plataformas de mídia social, criadores de conteúdo e setores relacionados, marcando uma nova fase na regulamentação do uso da tecnologia de IA. Nota da imagem: A imagem foi gerada por IA, com a Midjourney sendo uma das fornecedoras de serviços de licenciamento de imagens. Uma lei importante é a expansão do escopo de...

Nos últimos anos, a IA se integrou a vários aspectos da vida, desde assistentes de voz até veículos autônomos. No entanto, sua ampla aplicação também apresenta riscos potenciais, sendo a tecnologia deepfake um foco de preocupação social. A tecnologia deepfake usa algoritmos para gerar conteúdo falso altamente realista, aprendendo com grandes quantidades de dados reais para criar vídeos ou imagens extremamente parecidos com pessoas ou cenários. Embora demonstre o poder da IA, também dá origem a atividades fraudulentas. Por exemplo, recentemente ocorreram casos de lives de vendas que usavam a imagem e a voz do Dr. Zhang Wenhong falsamente. A falsificação...

Recentemente, no 12º Congresso de Finanças e Tecnologia Financeira Digital, parte da série de eventos do Fórum Zhongguancun, a solução de detecção Deepfake da Ant Group foi selecionada para o "Caso de Aplicação e Inovação Tecnológica em Fintech". Apoiada pelo seu laboratório Tianji, a Ant Group construiu, pela primeira vez no setor, um conjunto de dados Deepfake em larga escala, de alta qualidade e multimodal, sintetizando mais de um milhão de conteúdos multimídia. Isso simula completamente as amostras de ataque Deepfake em ambientes de controle de risco financeiro do mundo real, tornando-se um recurso valioso para avaliar os métodos de detecção Deepfake existentes no setor financeiro.

A Meta lançou recentemente um novo sistema de marca d'água neural chamado Video Seal, projetado para ajudar a identificar vídeos gerados por IA, mesmo aqueles que foram editados, rastreando efetivamente sua origem. Essa marca d'água é invisível para os espectadores, mas pode ser detectada para verificar a autenticidade do vídeo. A Meta lançou o sistema completo como um software de código aberto sob a licença MIT, incluindo o modelo de marca d'água Video Seal, artigo de pesquisa e códigos de treinamento e inferência. Além disso, a Meta também lançou...

Recentemente, um vídeo gerou grande repercussão online, mostrando uma conta imitando Zhang Wenhong em uma transmissão ao vivo vendendo barras de proteína. Muitos internautas questionaram: "Zhang Wenhong está vendendo produtos?" Mais preocupante ainda, alguns espectadores mais velhos acreditaram no vídeo e até fizeram pedidos, repassando a informação em grupos de redes sociais. Após verificação jornalística, descobriu-se que o Zhang Wenhong no vídeo não era real, mas sim um deepfake criado com tecnologia de IA. Em resposta, Zhang Wenhong declarou que existem mais de uma dessas contas de vendas falsas, e...

Hoje em dia, os Deepfakes estão em todos os lugares. Com a popularização da IA generativa, o conteúdo falso na internet cresce exponencialmente. De acordo com a plataforma de verificação de identidade Sumsub, o número de Deepfakes aumentou quatro vezes entre 2023 e 2024. Em 2024, os Deepfakes representaram 7% de todas as atividades fraudulentas, desde usurpação de identidade e roubo de contas até ataques de engenharia social complexos, todos envolvendo Deepfakes. Para combater eficazmente os Deepfakes, a Meta...

Com o aumento da tecnologia deepfake, a quantidade de conteúdo falso na internet cresceu exponencialmente. De acordo com a plataforma de verificação de identidade Sumsub, de 2023 a 2024, o número de deepfakes quadruplicou, representando 7% de todas as fraudes em 2024. Isso inclui várias formas, como usurpação de identidade, invasão de contas e ataques de engenharia social complexos. Para enfrentar esse desafio, a Meta lançou recentemente uma nova ferramenta de marca d'água - Meta Video Seal - projetada para identificar vídeos gerados por IA.

Com a comercialização da inteligência artificial generativa, a quantidade de conteúdo falso online aumentou drasticamente. De acordo com dados da plataforma de verificação de identidade Sumsub, o número de deepfakes globalmente quadruplicou de 2023 para 2024. Em 2024, os deepfakes representaram 7% de todas as fraudes, envolvendo várias formas, desde usurpação de identidade e tomada de conta até atividades complexas de engenharia social. Para combater esse problema, a Meta lançou uma nova ferramenta - Meta Video Seal - destinada a adicionar uma marca d'água indetectável em vídeos gerados por IA.

Recentemente, Jeff Hancock, professor de comunicação da Universidade Stanford, chamou a atenção por ser acusado de usar inteligência artificial para falsificar depoimentos em um caso envolvendo deepfakes políticos. O caso foi apresentado pelo procurador-geral de Minnesota, Keith Ellison, em relação a uma lei recentemente aprovada em Minnesota que proíbe deepfakes políticos, considerada uma possível ameaça à liberdade de expressão. Nota da imagem: Imagem gerada por IA, serviço de licenciamento de imagens Midjourney Hancock

Uma ação judicial federal em andamento sobre uma lei de Minnesota que trata do uso de deepfakes para influenciar eleições gerou uma nova controvérsia. Advogados do grupo que entrou com a ação alegam em documentos legais recentes que declarações juramentadas que apoiam a lei podem conter texto gerado por inteligência artificial. Legenda da imagem: Imagem gerada por IA, serviço de licenciamento de imagens Midjourney. De acordo com a publicação do Minnesota Reformer, o procurador-geral do estado, Keith Ellison, solicitou ao Stanford Social Media Lab que...

Após a eleição presidencial americana de 2024, a desinformação online se espalhou a uma velocidade alarmante, afetando gravemente a percepção dos americanos sobre candidatos e tópicos como saúde pública, mudanças climáticas e imigração. O avanço da IA generativa, juntamente com sua capacidade de gerar deepfakes e sua propensão a 'alucinar' fatos, pode exacerbar ainda mais esse problema. Nota da imagem: Imagem gerada por IA, fornecida pela MidjourneyPara enfrentar esse desafio, surge a startup norueguesa Factiverse. A empresa participou de 10...

Singapura divulgou recentemente importantes comunicados sobre segurança cibernética, em particular um guia de segurança para sistemas de Inteligência Artificial (IA) e legislação que proíbe o uso de deepfakes em propagandas eleitorais. Essas medidas visam ajudar as organizações a mitigar os riscos potenciais no desenvolvimento e implantação de IA, garantindo a segurança da tecnologia. Nota da imagem: Imagem gerada por IA, fornecida pelo serviço Midjourney. O guia de segurança para sistemas de IA, lançado pela Agência de Segurança Cibernética de Singapura (CSA), enfatiza o princípio do 'design seguro', com foco em...

O Zoom está prestes a lançar um novo recurso impressionante para seus usuários, mas teremos que esperar até o próximo ano para vê-lo em ação. Em sua conferência anual para desenvolvedores, a gigante de videoconferência anunciou que lançará um recurso que transforma vídeos de usuários em avatares digitais realistas movidos por IA. Esses avatares incluem não apenas a cabeça, mas também os braços e ombros superiores, tornando-se um verdadeiro 'avatar digital'. Os usuários precisarão apenas inserir o texto que desejam que o avatar diga, e o Zoom gerará áudio sincronizado com os lábios do avatar. Parece mágico, não é? O diretor de produto do Zoom...

A tecnologia de IA é uma faca de dois gumes, capaz de trazer conveniência e riscos. Para melhor gerenciar esses riscos, o governador da Califórnia, Gavin Newsom, recentemente assinou nove projetos de lei que visam regulamentar o conteúdo gerado por IA, especialmente o fenômeno das deepfakes. Nota da imagem: imagem gerada por IA, provedor de serviços de licenciamento de imagens Midjourney. Entre esses projetos de lei, o SB1047 é particularmente notável, exigindo que os desenvolvedores de IA adotem medidas de segurança para reduzir

Recentemente, o governador da Califórnia, Gavin Newsom, assinou oito leis que abordam os desafios da inteligência artificial. Essas leis visam lidar com os riscos existenciais dos sistemas de IA, os deepfakes de imagens geradas por IA, e a criação de clones de IA de atores falecidos por estúdios de Hollywood. Entre elas, a SB926 criminaliza a criação e distribuição de deepfakes de nudez, estabelecendo que a extorsão usando imagens geradas por IA que se assemelham a outra pessoa é ilegal. A SB981 exige que plataformas de mídia social criem canais para denúncias de usuários, com conteúdo relacionado a...

Em uma recente cerimônia de assinatura, o governador da Califórnia, Gavin Newsom, anunciou uma série de novas leis para a indústria de Inteligência Artificial (IA), consideradas relativamente rigorosas em todo o país. As novas regulamentações incluem cinco itens, sendo três especificamente direcionados a tecnologias deepfake de IA que podem influenciar eleições, e os outros dois relacionados à clonagem de vozes e imagens de atores de Hollywood. Nota da imagem: Imagem gerada por IA, serviço de licenciamento de imagens Midjourney. A nova lei AB2655 exige que grandes plataformas online...