Após sete dias de feriado nacional na China, surgiram relatos de oito dias de críticas direcionadas a Lei Jun e sua empresa por causa da Inteligência Artificial. Em resposta, Lei Jun sugeriu a necessidade de uma legislação mais robusta para regulamentar o uso de deepfakes de rosto e voz, devido aos potenciais problemas éticos e legais.

Com o rápido desenvolvimento da tecnologia de inteligência artificial, o conteúdo deepfake tem chamado cada vez mais a atenção da sociedade. Para lidar com essa questão emergente, a Califórnia promulgou, no início do ano, uma série de novas leis e regulamentos para fortalecer a regulamentação de conteúdo deepfake gerado por inteligência artificial. Essas leis afetarão plataformas de mídia social, criadores de conteúdo e setores relacionados, marcando uma nova fase na regulamentação do uso da tecnologia de IA. Nota da imagem: A imagem foi gerada por IA, com a Midjourney sendo uma das fornecedoras de serviços de licenciamento de imagens. Uma lei importante é a expansão do escopo de...

Nos últimos anos, a IA se integrou a vários aspectos da vida, desde assistentes de voz até veículos autônomos. No entanto, sua ampla aplicação também apresenta riscos potenciais, sendo a tecnologia deepfake um foco de preocupação social. A tecnologia deepfake usa algoritmos para gerar conteúdo falso altamente realista, aprendendo com grandes quantidades de dados reais para criar vídeos ou imagens extremamente parecidos com pessoas ou cenários. Embora demonstre o poder da IA, também dá origem a atividades fraudulentas. Por exemplo, recentemente ocorreram casos de lives de vendas que usavam a imagem e a voz do Dr. Zhang Wenhong falsamente. A falsificação...

A Meta lançou recentemente um novo sistema de marca d'água neural chamado Video Seal, projetado para ajudar a identificar vídeos gerados por IA, mesmo aqueles que foram editados, rastreando efetivamente sua origem. Essa marca d'água é invisível para os espectadores, mas pode ser detectada para verificar a autenticidade do vídeo. A Meta lançou o sistema completo como um software de código aberto sob a licença MIT, incluindo o modelo de marca d'água Video Seal, artigo de pesquisa e códigos de treinamento e inferência. Além disso, a Meta também lançou...

Com o aumento da tecnologia deepfake, a quantidade de conteúdo falso na internet cresceu exponencialmente. De acordo com a plataforma de verificação de identidade Sumsub, de 2023 a 2024, o número de deepfakes quadruplicou, representando 7% de todas as fraudes em 2024. Isso inclui várias formas, como usurpação de identidade, invasão de contas e ataques de engenharia social complexos. Para enfrentar esse desafio, a Meta lançou recentemente uma nova ferramenta de marca d'água - Meta Video Seal - projetada para identificar vídeos gerados por IA.

Recentemente, Jeff Hancock, professor de comunicação da Universidade Stanford, chamou a atenção por ser acusado de usar inteligência artificial para falsificar depoimentos em um caso envolvendo deepfakes políticos. O caso foi apresentado pelo procurador-geral de Minnesota, Keith Ellison, em relação a uma lei recentemente aprovada em Minnesota que proíbe deepfakes políticos, considerada uma possível ameaça à liberdade de expressão. Nota da imagem: Imagem gerada por IA, serviço de licenciamento de imagens Midjourney Hancock

Uma ação judicial federal em andamento sobre uma lei de Minnesota que trata do uso de deepfakes para influenciar eleições gerou uma nova controvérsia. Advogados do grupo que entrou com a ação alegam em documentos legais recentes que declarações juramentadas que apoiam a lei podem conter texto gerado por inteligência artificial. Legenda da imagem: Imagem gerada por IA, serviço de licenciamento de imagens Midjourney. De acordo com a publicação do Minnesota Reformer, o procurador-geral do estado, Keith Ellison, solicitou ao Stanford Social Media Lab que...

Após a eleição presidencial americana de 2024, a desinformação online se espalhou a uma velocidade alarmante, afetando gravemente a percepção dos americanos sobre candidatos e tópicos como saúde pública, mudanças climáticas e imigração. O avanço da IA generativa, juntamente com sua capacidade de gerar deepfakes e sua propensão a 'alucinar' fatos, pode exacerbar ainda mais esse problema. Nota da imagem: Imagem gerada por IA, fornecida pela MidjourneyPara enfrentar esse desafio, surge a startup norueguesa Factiverse. A empresa participou de 10...

Singapura divulgou recentemente importantes comunicados sobre segurança cibernética, em particular um guia de segurança para sistemas de Inteligência Artificial (IA) e legislação que proíbe o uso de deepfakes em propagandas eleitorais. Essas medidas visam ajudar as organizações a mitigar os riscos potenciais no desenvolvimento e implantação de IA, garantindo a segurança da tecnologia. Nota da imagem: Imagem gerada por IA, fornecida pelo serviço Midjourney. O guia de segurança para sistemas de IA, lançado pela Agência de Segurança Cibernética de Singapura (CSA), enfatiza o princípio do 'design seguro', com foco em...

Recentemente, o governador da Califórnia, Gavin Newsom, assinou oito leis que abordam os desafios da inteligência artificial. Essas leis visam lidar com os riscos existenciais dos sistemas de IA, os deepfakes de imagens geradas por IA, e a criação de clones de IA de atores falecidos por estúdios de Hollywood. Entre elas, a SB926 criminaliza a criação e distribuição de deepfakes de nudez, estabelecendo que a extorsão usando imagens geradas por IA que se assemelham a outra pessoa é ilegal. A SB981 exige que plataformas de mídia social criem canais para denúncias de usuários, com conteúdo relacionado a...

Em uma recente cerimônia de assinatura, o governador da Califórnia, Gavin Newsom, anunciou uma série de novas leis para a indústria de Inteligência Artificial (IA), consideradas relativamente rigorosas em todo o país. As novas regulamentações incluem cinco itens, sendo três especificamente direcionados a tecnologias deepfake de IA que podem influenciar eleições, e os outros dois relacionados à clonagem de vozes e imagens de atores de Hollywood. Nota da imagem: Imagem gerada por IA, serviço de licenciamento de imagens Midjourney. A nova lei AB2655 exige que grandes plataformas online...

Grandes empresas de inteligência artificial dos EUA renovaram seu compromisso com a Casa Branca para evitar que seus produtos de IA sejam usados ​​para gerar deepfakes pornográficos não consensuais e material de abuso sexual infantil. Seis empresas - Adobe, Anthropic, Cohere, Microsoft, OpenAI e o repositório de dados da web de código aberto Common Crawl - assinaram um compromisso não vinculativo para garantir que seus produtos não sejam usados ​​indevidamente para criar imagens prejudiciais de violência sexual.

Deepfakes e mídias sintéticas estão se tornando cada vez mais comuns devido ao avanço da inteligência artificial generativa (IA generativa). Para enfrentar esse desafio, muitas organizações estão trabalhando em tecnologias de marca d'água digital para rastrear a origem do conteúdo. Embora ainda não haja uma solução perfeita, a Coalizão para a Proveniência e Autenticidade de Conteúdo (C2PA) está crescendo. A C2PA anunciou que a Amazon se juntou ao seu conselho diretor. A C2PA é um padrão técnico aberto hospedado pela Fundação Linux.

Singapura propôs recentemente um novo projeto de lei que visa proibir o uso de deepfakes durante as eleições, a fim de garantir a autenticidade das informações e a justiça eleitoral. Com o desenvolvimento da inteligência artificial generativa, o risco de conteúdo deepfake aumentou, e o projeto de lei visa regular o conteúdo falso criado usando IA e outras tecnologias não relacionadas à IA, incluindo vídeos, áudios e imagens. A proibição central se concentra em anúncios online falsos que retratam falsamente as palavras ou ações de candidatos durante as eleições, com penalidades que incluem multas ou prisão para infratores. O projeto de lei também permite a emissão de ordens de correção para indivíduos e plataformas de mídia social que publicam conteúdo falso.

A Microsoft, em parceria com a organização anti-pornografia de vingança StopNCII, está fornecendo uma ferramenta para vítimas de deepfakes pornográficos removerem imagens de mecanismos de busca. Criando um 'hash' digital da imagem no dispositivo do usuário, a ferramenta auxilia na remoção completa de imagens de nudez sintética em plataformas como o Bing. Essa iniciativa visa combater o abuso da IA generativa na criação de deepfakes pornográficos, um problema que os relatórios de usuários sozinhos não conseguem resolver eficazmente. No entanto, o Google ainda não colaborou com a StopNCII, e os EUA carecem de legislação federal específica para lidar com esse tipo de comportamento.

O uso de deepfakes por adolescentes sul-coreanos para criar conteúdo pornográfico gerou grande preocupação. O aumento de crimes sexuais online levou a polícia a pedir maior educação e orientação para jovens, melhorando a segurança cibernética e a conscientização ética para reduzir esses incidentes. Conteúdo pornográfico direcionado a escolas e professores foi encontrado no Telegram, envolvendo múltiplos casos. Nos primeiros sete meses do ano, houve um aumento significativo no número de casos relacionados a deepfakes relatados na Coreia do Sul, levando a apelos por maior regulamentação e educação jurídica.

A questão dos crimes de deepfake na Coreia do Sul está causando grande preocupação social, especialmente os casos frequentes que envolvem menores, com um número estimado de quase 220.000 vítimas. O grupo de vítimas é amplo, incluindo estudantes, professores, militares, entre outros, com alta proporção de menores. Os crimes são rapidamente disseminados pelas mídias sociais, e as informações de algumas vítimas são usadas para verificar grupos ilegais. Os casos de deepfake direcionados a mulheres são particularmente preocupantes, com mais de 100 escolas afetadas, incluindo escolas internacionais coreanas no país e no exterior. Em resposta, o presidente da Coreia do Sul pediu uma investigação mais aprofundada e a erradicação dos crimes que utilizam tecnologia digital.

Trump compartilhou nas redes sociais imagens alegando que Taylor Swift e seus fãs apoiam sua campanha presidencial, incluindo camisetas 'Swifties for Trump' e imagens de Taylor como o Tio Sam. No entanto, essas imagens foram questionadas como informações falsas geradas por IA, encontrando resistência dos fãs. Trump disse que não sabia, e seu porta-voz afirmou que o apoio expresso é real. Há rumores de que Taylor pode ser uma convidada especial em um comício de Trump. Incidentes de golpes causados pela tecnologia de deepfakes de IA estão se tornando frequentes.

A Comissão Federal de Comunicações (FCC) dos EUA multou a empresa de telecomunicações Lingo Telecom em US$ 1 milhão por espalhar uma ligação telefônica de robô com áudio falso do presidente Joe Biden, na tentativa de influenciar os eleitores de New Hampshire. A investigação descobriu que o arquiteto por trás da ligação era o consultor político Steve Kramer, contra quem a FCC havia proposto uma multa de US$ 6 milhões anteriormente. Para chegar a um acordo com a Lingo, a FCC exigiu que a empresa cumpra rigorosamente as regras de autenticação de identificação de chamadas no futuro, incluindo a implementação do 'Conheça seu cliente' (KYC).