Após sete dias de feriado nacional na China, surgiram relatos de oito dias de críticas direcionadas a Lei Jun e sua empresa por causa da Inteligência Artificial. Em resposta, Lei Jun sugeriu a necessidade de uma legislação mais robusta para regulamentar o uso de deepfakes de rosto e voz, devido aos potenciais problemas éticos e legais.

A Meta lançou recentemente um novo sistema de marca d'água neural chamado Video Seal, projetado para ajudar a identificar vídeos gerados por IA, mesmo aqueles que foram editados, rastreando efetivamente sua origem. Essa marca d'água é invisível para os espectadores, mas pode ser detectada para verificar a autenticidade do vídeo. A Meta lançou o sistema completo como um software de código aberto sob a licença MIT, incluindo o modelo de marca d'água Video Seal, artigo de pesquisa e códigos de treinamento e inferência. Além disso, a Meta também lançou...

Com o aumento da tecnologia deepfake, a quantidade de conteúdo falso na internet cresceu exponencialmente. De acordo com a plataforma de verificação de identidade Sumsub, de 2023 a 2024, o número de deepfakes quadruplicou, representando 7% de todas as fraudes em 2024. Isso inclui várias formas, como usurpação de identidade, invasão de contas e ataques de engenharia social complexos. Para enfrentar esse desafio, a Meta lançou recentemente uma nova ferramenta de marca d'água - Meta Video Seal - projetada para identificar vídeos gerados por IA.

Uma ação judicial federal em andamento sobre uma lei de Minnesota que trata do uso de deepfakes para influenciar eleições gerou uma nova controvérsia. Advogados do grupo que entrou com a ação alegam em documentos legais recentes que declarações juramentadas que apoiam a lei podem conter texto gerado por inteligência artificial. Legenda da imagem: Imagem gerada por IA, serviço de licenciamento de imagens Midjourney. De acordo com a publicação do Minnesota Reformer, o procurador-geral do estado, Keith Ellison, solicitou ao Stanford Social Media Lab que...

Singapura divulgou recentemente importantes comunicados sobre segurança cibernética, em particular um guia de segurança para sistemas de Inteligência Artificial (IA) e legislação que proíbe o uso de deepfakes em propagandas eleitorais. Essas medidas visam ajudar as organizações a mitigar os riscos potenciais no desenvolvimento e implantação de IA, garantindo a segurança da tecnologia. Nota da imagem: Imagem gerada por IA, fornecida pelo serviço Midjourney. O guia de segurança para sistemas de IA, lançado pela Agência de Segurança Cibernética de Singapura (CSA), enfatiza o princípio do 'design seguro', com foco em...

Recentemente, o governador da Califórnia, Gavin Newsom, assinou oito leis que abordam os desafios da inteligência artificial. Essas leis visam lidar com os riscos existenciais dos sistemas de IA, os deepfakes de imagens geradas por IA, e a criação de clones de IA de atores falecidos por estúdios de Hollywood. Entre elas, a SB926 criminaliza a criação e distribuição de deepfakes de nudez, estabelecendo que a extorsão usando imagens geradas por IA que se assemelham a outra pessoa é ilegal. A SB981 exige que plataformas de mídia social criem canais para denúncias de usuários, com conteúdo relacionado a...

Em uma recente cerimônia de assinatura, o governador da Califórnia, Gavin Newsom, anunciou uma série de novas leis para a indústria de Inteligência Artificial (IA), consideradas relativamente rigorosas em todo o país. As novas regulamentações incluem cinco itens, sendo três especificamente direcionados a tecnologias deepfake de IA que podem influenciar eleições, e os outros dois relacionados à clonagem de vozes e imagens de atores de Hollywood. Nota da imagem: Imagem gerada por IA, serviço de licenciamento de imagens Midjourney. A nova lei AB2655 exige que grandes plataformas online...

Grandes empresas de inteligência artificial dos EUA renovaram seu compromisso com a Casa Branca para evitar que seus produtos de IA sejam usados ​​para gerar deepfakes pornográficos não consensuais e material de abuso sexual infantil. Seis empresas - Adobe, Anthropic, Cohere, Microsoft, OpenAI e o repositório de dados da web de código aberto Common Crawl - assinaram um compromisso não vinculativo para garantir que seus produtos não sejam usados ​​indevidamente para criar imagens prejudiciais de violência sexual.

Singapura propôs recentemente um novo projeto de lei que visa proibir o uso de deepfakes durante as eleições, a fim de garantir a autenticidade das informações e a justiça eleitoral. Com o desenvolvimento da inteligência artificial generativa, o risco de conteúdo deepfake aumentou, e o projeto de lei visa regular o conteúdo falso criado usando IA e outras tecnologias não relacionadas à IA, incluindo vídeos, áudios e imagens. A proibição central se concentra em anúncios online falsos que retratam falsamente as palavras ou ações de candidatos durante as eleições, com penalidades que incluem multas ou prisão para infratores. O projeto de lei também permite a emissão de ordens de correção para indivíduos e plataformas de mídia social que publicam conteúdo falso.

O uso de deepfakes por adolescentes sul-coreanos para criar conteúdo pornográfico gerou grande preocupação. O aumento de crimes sexuais online levou a polícia a pedir maior educação e orientação para jovens, melhorando a segurança cibernética e a conscientização ética para reduzir esses incidentes. Conteúdo pornográfico direcionado a escolas e professores foi encontrado no Telegram, envolvendo múltiplos casos. Nos primeiros sete meses do ano, houve um aumento significativo no número de casos relacionados a deepfakes relatados na Coreia do Sul, levando a apelos por maior regulamentação e educação jurídica.

Trump compartilhou nas redes sociais imagens alegando que Taylor Swift e seus fãs apoiam sua campanha presidencial, incluindo camisetas 'Swifties for Trump' e imagens de Taylor como o Tio Sam. No entanto, essas imagens foram questionadas como informações falsas geradas por IA, encontrando resistência dos fãs. Trump disse que não sabia, e seu porta-voz afirmou que o apoio expresso é real. Há rumores de que Taylor pode ser uma convidada especial em um comício de Trump. Incidentes de golpes causados pela tecnologia de deepfakes de IA estão se tornando frequentes.

O Google tomou medidas recentemente para combater o conteúdo de deepfakes não consensuais, respondendo às preocupações do público e à pressão legislativa. Após o incidente com Taylor Swift, há oito meses, empresas de tecnologia e legisladores começaram a levar o assunto a sério. O Google anunciou medidas para evitar que deepfakes de natureza sexual apareçam nos resultados de pesquisa, incluindo simplificar o processo de remoção de imagens de exploração sexual não consensuais para vítimas, filtrar resultados de pesquisa de natureza sexual, remover imagens duplicadas e otimizar os resultados de pesquisa para reduzir a exposição a deepfakes. Henry Ajder aprova as medidas do Google, acreditando que elas reduzirão significativamente a exposição de conteúdo não consensual.

O Google lançou uma série de medidas de segurança online para limpar conteúdo de deepfakes da pesquisa, especialmente imagens explícitas não consensuais. Quando os usuários solicitam a remoção desse conteúdo, o sistema não apenas processa o conteúdo específico, mas também filtra resultados semelhantes, inclusive removendo imagens duplicadas. Para evitar que esse conteúdo apareça em posições de destaque nos resultados de pesquisa, o Google ajustou o mecanismo de classificação de pesquisa, mostrando conteúdo de alta qualidade e não explícito, como reportagens de notícias, para consultas que buscam imagens de deepfakes de pessoas reais. Sites com grande quantidade de imagens explícitas falsas removidas terão sua classificação na pesquisa reduzida.

O vice-presidente da Microsoft, Brad Smith, pediu ao Congresso dos EUA que crie leis para combater a tecnologia de deepfakes gerada por IA, para proteger os cidadãos contra fraudes e manipulação. Ele observou que, embora a indústria e organizações sem fins lucrativos tenham tomado medidas para combater esse problema, as leis precisam acompanhar os avanços tecnológicos para combater golpes com deepfakes. Smith enfatizou a necessidade de uma lei abrangente sobre 'golpes com deepfakes', fornecendo uma estrutura legal para aplicação da lei e o processamento de criminosos cibernéticos que usam a tecnologia para golpes. Ele também pediu a atualização das leis sobre abuso sexual infantil e imagens íntimas não consensuais para incluir conteúdo gerado por IA.

O Senado dos EUA aprovou por unanimidade o projeto de lei "The Disrupt Explicit Forged Images and Non-Consensual Edits Act", que visa combater imagens pornográficas deepfake criadas sem consentimento, fornecendo às vítimas meios legais para responsabilizar os culpados. O projeto de lei permitirá que as vítimas processem indivíduos ou organizações que criarem ou distribuírem essas imagens falsas, com indenizações de até US$ 250.000, buscando proteger figuras públicas e adolescentes desse tipo de abuso.

Os métodos de fraude por telecomunicações estão em constante evolução, ameaçando a segurança financeira do público. Os principais tipos incluem: Fraudes do tipo "compartilhamento de tela", que induzem a vítima a compartilhar a tela do seu dispositivo, permitindo o acesso às informações bancárias; Fraudes usando deepfakes de áudio e vídeo com IA, que usam tecnologia para criar áudios e vídeos falsos, ganhando a confiança da vítima para induzi-la a transferir dinheiro ou fornecer informações sensíveis; Fraudes de investimento online fraudulento, que usam a isca de altos retornos para induzir vítimas a investir e depois desviar os fundos; Fraudes de transações falsas em jogos online, que usam informações falsas de transações para induzir jogadores a realizar transações offline e roubar seu dinheiro. Prevenção

Como uma das formas mais rápidas de inteligência artificial adversária em desenvolvimento, espera-se que as perdas relacionadas a deepfakes aumentem de US$ 12,3 bilhões em 2023 para US$ 40 bilhões em 2027, com uma taxa de crescimento anual composta impressionante de 32%. A Deloitte prevê um aumento acentuado nas deepfakes nos próximos anos, com bancos e serviços financeiros como principais alvos.

A Resemble AI, empresa líder em clonagem de voz, anunciou recentemente o lançamento do seu modelo de detecção de deepfakes de próxima geração, o Detect-2B. Este novo modelo demonstrou uma precisão de aproximadamente 94% na detecção de áudio gerado por IA, marcando um avanço significativo na tecnologia de detecção de deepfakes.

Um estudo da DeepMind do Google, o primeiro do tipo, sobre os usos maliciosos mais comuns da IA, descobriu que deepfakes de políticos e celebridades gerados por IA são mais prevalentes do que as tentativas de usar IA para auxiliar em ataques cibernéticos. A pesquisa, uma colaboração entre a DeepMind, a divisão de IA do Google, e o Jigsaw, uma unidade de pesquisa e desenvolvimento do Google, visa quantificar os riscos das ferramentas de IA generativas que as maiores empresas de tecnologia do mundo estão lançando no mercado em busca de grandes lucros.

O Grupo Qi Anxin lançou o 'Relatório de Segurança de Inteligência Artificial de 2024' Fraudes com deepfakes baseadas em IA aumentaram 3000% em 2023 Emails de phishing baseados em IA aumentaram 1000% Organizações APT com apoio estatal usaram IA para realizar mais de dez incidentes de ciberataque O uso malicioso da tecnologia de inteligência artificial crescerá rapidamente