A startup sediada em Hong Kong, Pons.ai, está usando tecnologia de inteligência artificial (IA) generativa para projetar avatares personalizados e planeja expandir suas operações na área de eventos corporativos. Com empresas explorando maneiras de comercializar a IA e enfrentando os desafios da incerteza geopolítica, a Pons.ai traz uma nova abordagem para o setor.
Nota da imagem: Imagem gerada por IA, fornecida pela Midjourney.
Deepfakes e mídias sintéticas estão se tornando cada vez mais comuns devido ao avanço da inteligência artificial generativa (IA generativa). Para enfrentar esse desafio, muitas organizações estão trabalhando em tecnologias de marca d'água digital para rastrear a origem do conteúdo. Embora ainda não haja uma solução perfeita, a Coalizão para a Proveniência e Autenticidade de Conteúdo (C2PA) está crescendo. A C2PA anunciou que a Amazon se juntou ao seu conselho diretor. A C2PA é um padrão técnico aberto hospedado pela Fundação Linux.
Singapura propôs recentemente um novo projeto de lei que visa proibir o uso de deepfakes durante as eleições, a fim de garantir a autenticidade das informações e a justiça eleitoral. Com o desenvolvimento da inteligência artificial generativa, o risco de conteúdo deepfake aumentou, e o projeto de lei visa regular o conteúdo falso criado usando IA e outras tecnologias não relacionadas à IA, incluindo vídeos, áudios e imagens. A proibição central se concentra em anúncios online falsos que retratam falsamente as palavras ou ações de candidatos durante as eleições, com penalidades que incluem multas ou prisão para infratores. O projeto de lei também permite a emissão de ordens de correção para indivíduos e plataformas de mídia social que publicam conteúdo falso.
O Google tomou medidas recentemente para combater o conteúdo de deepfakes não consensuais, respondendo às preocupações do público e à pressão legislativa. Após o incidente com Taylor Swift, há oito meses, empresas de tecnologia e legisladores começaram a levar o assunto a sério. O Google anunciou medidas para evitar que deepfakes de natureza sexual apareçam nos resultados de pesquisa, incluindo simplificar o processo de remoção de imagens de exploração sexual não consensuais para vítimas, filtrar resultados de pesquisa de natureza sexual, remover imagens duplicadas e otimizar os resultados de pesquisa para reduzir a exposição a deepfakes. Henry Ajder aprova as medidas do Google, acreditando que elas reduzirão significativamente a exposição de conteúdo não consensual.
32% das organizações já utilizam inteligência artificial generativa em aplicações empresariais. 60% das organizações estão mais preocupadas com a segurança da inteligência artificial generativa. 58% das organizações adotam principalmente o modelo de linguagem de grande porte GPT-4 da OpenAI. Dados da pesquisa mostram que 75% das organizações atualmente usam modelos de linguagem de grande porte.
