Wang Xingxing, fundador da Unitree Robotics, ingressou recentemente no WeChat Video Number como pessoa física e publicou seu primeiro vídeo em 25 de junho, respondendo publicamente a rumores falsos recentes na internet. No vídeo, ele lembra o público a ter cuidado ao verificar informações sobre ele e sua empresa, enfatizando que muitas informações online são falsas, e revela que usará o Video Number para mostrar o processo de atualização tecnológica e os fatos interessantes do desenvolvimento de produtos de robótica. Anteriormente, a Unitree Robotics já havia emitido um comunicado oficial, esclarecendo que todas as transações de ações são conduzidas diretamente pelo responsável pelo financiamento da empresa por e-mail, e que não existem intermediários.

Li Liang apontou que um artigo intitulado 'Grande reformulação na equipe de IA do ByteDance' contém várias informações falsas. As afirmações do artigo de que o vice-presidente de tecnologia Yang Zhenyuan está prestes a se aposentar e que Feng Jiashi deixará a empresa para empreender são originárias de fontes incorretas. Além disso, os relatos sobre Zhang Yiming visitando Wang Junyu, fundador da Wandoujia, e a startup de espaço de modelagem de Xangai também são inconsistentes com os fatos.

A Apple lançou recentemente um recurso chamado Resumo de Notícias com IA, mas esse recurso tem cometido erros graves ao resumir notícias de última hora, levando os usuários a receberem muitas informações falsas. Desde o lançamento do recurso, muitas organizações de notícias e usuários expressaram sua forte insatisfação, argumentando que a tecnologia da Apple ainda não está madura o suficiente para fornecer informações precisas de forma eficaz. Há relatos de que Geoffrey Fowler, colunista de tecnologia do Washington Post, postou nas redes sociais, apontando que a IA da Apple, em um resumo de notícias, distorceu um fato.

De acordo com o jornal Southern Metropolis Daily, um caso recente divulgado pela Agência de Segurança Pública na Internet do Ministério da Segurança Pública revelou um novo e preocupante modelo de difamação online. As autoridades policiais de Guangzhou, Guangdong, desmantelaram com sucesso uma quadrilha que usava ferramentas de inteligência artificial para produzir informações falsas em larga escala, prendendo 6 suspeitos. Com o objetivo de lucrar com o tráfego de plataformas online, a quadrilha empregou métodos criminosos cuidadosamente planejados: recrutou trabalhadores temporários para registrar contas de mídia social e usou ferramentas de IA para reescrever rapidamente artigos populares, publicando em massa informações falsas. De acordo com as estatísticas, a quadrilha publicou mais de 500 mil peças de informações visuais e textuais para atrair tráfego.

Durante a eleição presidencial americana, o chatbot Grok do X foi pego espalhando informações falsas. Testes do TechCrunch mostraram que o Grok frequentemente errava ao responder perguntas sobre os resultados eleitorais, chegando mesmo a declarar que Trump havia vencido estados-chave, mesmo antes da contagem e apuração completas. Em entrevistas, o Grok repetidamente afirmou que Trump venceu a eleição de 2024 em Ohio, o que não era verdade. A fonte das informações falsas parecem ser tweets de diferentes anos eleitorais e frases enganosas.

Pesquisa descobriu que modelos de linguagem grandes repetem e disseminam teorias da conspiração, estereótipos prejudiciais e outras informações falsas. O ChatGPT apresenta problemas frequentes de erros, contradições e repetição de informações nocivas. O contexto e a maneira como as perguntas são feitas podem influenciar o nível de 'adesão' do modelo a informações falsas. O processo de aprendizado dos modelos de linguagem grandes pode levar à aprendizagem de informações incorretas, causando preocupações.

Uma equipe de pesquisa médica da Universidade Flinders lançou um alerta urgente sobre a capacidade da IA generativa de criar facilmente informações falsas sobre saúde, gerando preocupações na comunidade. Usando ferramentas de IA generativa, a equipe produziu em uma hora 100 posts de blog enganosos, 20 imagens fraudulentas e um vídeo deepfake. Os especialistas pedem regulamentação governamental para prevenir o mau uso e destacam a importância da participação ativa de profissionais de saúde na supervisão da IA. O estudo destaca a urgência da regulamentação da IA e defende processos transparentes.