A Microsoft publicou recentemente um livro branco que analisa profundamente o uso malicioso da inteligência artificial (IA) generativa, incluindo golpes, material de abuso sexual infantil, manipulação de eleições e imagens privadas não consensuais. A empresa enfatiza que esses problemas não são apenas desafios tecnológicos, mas também ameaças significativas à sociedade. Nota da imagem: Imagem gerada por IA, serviço de licenciamento de imagens Midjourney. De acordo com o livro branco da Microsoft, criminosos estão cada vez mais utilizando a capacidade da IA generativa para cometer crimes. Esses atos incluem o uso de IA para gerar imagens falsas...

Com as eleições americanas se aproximando, os motores de busca com IA estão enfrentando um grande teste. Neste momento crucial, grandes empresas de tecnologia estão se esforçando para fornecer informações precisas e confiáveis, combatendo preocupações sobre desinformação e 'alucinações' de conteúdo gerado por IA. Nessa competição, a Perplexity AI chamou a atenção com seu novo centro de eleições com IA. A plataforma oferece atualizações em tempo real, combinando dados da Associated Press e uma parceria com o site de orientação para eleitores sem fins lucrativos Democracy Works.

Durante a eleição presidencial americana, o chatbot Grok do X foi pego espalhando informações falsas. Testes do TechCrunch mostraram que o Grok frequentemente errava ao responder perguntas sobre os resultados eleitorais, chegando mesmo a declarar que Trump havia vencido estados-chave, mesmo antes da contagem e apuração completas. Em entrevistas, o Grok repetidamente afirmou que Trump venceu a eleição de 2024 em Ohio, o que não era verdade. A fonte das informações falsas parecem ser tweets de diferentes anos eleitorais e frases enganosas.

Um novo estudo recente mostrou que modelos de inteligência artificial são significativamente menos precisos ao responder a perguntas em espanhol relacionadas a eleições do que ao responder a perguntas em inglês. O estudo foi conduzido pelo Projeto IA para a Democracia, uma colaboração entre Proof News, o serviço de verificação de fatos Factchequeado e o Instituto de Estudos Avançados de San Francisco. Nota da imagem: Imagem gerada por IA, fornecida pelo Midjourney. Os pesquisadores levantaram algumas perguntas que imitariam o que um eleitor do Arizona poderia perguntar sobre as próximas eleições presidenciais dos EUA.

Singapura divulgou recentemente importantes comunicados sobre segurança cibernética, em particular um guia de segurança para sistemas de Inteligência Artificial (IA) e legislação que proíbe o uso de deepfakes em propagandas eleitorais. Essas medidas visam ajudar as organizações a mitigar os riscos potenciais no desenvolvimento e implantação de IA, garantindo a segurança da tecnologia. Nota da imagem: Imagem gerada por IA, fornecida pelo serviço Midjourney. O guia de segurança para sistemas de IA, lançado pela Agência de Segurança Cibernética de Singapura (CSA), enfatiza o princípio do 'design seguro', com foco em...

Recentemente, a OpenAI alertou que seu modelo de IA, o ChatGPT, está sendo usado por cibercriminosos para várias atividades maliciosas, incluindo o desenvolvimento de malwares, disseminação de informações falsas e ataques de phishing. De acordo com um novo relatório, desde o início de 2024, a OpenAI interveio em mais de 20 operações fraudulentas em todo o mundo, revelando uma tendência preocupante de abuso da IA. Essas atividades incluem não apenas a depuração de malwares, mas também a criação de conteúdo para perfis falsos de mídia social e a geração de e-mails de phishing atraentes.

Com as eleições americanas de 2024 se aproximando, o rápido desenvolvimento da IA tem gerado preocupações crescentes. Uma análise recente da Axios mostra que pelo menos 26 estados já aprovaram ou estão considerando leis para regular o uso de IA generativa nas eleições. Isso significa que, nas eleições futuras, a IA deixará de ser uma simples ferramenta tecnológica e se tornará um 'mudador de regras do jogo' que pode influenciar os resultados da votação. Nota da imagem: Imagem gerada por IA, serviço de licenciamento de imagens Midjourney, como amplamente conhecido.

Recentemente, um estudo da Adobe sobre a "Veracidade na Era da IA" revelou que, com o aumento da geração de conteúdo por IA, muitas pessoas se sentem confusas e inseguras ao obter informações. Uma pesquisa com 2000 consumidores americanos mostrou que a preocupação com a desinformação nas próximas eleições presidenciais de 2024 está crescendo. A pesquisa revelou que 94% dos entrevistados disseram estar muito preocupados com o impacto da desinformação nos resultados das eleições. Nota da imagem: Imagem gerada por IA, fornecedora de serviços de licenciamento de imagens.

Singapura propôs recentemente um novo projeto de lei que visa proibir o uso de deepfakes durante as eleições, a fim de garantir a autenticidade das informações e a justiça eleitoral. Com o desenvolvimento da inteligência artificial generativa, o risco de conteúdo deepfake aumentou, e o projeto de lei visa regular o conteúdo falso criado usando IA e outras tecnologias não relacionadas à IA, incluindo vídeos, áudios e imagens. A proibição central se concentra em anúncios online falsos que retratam falsamente as palavras ou ações de candidatos durante as eleições, com penalidades que incluem multas ou prisão para infratores. O projeto de lei também permite a emissão de ordens de correção para indivíduos e plataformas de mídia social que publicam conteúdo falso.

Com as eleições presidenciais americanas de 2024 se aproximando, a inteligência artificial generativa (IA) está se tornando um novo ator no campo eleitoral. A tecnologia de IA pode gerar imagens, vídeos e áudios falsos, influenciando as decisões dos eleitores, uma tendência já demonstrada em diversas ocasiões. Por exemplo, o ex-presidente Trump compartilhou uma imagem sintética de IA na tentativa de enganar o público, enquanto moradores de New Hampshire foram alvo de telefonemas deepfake com o objetivo de impedi-los de participar das primárias democratas. Especialistas alertam que a influência da desinformação por IA pode mudar substancialmente os resultados das eleições, e que as tecnologias atuais de detecção ainda não estão maduras.

A plataforma de mídia social X (anteriormente Twitter) de Musk fez ajustes para lidar com a desinformação sobre a eleição presidencial de 2024, particularmente em seu sistema de IA Grok. O objetivo é direcionar os usuários para fontes oficiais de informação, como vote.gov, para obter as informações mais recentes sobre as eleições. Vários secretários de Estado americanos expressaram preocupações sobre erros do Grok no tratamento de questões eleitorais, apontando que isso pode levar à confusão e exigindo correções. Após o anúncio da desistência do presidente Biden da corrida presidencial, o Grok incorretamente afirmou que os prazos de votação em alguns estados haviam expirado, causando ampla preocupação.

Um relatório de segurança publicado pela Meta revelou como a Rússia tem usado inteligência artificial (IA) generativa para aumentar atividades de desinformação online. Embora a Rússia tenha tentado usar a IA para melhorar a eficácia da interferência online, até agora os resultados têm sido limitados, principalmente aumentando a produtividade e a capacidade de gerar conteúdo de atores maliciosos. O relatório indica que, desde a invasão da Ucrânia pela Rússia em 2022, essas atividades se concentraram em minar a reputação da Ucrânia e de seus aliados. A Meta prevê que, com a aproximação das eleições americanas, a Rússia pode mirar candidatos que apoiam a Ucrânia.

O Google está restringindo o chatbot de IA Gemini de responder a consultas relacionadas a eleições. A decisão visa reduzir potenciais erros na implantação da tecnologia. Isso afeta as eleições presidenciais dos EUA e outras eleições nacionais em outros países. O Google está cada vez mais preocupado com a possibilidade de a tecnologia de IA ser usada para disseminar informações falsas durante as eleições.

A Meta lançou um plano de ação para as eleições na UE, aumentando os esforços para combater a desinformação. Especialistas temem que o plano da Meta para combater boatos tenha limitações. A Meta está melhorando a transparência do conteúdo de IA, mas a identificação de deepfakes continua sendo um desafio. Especialistas acreditam que vozes genuínas podem ser facilmente manipuladas e que a proteção da democracia continua sendo um desafio.

Especialistas alertam que a desinformação relacionada às eleições pode se tornar um problema ainda maior com a aproximação das eleições presidenciais de 2024. As salvaguardas contra narrativas falsas diminuíram, enquanto as ferramentas e redes para disseminar desinformação se tornaram mais poderosas. Antes das eleições presidenciais de 2024, especialistas alertam que a desinformação relacionada às eleições pode se tornar um problema ainda maior. O uso generalizado de IA na publicidade política aumenta os riscos de desinformação.

O Google planeja restringir o uso de suas ferramentas de IA generativa durante as eleições nos EUA. As restrições serão implementadas no início do próximo ano para evitar que ferramentas de IA generativa disseminem informações enganosas. Preocupado com a possibilidade de a IA generativa manipular os resultados das eleições, o Google está prestando mais atenção ao papel da inteligência artificial nas eleições.

De acordo com uma pesquisa recente, 58% dos adultos americanos acreditam que haverá um aumento na desinformação nas eleições de 2024, e atribuem a responsabilidade às ferramentas de inteligência artificial. A grande maioria considera negativo o uso da IA por candidatos para criar conteúdo falso ou enganoso, editar fotos ou vídeos, criar anúncios políticos personalizados para eleitores e usar chatbots para responder às perguntas dos eleitores. O público demonstra ceticismo em relação às informações fornecidas por chatbots de IA, preferindo consultar veículos de imprensa, amigos, familiares e mídias sociais para obter informações sobre as eleições presidenciais.

A Comissão Eleitoral Federal (FEC) pode estabelecer regras para regular o uso de conteúdo gerado por inteligência artificial em anúncios políticos. A FEC votou para iniciar um processo que pode resultar em novas regras sobre como as campanhas usam a inteligência artificial até o final do ano. O pedido foi apresentado pela organização de defesa do público 'Public Citizen', que pediu à comissão que use seu poder para criar regras que impeçam candidatos e partidos de usar IA para deturpar oponentes, punindo assim a desonestidade.