Recentemente, um hacker russo que se autodenomina "emirking" publicou no BreachForums, um conhecido mercado de hackers, o que alega serem dados de login de 20 milhões de contas OpenAI ChatGPT, oferecendo-os para venda. Esta notícia, divulgada conjuntamente na sexta-feira pela empresa de IA OpenAI e pela empresa de segurança cibernética Malwarebytes Labs, destaca a gravidade das ameaças à segurança cibernética. Nota da imagem: Imagem gerada por IA, serviço de licenciamento de imagens.

Recentemente, usuários do Gmail enfrentaram uma crise de segurança cibernética sem precedentes. De acordo com relatos, esse ataque é considerado o ataque de phishing mais sofisticado até hoje, enganando até mesmo alguns especialistas em segurança de renome. Os atacantes usaram tecnologia de inteligência artificial para se disfarçar como suporte do Google, enviando alertas de urgência aos usuários, alegando problemas de segurança em suas contas, na tentativa de induzi-los a fornecer informações pessoais. A ocorrência do evento é inacreditável. Uma vítima chamada Zach Latta compartilhou sua experiência...

Menos de dois meses após o lançamento da funcionalidade Computer Use da Anthropic, que permite ao Claude controlar dispositivos, pesquisadores de segurança descobriram uma vulnerabilidade de segurança potencial. Os resultados de uma pesquisa recente divulgada pelo especialista em segurança cibernética Johann Rehnberger são alarmantes: por meio de uma simples injeção de prompt, a IA pode ser induzida a baixar e executar malware. Rehnberger chamou essa técnica de exploração de 'ZombAIs'. Em uma demonstração, ele conseguiu fazer com que o Cla...

O hacker de chapéu branco Johann Rehberger revelou recentemente uma vulnerabilidade de segurança alarmante: ele descobriu que o ChatGPT pode ser usado por hackers como spyware, roubando dados do usuário continuamente. Rehberger chamou esse método de ataque de 'SpAIware', que visa principalmente o novo recurso de memória de longo prazo do aplicativo ChatGPT para macOS. Essa vulnerabilidade explora o recurso de memória persistente recentemente lançado do ChatGPT. Por meio da injeção de prompts cuidadosamente elaborados, os hackers podem manipular o ChatGP

Robôs de bate-papo com inteligência artificial conseguiram passar em exames de hackers éticos certificados, mas pesquisadores alertam que não se deve depender apenas deles para proteger a segurança cibernética. A pesquisa, escrita por Prasad Calyam, da Universidade do Missouri, e colaboradores da Amrita Vishwa Vidyapeetham, na Índia, testou as principais ferramentas de IA generativa, ChatGPT da OpenAI e Bard (agora Gemini) do Google.

Um incidente de vazamento de dados afetou os sistemas da OpenAI, mas não se preocupe se suas conversas no ChatGPT foram acessadas. Embora o próprio ataque pareça superficial, ele serve como um alerta de que empresas de IA se tornaram rapidamente um dos alvos mais cobiçados pelos hackers. De acordo com o New York Times, o ex-funcionário da OpenAI, Leopold Aschenbrenner, insinuou o incidente em um podcast. Ele o chamou de "um grande incidente de segurança", mas fontes anônimas da empresa...

A OpenAI alega que o The New York Times contratou hackers para atacar o ChatGPT. A OpenAI afirma que o The New York Times ter contratado hackers é crucial. O The New York Times usou prompts para atacar o ChatGPT. A OpenAI revidou, alegando violação flagrante dos termos de uso do produto. Empresas de IA enfrentam uma crise semelhante aos processos por direitos autorais do Google. Empresas de internet vendem dados para empresas de IA. Nova proposta de estrutura para pesquisa de seleção de dados. Conteúdo gerado por IA se espalha rapidamente na internet. Modelo de linguagem grande admite usar dados gerados por IA. Incluindo Ernie e outros modelos de linguagem grandes chineses.

O ChatGPT da OpenAI foi alvo de invasão de hackers, e a empresa respondeu criativamente com o 'MiauGPT'. Uma equipe de hackers descobriu anomalias e caiu numa armadilha de 'linguagem felina'. Funcionários da OpenAI observaram secretamente conversas em comunidades de hackers. O artigo explora os desafios de segurança em modelos de IA de grande escala. Engenheiros da OpenAI revelaram que a escassez de GPUs afeta a velocidade de lançamento dos produtos.

'Hackers terão a oportunidade de usar inteligência artificial para proteger infraestruturas críticas americanas contra riscos de cibersegurança. ''A competição de cibersegurança oferecerá quase US$ 20 milhões em prêmios e incluirá a colaboração de empresas líderes em inteligência artificial. ''Os participantes serão solicitados a tornar seus sistemas de código aberto para que suas soluções possam ser amplamente usadas.'