Gerador de Imagens Midjourney Apresenta Falha de Segurança: Usuários Podem Contornar Restrições e Gerar Imagens Inadequadas

Novo modelo de código aberto da Microsoft, MAI-DS-R1: Melhora na resposta a tópicos sensíveis e redução de riscos de segurança

AWS e equipe de pesquisa da Intuit apresentam estrutura de segurança de zero confiança para proteger protocolos de contexto de modelo contra envenenamento de ferramentas e acesso não autorizado

Novo sistema da OpenAI bloqueia informações sobre riscos biológicos e químicos para garantir a segurança da IA

A OpenAI lançou recentemente um novo sistema projetado para monitorar seus mais recentes modelos de raciocínio de IA, o3 e o4-mini, a fim de bloquear prompts relacionados a ameaças biológicas e químicas. O objetivo do sistema é impedir que os modelos forneçam conselhos que possam incitar outros a realizar ataques prejudiciais, garantindo a segurança da IA. A OpenAI afirma que o o3 e o o4-mini têm capacidades significativamente aprimoradas em comparação com modelos anteriores, o que pode representar novos riscos nas mãos de usuários maliciosos. De acordo com os testes internos da OpenAI, o o3

Virtue AI recebe US$ 30 milhões em financiamento para ajudar empresas a implantar IA generativa com segurança

A Virtue AI, sediada em São Francisco, anunciou recentemente o fechamento de US$ 30 milhões em rodadas de Seed e Série A. A rodada foi liderada pela Lightspeed Venture Partners e Walden Catalyst Ventures, e contou com a participação de vários investidores, incluindo a Prosperity7. A Virtue AI se concentra em eliminar o equilíbrio tradicional entre inovação e segurança de IA nas empresas, ajudando-as a implantar a IA de forma segura e eficiente.

Digital Promise lança programa de certificação de produtos de IA para garantir a segurança e a equidade das ferramentas de tecnologia educacional

Recentemente, a organização sem fins lucrativos Digital Promise anunciou o lançamento do programa de "Certificação de Produtos de IA com Design Responsável", destinado a ajudar os líderes escolares a escolher ferramentas de tecnologia educacional baseadas em inteligência artificial que atendam às necessidades de aprendizagem e segurança dos alunos. Com o rápido desenvolvimento da IA na educação, as escolas se deparam com um número crescente de opções, tornando a seleção de ferramentas seguras e eficazes um desafio importante. Este programa de certificação avalia vários aspectos cruciais das ferramentas de IA para educação, incluindo segurança de dados e equidade.

Google lança novo modelo de segurança de IA, Sec-Gemini v1, que identifica a origem de ataques cibernéticos em segundos

Em seu blog oficial de segurança, o Google anunciou uma inovação notável: o Sec-Gemini v1, um novo modelo experimental de inteligência artificial focado em impulsionar o desenvolvimento da IA na segurança cibernética. Essa iniciativa representa um passo importante da Google no uso da tecnologia de IA para combater as crescentes ameaças cibernéticas. Enfrentando a assimetria de ataque e defesa: IA ajuda os defensores a inverter o jogo O Google destaca que o campo da segurança cibernética enfrenta um desafio fundamental: a assimetria entre ataque e defesa. Os defensores precisam lidar com todas as potenciais ameaças cibernéticas,

Previsão da DeepMind do Google: AGI pode superar humanos até 2030 e estratégias de segurança são publicadas

O Google DeepMind publicou recentemente um extenso documento estratégico detalhando sua abordagem para o desenvolvimento de Inteligência Artificial Geral (AGI) segura. AGI é definido como um sistema capaz de igualar ou superar as capacidades humanas na maioria das tarefas cognitivas. A DeepMind prevê que os métodos atuais de aprendizado de máquina, especialmente as redes neurais, continuarão sendo o principal caminho para alcançar a AGI. O relatório indica que os sistemas AGI futuros podem superar o desempenho humano e possuir uma autonomia significativa em planejamento e tomada de decisão. Essa tecnologia terá um impacto significativo na área da saúde

ReliaQuest levanta US$ 500 milhões para impulsionar tecnologia de segurança de IA inteligente

Em meio à crescente preocupação global com a cibersegurança, a ReliaQuest, empresa de operações de segurança sediada em Tampa, Flórida, anunciou uma rodada de financiamento de mais de US$ 500 milhões, elevando sua avaliação para US$ 3,4 bilhões. Liderada pela EQT, KKR e FTV Capital, a rodada de financiamento representa a ascensão meteórica da ReliaQuest no setor de cibersegurança. Em comparação com a avaliação de US$ 1 bilhão em dezembro de 2021, o valor de mercado da ReliaQuest aumentou em poucos anos.

Ameaças significativas à segurança da cadeia de suprimentos de software na era da IA: aumento de 64% em vazamentos de informações confidenciais

Recentemente, a JFrog lançou o relatório "State of Software Supply Chain 2025", revelando os desafios de segurança significativos enfrentados pela cadeia de suprimentos de software no contexto do rápido desenvolvimento da inteligência artificial (IA). De acordo com o relatório, a equipe de pesquisa, por meio de pesquisas com mais de 1.400 profissionais e análise de dados de mais de 7.000 clientes, delineou um cenário de segurança preocupante. O relatório indica um aumento acentuado nas vulnerabilidades de segurança da cadeia de suprimentos de software no último ano, com um aumento de 64% nos casos de exposição de informações "secretas" ou confidenciais.

Medidas de segurança aprimoradas da Anthropic para modelos de IA garantem expansão responsável da tecnologia

Recentemente, a empresa de inteligência artificial Anthropic lançou uma atualização de sua política de "expansão responsável", esclarecendo quais modelos exigem proteção de segurança adicional. Essa iniciativa visa garantir que potenciais riscos sejam mitigados antes do lançamento de novas tecnologias. Conforme descrito pela Anthropic em seu blog, se os testes de estresse de um modelo de IA revelarem que ele poderia auxiliar um "ator estatal com recursos moderados" no desenvolvimento de armas químicas e biológicas, a Anthropic irá adiar o lançamento oficial da tecnologia.