A ferramenta de modelo de linguagem grande Ollama foi identificada como tendo sérias vulnerabilidades de segurança que podem colocar em risco a privacidade dos usuários e seus dados. Especialistas recomendam cautela ao usar a plataforma até que as vulnerabilidades sejam corrigidas.

Recentemente, a Ping An Healthcare Technology Company Limited lançou oficialmente seu serviço de assistente de IA médica, o "Ping An Xin Yi". Este serviço será totalmente lançado no aplicativo Ping An Good Doctor, fornecendo aos usuários consultoria de saúde 24 horas por dia. Este assistente digital, por meio de tecnologia avançada de pessoa digital e big data médica, combinada com processamento de linguagem natural e aprendizado de máquina, consegue simular eficientemente o conhecimento profissional e a experiência de um médico real. Nota da imagem: imagem gerada por IA, fornecedora de licenças de imagens Midjourney. Os usuários podem acessar diretamente pelo aplicativo Ping An Good Doctor.

Em apenas seis dias, participantes conseguiram contornar todas as proteções de segurança do modelo de Inteligência Artificial (IA) Claude3.5 da Anthropic, levantando novas discussões sobre a segurança da IA. Jan Leike, ex-membro da equipe de alinhamento da OpenAI e atualmente na Anthropic, anunciou no X que um participante conseguiu quebrar todos os oito níveis de segurança. Esse esforço coletivo envolveu cerca de 3.700 horas de testes e 300.000 mensagens de participantes. Apesar dos desafios,

Em recente cúpula de IA em Paris, o CEO da OpenAI, Sam Altman, respondeu fortemente à proposta de aquisição de Elon Musk. Relatos sugerem que um consórcio liderado por Musk planeja adquirir o controle majoritário da OpenAI por US$ 974 bilhões, algo que Altman rejeita, descrevendo como o mais recente movimento em uma série de táticas de Musk. Ele sugere que Musk deseja desacelerar o desenvolvimento da OpenAI. Em entrevista, Altman afirmou que a OpenAI não é um...

Na era digital de hoje, a segurança online das crianças é uma preocupação crescente. Recentemente, Roblox, Discord, OpenAI e Google lançaram uma organização sem fins lucrativos chamada ROOST (Ferramentas de Segurança Online Abertas e Robustez), com o objetivo de construir uma infraestrutura de segurança escalável e interoperável para a era da IA. O objetivo desta nova organização é fornecer ferramentas de segurança de código aberto para organizações públicas e privadas, ajudando-as a melhorar a segurança em suas próprias plataformas, com foco especial na segurança das crianças. Nota da imagem: Imagem gerada por IA

O laboratório QIANXIN XLab divulgou em 6 de fevereiro um novo relatório de segurança, revelando uma onda em larga escala de atividades de phishing direcionadas a usuários do DeepSeek. Os dados mostram que o número de sites de phishing que imitam o DeepSeek ultrapassou 2000 e continua crescendo. De acordo com o relatório, entre 1º de dezembro de 2024 e 3 de fevereiro de 2025, foram encontrados 2650 domínios falsos imitando o DeepSeek. Essa onda de registro de domínios falsos começou em 26 de janeiro de 2025 e atingiu seu pico em 28 de janeiro. Apesar da aceleração...

Recentemente, a QiAnXin anunciou a conclusão bem-sucedida da integração completa com a DeepSeek (profunda busca), marcando um novo passo na aplicação e desenvolvimento de seu grande modelo de segurança QAX. A QiAnXin afirma que este grande modelo de segurança já foi profundamente integrado em várias áreas-chave, abrangendo cenários importantes como análise de ameaças, operações de segurança, testes de penetração e gerenciamento de vulnerabilidades, e gerenciamento de identidade e acesso. Nota da imagem: Imagem gerada por IA, fornecedora de licenciamento de imagens Midjourney. Em meio ao cenário cada vez mais grave de segurança cibernética, ataques cibernéticos...

Recentemente, o modelo nacional de IA DeepSeek se destacou no cenário global de IA, demonstrando impressionante poder tecnológico. No entanto, também enfrentou ameaças de ataques cibernéticos externos. Nesse contexto, Zhou Hongyi, fundador do Grupo 360, anunciou que a 360 fornecerá gratuitamente proteção de segurança cibernética abrangente para o DeepSeek, apoiando ativamente o desenvolvimento da tecnologia nacional de IA.

A Character AI, uma plataforma que permite aos usuários interpretar papéis com chatbots de IA, solicitou recentemente a rejeição de um processo no Tribunal Distrital dos EUA para o Distrito Médio da Flórida, apresentado por um pai de um adolescente. A mãe, Megan Garcia, acusa a tecnologia da Character AI de prejudicar seu filho de 14 anos, Sewell Setzer III, alegando que ele se alienou do mundo real após interações com um chatbot chamado "Dany", culminando em...

Na recente Conferência JP Morgan Healthcare de 2025, a NVIDIA e a Innophore anunciaram uma parceria empolgante para lançar uma plataforma de triagem de segurança de medicamentos impulsionada por inteligência artificial (IA), chamada CavitOmiX, até o final de janeiro de 2025. A plataforma visa melhorar a eficiência e precisão do design de medicamentos por meio da análise de sítios de ligação de proteínas, representando uma mudança revolucionária no desenvolvimento de medicamentos. Christian Gruber, CEO da Innophore,...

Recentemente, um pesquisador de segurança alemão, Benjamin Fleischer, publicou um relatório no GitHub da Microsoft, apontando uma vulnerabilidade grave de segurança na API do ChatGPT da OpenAI, que pode ser explorada para lançar ataques de negação de serviço distribuído (DDoS). Essa vulnerabilidade permite que atacantes, por meio de simples solicitações HTTP, usem o mecanismo de rastreamento do ChatGPT para enviar solicitações em massa a qualquer site, podendo até causar a indisponibilidade do site alvo. Nota da imagem: Imagem gerada por IA

Recentemente, a Nvidia anunciou três novos recursos de segurança em sua plataforma NeMo Guardrails, projetados para ajudar as empresas a gerenciar e controlar melhor os chatbots de IA. Esses microsserviços abordam desafios comuns em segurança de IA e moderação de conteúdo, oferecendo uma variedade de soluções práticas. Entre eles, o serviço de segurança de conteúdo (Content Safety) pode revisar o conteúdo antes que a IA o responda ao usuário, detectando potenciais informações prejudiciais. Esse serviço ajuda a prevenir

A Nvidia lançou recentemente três novos microsserviços NIM (Nvidia Infrastructure Microservices) como extensão do kit de ferramentas de código aberto NeMo Guardrails, com o objetivo de fornecer controle de segurança mais refinado para aplicativos de agentes de IA empresarial. Esses três novos serviços possuem características distintas: o primeiro visa a segurança de conteúdo, prevenindo a geração de conteúdo prejudicial ou tendencioso pela IA; o segundo garante que as conversas permaneçam dentro dos tópicos aprovados; e o terceiro previne que os agentes de IA ultrapassem as restrições do sistema ou façam jailbreak.

Recentemente, a renomada empresa de segurança Check Point publicou um relatório revelando um novo ransomware chamado FunkSec. Desde o final do ano passado, este malware atacou com sucesso pelo menos 85 organizações empresariais. De acordo com a investigação dos pesquisadores, este ransomware foi desenvolvido na linguagem de programação Rust, e há fortes indícios de que ele pode ter sido gerado automaticamente por um grande modelo de inteligência artificial. O estudo destaca que o código do FunkSec contém uma série de comentários em inglês fluentes, indicando que...

A OpenAI demonstrou recentemente uma abordagem mais proativa para testes de equipe vermelha na área de segurança de IA, superando seus concorrentes, especialmente nas áreas cruciais de aprendizado por reforço de múltiplas etapas e testes de equipe vermelha externos. Duas publicações da empresa estabelecem novos padrões do setor para melhorar a qualidade, confiabilidade e segurança dos modelos de IA. O primeiro artigo, intitulado "Metodologia de testes de equipe vermelha externa de modelos e sistemas de IA da OpenAI", destaca a eficácia de equipes externas especializadas na descoberta de vulnerabilidades de segurança que os testes internos podem perder. Essas equipes externas são compostas por especialistas em...