Wikipédia + Modelo de IA superam alucinações! WikiChat de Stanford supera o GPT-4

Zhihu Direct Answer lança nova versão: redução de alucinações de IA e respostas diretamente rastreáveis ​​ao autor

Segundo informações, a nova versão do Zhihu Direct Answer apresenta diversas inovações funcionais. Os usuários não apenas podem carregar e analisar páginas da web e documentos de bancos de conhecimento, mas também podem considerar cada autor do Zhihu como um banco de conhecimento independente. Ao focar nas criações individuais ou em todas as criações de um autor, os usuários podem fazer perguntas, pesquisar e analisar, obtendo assim respostas profissionais mais específicas. Este recurso enriquece enormemente as fontes de conteúdo da pesquisa de IA, tornando os resultados da pesquisa mais precisos e confiáveis.

Zhou Hongyi discute alucinações de IA e segurança cibernética: o problema não deve ser exagerado, nem ignorado

Meta apresenta nova camada de memória escalável para melhorar o conhecimento e reduzir alucinações em modelos de linguagem

À medida que as empresas adotam cada vez mais modelos de linguagem grandes (LLMs), melhorar a precisão do conhecimento do modelo e reduzir as alucinações tornou-se um desafio importante. Pesquisadores do Meta AI apresentaram em um novo artigo uma "camada de memória escalável", que pode oferecer uma solução para esse problema. A ideia central da camada de memória escalável é adicionar mais parâmetros aos LLMs sem aumentar os recursos computacionais de tempo de inferência, melhorando assim sua capacidade de aprendizado. Essa arquitetura é adequada para cenários que exigem o armazenamento de uma grande quantidade de conhecimento factual, mas desejam manter a inferência rápida.

Microsoft solicita patente para lidar com o problema de 'alucinações' de IA

Recentemente, a Microsoft apresentou um pedido de patente para um método tecnológico que visa reduzir ou eliminar informações falsas geradas por inteligência artificial. A patente, intitulada "Interagindo com modelos de linguagem usando conhecimento externo e feedback", foi apresentada ao Escritório de Patentes e Marcas dos EUA (USPTO) no ano passado e publicada em 31 de outubro. O cerne da proposta é fornecer aos modelos de IA um "Sistema de Aprimoramento de Resposta" (RAS) que lhes permita extrair automaticamente mais informações com base nas consultas do usuário e verificar a "validade" de suas respostas. Especificamente, o sistema de aprimoramento de resposta...

Patronus AI lança a primeira API de detecção de IA autônoma, quebrando o feitiço das alucinações de IA

No rápido desenvolvimento da inteligência artificial, o fenômeno da "alucinação" de IA está se tornando cada vez mais frequente, causando grandes problemas para muitas empresas. Chatbots de atendimento ao cliente descrevem com confiança produtos inexistentes, IAs financeiras inventam dados de mercado e robôs médicos fornecem conselhos médicos perigosos. Esses problemas não são mais apenas curiosidades, mas sim riscos significativos que afetam a reputação e os lucros das empresas. Para enfrentar esse desafio, a startup sediada em São Francisco, Patronus AI, anunciou o lançamento da primeira plataforma de autoatendimento global, projetada para detectar e prevenir em tempo real

Ferramenta de transcrição de voz de IA Whisper exibe 'alucinações' graves, frequentemente inventando fatos

Recentemente, uma ferramenta de transcrição de IA impulsionada pela tecnologia Whisper da OpenAI ganhou popularidade no setor médico. Muitos médicos e instituições médicas estão usando essa ferramenta para registrar e resumir encontros com pacientes. De acordo com a ABC News, pesquisadores descobriram que a ferramenta apresenta 'alucinações' em algumas ocasiões, às vezes até inventando conteúdo completamente. Esta ferramenta de transcrição, desenvolvida pela empresa Nabla, já transcreveu com sucesso mais de 7 milhões de conversas médicas e atualmente conta com mais de 30 mil usuários.

Modelos de linguagem grandes também podem 'mentir'? Nova pesquisa de Harvard revela a verdade sobre as 'alucinações' da IA

O surgimento de modelos de linguagem grandes (LLMs), especialmente a popularização de aplicativos como o ChatGPT, mudou completamente a maneira como interagimos com máquinas. Esses modelos conseguem gerar textos coerentes e abrangentes, o que é impressionante. No entanto, apesar de sua grande capacidade, os LLMs são propensos a 'alucinações', ou seja, a gerar conteúdo que parece real, mas na verdade é fictício, sem sentido ou inconsistente com a solicitação. Pesquisadores da Universidade de Harvard realizaram um estudo aprofundado sobre o fenômeno de 'alucinação' em LLMs, descobrindo que sua raiz está no princípio de funcionamento dos LLMs. Os LLMs funcionam processando grandes quantidades de dados de texto...

Mudança de estratégia da Microsoft em IA: novo recurso de 'correção' reduz alucinações

A trajetória da Microsoft no campo da inteligência artificial está passando por uma mudança significativa. Anteriormente ambiciosa em desenvolver seus próprios modelos de linguagem, agora a empresa está redirecionando seu foco para a parceria com a OpenAI e lançou um novo recurso de 'correção', com o objetivo de resolver o problema das 'alucinações' em conteúdo gerado por IA. De desenvolvimento próprio a colaboração: a evolução da estratégia de IA da Microsoft. A Microsoft inicialmente investiu muitos recursos no campo da IA generativa (GenAI), esperando criar modelos de IA que rivalizassem ou até superassem os modelos da série GPT da OpenAI. No entanto, durante o longo processo de pesquisa e desenvolvimento...

Adeus, alucinações! O Google lança o novo modelo DataGemma, aumentando a precisão dos dados estatísticos em 58%

Recentemente, o Google anunciou o lançamento do novo modelo de IA de código aberto DataGemma, projetado para resolver o problema de 'alucinações' frequentemente encontrado em modelos de linguagem grandes (LLMs) ao lidar com dados estatísticos. Esse fenômeno de alucinação faz com que os modelos forneçam respostas imprecisas quando questionados sobre números e estatísticas. O lançamento do modelo DataGemma marca um avanço significativo da Google na área de IA. Nota da imagem: Imagem gerada por IA, provedor de licenciamento de imagens Midjourney. Redução de alucinações em consultas estatísticas.

Pesquisa mostra que mesmo os melhores modelos de IA geram muitas alucinações

Um estudo de instituições como a Universidade Cornell testou modelos de IA generativa como GPT-4o, Claude e Gemini para alucinações, descobrindo que eles produzem texto sem alucinações em apenas cerca de 35% das vezes, indicando que ainda há espaço para melhorias na confiabilidade da IA. A pesquisa utilizou fontes de autoridade em direito, saúde, história etc. para verificação de fatos e projetou um conjunto de perguntas que incluíam informações não cobertas pela Wikipédia. Os resultados mostraram que os modelos OpenAI tiveram o melhor desempenho geral, mas com melhorias limitadas em comparação com o GPT-3.5. O estudo indica que o tamanho do modelo não está relacionado à frequência de alucinações e que...