Galileo lança nova ferramenta para explicar as alucinações de grandes modelos de IA

站长之家

Publicado emNotícias e Informações de IA · 2 minutos de leitura · Sep 20, 2023

A startup de IA de São Francisco, Galileo, lançou uma nova ferramenta para ajudar os usuários a entender e explicar melhor as alucinações dos grandes modelos de IA. O Galileo Studio oferece monitoramento em tempo real, permitindo que os usuários avaliem as entradas e saídas do modelo e forneçam novas métricas e salvaguardas para otimizar o desempenho dos LLMs.

A Galileo introduziu uma métrica de "fundamentação" para diferenciar entre alucinações e a veracidade da saída do modelo, garantindo que a saída do modelo permaneça no caminho certo. Esses novos recursos ajudarão os desenvolvedores a otimizar seus modelos e garantir a precisão e conformidade de suas saídas.

Taotian lança método inovador de alinhamento para resolver problemas de alucinação em modelos visuais de grande porte

Nos últimos anos, os modelos de linguagem visual de grande porte (Large Vision Language Models, LVLMs) demonstraram capacidades extraordinárias em tarefas de compreensão de imagens e multimodais. No entanto, o problema de "alucinação" tornou-se cada vez mais proeminente. Para enfrentar esse desafio, a equipe do Future Life Lab do Grupo Taotian propôs um novo método chamado "Otimização de Preferência de Tokens" (Token Preference Optimization, TPO) e introduziu um método de autocalibração.

Modelo GLM-4-9B da ZhiPu apresenta taxa de alucinação de apenas 1,3% e vence avaliação global de modelos de linguagem grandes

No campo da inteligência artificial, o 'problema de alucinação' em modelos de linguagem grandes tem sido um desafio crucial para a indústria. Recentemente, os resultados de um teste baseado no sistema de avaliação HHEM-2.1-Open mostraram que o modelo GLM-4-9B da ZhiPu AI apresentou resultados notáveis. Os dados do teste mostraram que, entre os 85 modelos de linguagem grandes avaliados, o GLM-4-9B conquistou o primeiro lugar com uma taxa de consistência factual de 98,7% e uma taxa de resposta de 100%. É particularmente digno de nota que a taxa de alucinação do modelo seja de apenas 1,3%, um resultado...

A 'alucinação' de modelos de IA impulsiona a inovação e ajuda cientistas a ganhar o Nobel

Uma característica amplamente considerada uma falha da inteligência artificial – a 'alucinação' – tornou-se a chave para uma descoberta científica. De acordo com a revista Fortune, o professor David Baker, um dos ganhadores do Prêmio Nobel de Química de 2024, utilizou a característica de 'alucinação' de modelos de IA para alcançar um avanço científico significativo. Professor da Universidade de Washington, Baker é o único cientista americano entre os três laureados com o Prêmio Nobel de Química deste ano. Ele utilizou um software de computador para inventar com sucesso novas proteínas, uma conquista que acabou lhe rendendo a distinção. Nota da imagem: Imagem gerada por IA, imagem licenciada.

Li Yanhong: O problema de alucinação de modelos grandes está basicamente resolvido; não mais fala bobagem

Na Conferência Mundial Baidu 2024, o fundador da Baidu, Li Yanhong, apresentou uma série de avanços notáveis na área de IA. Ele apontou que o avanço mais significativo da tecnologia de modelos grandes nos últimos dois anos reside na solução básica do problema de 'alucinação', o que marca um salto qualitativo na precisão das respostas de IA, transformando-a de um 'falar bobagem com seriedade' em um assistente inteligente confiável. Na conferência, Li Yanhong apresentou principalmente a tecnologia de geração de imagens a partir de texto aprimorada por busca iRAG, recentemente lançada pela Baidu. Essa tecnologia integra de forma inovadora os vastos recursos de imagens acumulados pela plataforma de busca Baidu e tecnologia avançada.