Na área de pesquisa acadêmica, a busca de literatura é uma tarefa complexa e importante de aquisição de informações. Os pesquisadores precisam ser capazes de lidar com a capacidade de busca em áreas de conhecimento complexas e especializadas para atender às necessidades de pesquisa detalhadas. No entanto, as plataformas de busca acadêmica existentes, como o Google Acadêmico, muitas vezes têm dificuldades em lidar com essas consultas de pesquisa complexas. Por exemplo, uma consulta especializada sobre aprendizado de reforço não estacionário usando o método UCB requer maior capacidade de computação e análise. Além disso, os pesquisadores geralmente precisam gastar muito tempo e esforço revisando manualmente uma grande quantidade de literatura acadêmica ao fazer revisões de literatura.

A ByteDance está secretamente se preparando para estabelecer um instituto de pesquisa em modelos de linguagem amplos, com o objetivo de fortalecer sua estratégia no campo da inteligência artificial. Este instituto já atraiu talentos de ponta do setor, incluindo Qin Yu Jia, membro-chave da empresa de inteligência artificial 'Mianbi', e Huang Wenhao, membro-chave da empresa 'Lingyi Wanwu'. Huang Wenhao será responsável pela gestão e planejamento de projetos técnicos, reportando-se diretamente ao fundador Zhang Yiming. Essa iniciativa da ByteDance demonstra seu plano de longo prazo e sua estratégia ativa no desenvolvimento de modelos de linguagem amplos em IA, buscando impulsionar o progresso tecnológico por meio da incorporação de especialistas externos, a fim de conquistar uma posição de destaque em um mercado altamente competitivo.

A Mercedes-Benz (China) Investment Co., Ltd. e a Beijing Volcano Engine Technology Co., Ltd. assinaram recentemente um memorando de cooperação estratégica, anunciando uma colaboração e exploração aprofundadas nas áreas de modelos de linguagem amplos, inteligência artificial generativa e tecnologias de big data. Essa parceria estratégica marca a aceleração da inovação digital da Mercedes-Benz na China, com o objetivo de melhorar a experiência do cockpit inteligente por meio da tecnologia de IA e oferecer aos clientes chineses uma experiência digital de luxo mais conveniente e personalizada.

A compreensão de contextos longos é um desafio crucial no campo do processamento de linguagem natural, especialmente quando modelos de linguagem amplos (LLMs) processam textos que excedem o tamanho de sua janela de contexto. Para solucionar esse problema, pesquisadores desenvolveram o teste de benchmark LooGLE, projetado para avaliar a capacidade de compreensão de contexto longo dos LLMs ao lidar com documentos extremamente longos (média de 19,3 mil palavras, totalizando 776 documentos, abrangendo diversas áreas). O LooGLE contém sete tarefas, que incluem dependências curtas e longas, avaliando a compreensão do modelo para textos de diferentes comprimentos. Os dados de teste são provenientes de publicações de 2022 em diante.

Pesquisadores da Microsoft lançaram o Auto Evol-Instruct, uma nova estrutura de IA que pode adaptar e otimizar automaticamente o processo de geração de conjuntos de dados de IA sem intervenção humana. Ao contrário dos métodos de evolução anteriores que exigem regras definidas por especialistas, esta estrutura utiliza diretamente modelos de linguagem amplos (LLMs) para analisar instruções, projetar e otimizar regras de evolução. O Auto Evol-Instruct pode melhorar automaticamente o desempenho em tarefas como obediência a instruções, raciocínio matemático e geração de código, melhorando significativamente o desempenho dos LLMs. Através de testes comparativos, o

Senadores americanos pedem restrições ao desenvolvimento de modelos de linguagem amplos por Amazon, Microsoft e Google. Warren argumenta que os gigantes da tecnologia têm poder excessivo na área da inteligência artificial. Propõe proibir os gigantes da tecnologia de desenvolver tecnologias de inteligência artificial de ponta. Pede a separação do Google e da Amazon e a restrição de seus negócios.

A equipe de pesquisa do Google AI apresentou um método universal para gerar texto personalizado usando modelos de linguagem amplos. Através de uma estrutura multiestágio e multitarefa, incluindo recuperação, classificação, resumo, síntese e geração, o modelo de linguagem amplo é treinado para gerar texto personalizado. Este método foi validado em três conjuntos de dados públicos, mostrando melhorias significativas em comparação com modelos de referência.