A ferramenta de modelo de linguagem grande Ollama foi identificada como tendo sérias vulnerabilidades de segurança que podem colocar em risco a privacidade dos usuários e seus dados. Especialistas recomendam cautela ao usar a plataforma até que as vulnerabilidades sejam corrigidas.

A ZhiPu AI lançou suporte Ollama para seus modelos de código aberto GLM-4-9B e CodeGeeX4-ALL-9B. O GLM-4-9B é um modelo multidomínio de uso geral que demonstra desempenho excepcional e está disponível abertamente. Baseado no GLM-4-9B, o CodeGeeX4-ALL-9B concentra-se na geração de código multilíngue, melhorando significativamente a capacidade de geração. O Ollama é uma ferramenta que facilita a implantação de modelos de linguagem grandes em ambientes locais, suportando Windows, macOS e Li...

O Ollama versão 0.2 foi lançado com uma nova funcionalidade: concorrência ativada por padrão, permitindo o processamento simultâneo de múltiplos pedidos e melhorando a experiência do usuário. Esta atualização adiciona a capacidade de lidar com pedidos paralelos e o carregamento paralelo de diferentes modelos, otimizando a eficiência do processamento de tarefas e permitindo o processamento multitarefa, incluindo sessões de bate-papo, conclusão de código e processamento de documentos. Além disso, o sistema adicionou a capacidade de carregamento e descarregamento automático de modelos, ajustando-se dinamicamente com base no uso da memória da GPU para garantir operação estável e eficiente. Esta atualização torna o Ollama mais poderoso e inteligente, proporcionando uma experiência de uso de alta qualidade.