智谱 AI vient d'annoncer la prise en charge de ses modèles open source GLM-4-9B et CodeGeeX4-ALL-9B par Ollama. GLM-4-9B est un modèle polyvalent à plusieurs domaines, qui offre des performances exceptionnelles et est accessible au partage ouvert. CodeGeeX4-ALL-9B, basé sur ce modèle, est spécialisé dans la génération de code multilingue, et améliore considérablement les capacités de génération. Ollama est un outil qui permet de déployer facilement des grands modèles linguistiques en environnement local, compatible avec Windows, macOS et Li...

La version 0.2 d'Ollama est sortie, avec une nouvelle fonctionnalité : la concurrence activée par défaut. Cela permet de traiter plusieurs requêtes simultanément, améliorant ainsi l'expérience utilisateur. Cette mise à jour ajoute la capacité de gérer des requêtes parallèles et de charger des modèles différents en parallèle, optimisant ainsi l'efficacité du traitement des tâches et permettant le traitement multitâche, notamment pour les conversations, la complétion de code et le traitement de documents. De plus, le système intègre désormais une fonctionnalité d'chargement et de déchargement automatique des modèles, ajustée dynamiquement en fonction de l'utilisation de la mémoire GPU pour garantir une exécution stable et efficace. Cette mise à jour rend Ollama plus puissant et intelligent, offrant une meilleure expérience utilisateur.