Ein kürzlich entdeckter Fehler im Ollama-Tool für große Sprachmodelle stellt ein erhebliches Sicherheitsrisiko dar. Experten warnen vor potenziellen Datenlecks und anderen schwerwiegenden Folgen. Die Entwickler arbeiten an einer Lösung.

智谱 AI hat seine Open-Source-Modelle GLM-4-9B und CodeGeeX4-ALL-9B für die Ollama-Integration veröffentlicht. GLM-4-9B ist ein vielseitiges, leistungsstarkes und öffentlich zugängliches Modell für verschiedene Anwendungsbereiche. CodeGeeX4-ALL-9B, basierend auf dem oben genannten Modell, konzentriert sich auf die mehrsprachige Codegenerierung und bietet deutlich verbesserte Generierungsmöglichkeiten. Ollama ist ein Tool, mit dem sich große Sprachmodelle einfach in der lokalen Umgebung auf Windows-, macOS- und Linux-Systemen bereitstellen lassen.

Ollama 0.2 ist da! Zu den neuen Funktionen gehört die standardmäßige Aktivierung der Parallelität, die die gleichzeitige Bearbeitung mehrerer Anfragen ermöglicht und das Benutzererlebnis verbessert. Dieses Update erweitert die Möglichkeiten paralleler Anfragen und des parallelen Ladens verschiedener Modelle, optimiert die Effizienz der Aufgabenverarbeitung und unterstützt Multitasking, einschließlich Chat-Sitzungen, Code-Completion und Dokumentenverarbeitung. Zusätzlich wurde eine automatische Funktion zum Laden und Entladen von Modellen implementiert, die sich dynamisch an die GPU-Speicherauslastung anpasst, um einen stabilen und effizienten Betrieb zu gewährleisten. Dieses Update macht Ollama leistungsfähiger und intelligenter und bietet ein verbessertes Benutzererlebnis.