llamafile

Emballe un modèle LLM en un fichier exécutable

Produit OrdinaireProgrammationLLMFichier exécutable

llamafile est un outil qui permet d'emballer un modèle de langage de grande taille (LLM) et ses poids dans un fichier exécutable autonome. En combinant llama.cpp et Cosmopolitan Libc, il compresse des modèles LLM complexes en un seul fichier llamafile, permettant une exécution locale sur la plupart des ordinateurs sans installation ni configuration. Son principal avantage est de faciliter l'accès aux modèles LLM open source pour les développeurs et les utilisateurs finaux.

Prise en charge de différentes architectures CPU (x86
ARM) et systèmes d'exploitation (Windows
Linux
macOS
etc.)
Poids du modèle intégrés
aucun téléchargement supplémentaire requis
Deux modes d'utilisation : interface en ligne de commande et serveur HTTP
Accélération GPU prise en charge (CUDA
Metal)

Test rapide des modèles LLM
Publication et partage de modèles LLM entraînés

Les utilisateurs peuvent télécharger des fichiers llamafile pré-construits pour discuter ou poser des questions à un LLM localement.
Les chercheurs peuvent entraîner des modèles LLM personnalisés et les publier sous forme de fichiers llamafile pour les partager avec d'autres.
Les développeurs peuvent utiliser llamafile pour intégrer rapidement des LLM à leurs produits.

Ouvrir le site Web

llamafile Dernière situation du trafic

Nombre total de visites mensuelles

474564576

Taux de rebond

36.20%

Nombre moyen de pages par visite

6.1

Durée moyenne de la visite

00:06:34

llamafile Tendance des visites

llamafile Distribution géographique des visites

Best AI Websites & Tools

llamafile

llamafile Dernière situation du trafic

llamafile Tendance des visites

llamafile Distribution géographique des visites

llamafile Sources de trafic

llamafile Alternatives

llamafile — Emballe un modèle LLM en un fichier exécutable

l1m — Une API proxy utilisée pour extraire des données structurées à partir de texte et d'images, implémentée à l'aide de LLM.

llm-commit — Un plugin pour générer des messages de commit Git avec un LLM

Crawl4LLM — Outil de crawling Web performant pour le pré-entraînement des LLM, axé sur l'extraction efficace de données Web de haute qualité.

DocWrangler — Un environnement de développement interactif open source pour construire et optimiser des pipelines de traitement de données basés sur les LLM.

MegaParse — Analyseur de fichiers, spécialement conçu pour l'analyse de PDF, Docx, PPTx et autres documents par les grands modèles linguistiques (LLM).

Archgw — Passerelle d'applications GenAI open source, pour une création rapide d'applications IA personnalisées

Rive — Une nouvelle façon de créer des graphiques dynamiques interactifs

Laminar.ai — Plateforme full-stack open source facilitant la création de produits LLM de pointe.

Confident AI — Infrastructure d'évaluation open source pour garantir la fiabilité des LLM

SquareDev — SquareDev est une plateforme de développement d'applications basée sur les grands modèles de langage.

Langroid — Langroid est un framework LLM léger basé sur Python.

Flowise — Outil de visualisation UI open source permettant de créer facilement des workflows LLM personnalisés.

Générateur Firecrawl LLMs.txt — Outil de génération de fichiers texte intégrés à partir de sites Web pour l'entraînement et l'inférence des LLM

Proxy Lite — Proxy Lite est un modèle de langage visuel (VLM) open source de 3 milliards de paramètres, axé sur les tâches d'automatisation Web.

AoT — Atom of Thoughts (AoT) est un framework permettant d'améliorer les performances d'inférence des grands modèles de langage.

OpenManus — OpenManus est un projet d'agent intelligent open source utilisable sans code d'invitation.

CocoIndex — CocoIndex est un moteur d'indexation de données open source, prenant en charge la logique de conversion personnalisée et les mises à jour incrémentielles.

Hugo Translator — Outil de traduction d'articles basé sur les LLM, traduisant et créant automatiquement des fichiers Markdown multilingues.

NeoBase — NeoBase est un assistant de base de données IA open source qui vous permet d'interagir avec votre base de données en langage naturel.

Instella — Instella est un modèle linguistique open source haute performance développé par AMD, conçu pour accélérer le développement des modèles linguistiques open source.

Aya Vision 32B — Aya Vision 32B est un modèle de langage visuel multilingue adapté à de multiples usages, tels que l'OCR, la description d'images et le raisonnement visuel.

Aya Vision 8B — Modèle de langage visuel multilingue à 800 millions de paramètres, prenant en charge l'OCR, la description d'images et le raisonnement visuel.

Scira — Scira est un moteur de recherche minimaliste basé sur l'IA, qui aide les utilisateurs à trouver des informations sur Internet.

MindMapper — Une application web qui génère des cartes mentales interactives à partir d'une URL, d'une vidéo YouTube ou d'une invite textuelle.

Modèles de traduction Firefox — Modèle de traduction automatique neuronale accéléré par CPU, optimisé pour la fonction de traduction du navigateur Firefox.

ExplainGitHub — Un outil de navigation de référentiels GitHub moderne, offrant une navigation de code intelligente et des performances optimisées.

Vibe Coder — Vibe Coder est une extension VS Code open source permettant d'explorer l'expérience de programmation IA basée sur la voix.

Aviator Agents — Framework d'agents basé sur LLM, utilisé pour effectuer des migrations de code à grande échelle dans les dépôts de code.

GibberLink — Deux agents IA conversationnels, après s'être mutuellement identifiés comme IA, basculent vers un protocole de communication de niveau sonore.