AMD a récemment annoncé le lancement de GAIA, une application open source conçue pour permettre aux utilisateurs d'exécuter des modèles linguistiques de grande taille (LLM) de manière efficace et locale. Actuellement compatible avec Windows, l'application est optimisée pour les processeurs Ryzen AI 300, exploitant ainsi pleinement leurs avantages pour les tâches d'IA.
GAIA est une application d'IA générative permettant aux utilisateurs d'exécuter des LLM en privé sur leur ordinateur personnel, garantissant ainsi la confidentialité des données. Grâce à son unité de traitement neuronal (NPU) intégrée, GAIA améliore considérablement les performances des tâches d'IA, répondant ainsi aux besoins informatiques croissants. Sa conception met l'accent sur la sécurité et la confidentialité des données des utilisateurs, un aspect crucial dans le contexte actuel de la cybersécurité.
Développé sur la base du Lemonade SDK d'ONNX TurnkeyML, GAIA utilise la technologie de génération améliorée par la recherche (RAG) et prend en charge plusieurs modèles populaires, tels que Llama et Phi. Cette application innovante enrichit non seulement les cas d'utilisation de l'IA, mais offre également plusieurs modules fonctionnels pratiques. Plus précisément, GAIA comprend quatre fonctionnalités principales : un chatbot (Chaty), un expert de recherche vidéo (Clip), un générateur de blagues (Joker) et un outil de test d'invite simple (Simple Prompt). Ces modules, chacun ayant ses propres caractéristiques, offrent une expérience utilisateur diversifiée.
Pour l'installation, AMD propose deux versions : une version standard compatible avec tous les appareils Windows et une version hybride optimisée pour les processeurs Ryzen AI 300 afin d'offrir une meilleure expérience utilisateur. De plus, le traitement local de GAIA garantit la confidentialité des données des utilisateurs, réduit le temps de réponse à quelques millisecondes et permet un fonctionnement hors ligne, facilitant grandement l'utilisation quotidienne.
Il est important de noter que le projet GAIA est sous licence MIT open source et devrait être étendu à davantage de plates-formes à l'avenir, ouvrant ainsi des perspectives d'application plus larges. Les développeurs et les utilisateurs finaux peuvent s'attendre à ce que GAIA apporte commodité et innovation à leurs applications d'IA.