Start-up d'IA voit sa valorisation doubler en quelques semaines après avoir acheté des GPU Nvidia, mais dépense 17 fois plus qu'elle ne gagne

Pré-entraînement ne signifie pas plus puissant : une étude révèle le phénomène de sur-entraînement catastrophique des grands modèles de langage

Les modèles open source contre-attaquent : l'optimisation adaptative au moment des tests (TAO) de Databricks surpasse GPT-4o

Databricks, une société spécialisée dans l'intelligence des données, a récemment lancé une nouvelle méthode de finetuning pour les grands modèles de langage : TAO (Test-time Adaptive Optimization). Cette technologie ouvre de nouvelles perspectives pour le développement des modèles open source. En utilisant des données non annotées et l'apprentissage par renforcement, TAO excelle non seulement en termes de réduction des coûts pour les entreprises, mais obtient également des résultats remarquables sur une série de tests de référence. Selon NeoWin, TAO...

L'équipe CMU présente le méta-renforcement fin-tuning : un nouveau paradigme pour améliorer les capacités de raisonnement des grands modèles de langage

Dans le domaine de l'intelligence artificielle, les grands modèles de langage (LLM) sont en constante évolution. Récemment, des chercheurs de la Carnegie Mellon University (CMU) et de HuggingFace ont proposé une nouvelle méthode appelée "méta-renforcement fin-tuning" (Meta Reinforcement Fine-Tuning, MRT). Cette méthode vise à optimiser l'efficacité de calcul des grands modèles de langage lors des tests, notamment pour résoudre des problèmes de raisonnement complexes. Les recherches montrent que les grands modèles de langage actuels présentent des limites en matière de raisonnement...

Passerelle Portkey AI : Solution IA open source pour intégrer facilement plusieurs grands modèles de langage

ByteDance lance AIBrix : un nouveau système d'inférence open source conçu pour les grands modèles de langage

Alexa mise à niveau complète : intégration officielle des grands modèles de langage, révolutionnant le secteur des assistants IA

Microsoft open-source OmniParser V2 : permettre aux grands modèles de langage de « comprendre » et d'interagir avec les interfaces graphiques

Microsoft a récemment lancé une version mise à jour de son grand modèle linguistique OmniParser pour Windows : OmniParser-v2.0. Ce modèle est capable d'identifier les éléments d'interface utilisateur de bureau et de fenêtre et d'interagir avec eux, marquant une avancée significative des technologies AIAgent vers une utilisation entièrement automatisée de l'ordinateur. La capacité clé d'OmniParser-v2.0 réside dans sa capacité de perception et d'interaction avec l'environnement de bureau. Cela signifie que, grâce à son intégration, les AIAgent peuvent

Rapport : Perplexity, moteur de recherche IA, cherche à fusionner avec TikTok aux États-Unis

La startup américaine de moteur de recherche Perplexity AI a récemment soumis une proposition de fusion à ByteDance, la société mère de TikTok, visant à combiner Perplexity et la version américaine de TikTok en une nouvelle entité. Selon des sources bien informées, cette proposition revêt une importance particulière face à l'interdiction imminente aux États-Unis. TikTok fait face à une interdiction du gouvernement américain, censée entrer en vigueur ce dimanche, sauf si elle parvient à se séparer de ByteDance. Cependant, pour le moment...

NVIDIA et les universités publient « FlashInfer » : une nouvelle bibliothèque de noyaux pour améliorer l’efficacité de l’inférence des grands modèles de langage

Avec l’essor des grands modèles de langage (LLM) dans les applications modernes d’intelligence artificielle, des outils tels que les robots conversationnels et les générateurs de code s’appuient sur les capacités de ces modèles. Cependant, les problèmes d’efficacité liés au processus d’inférence deviennent de plus en plus importants. En particulier, le traitement des mécanismes d’attention, tels que FlashAttention et SparseAttention, se révèle souvent insuffisant face à des charges de travail diverses, des modes d’entrée dynamiques et des limitations des ressources GPU. Ces défis, associés à des latences élevées et à des goulots d’étranglement de la mémoire,

L'Université Harvard publie un jeu de données de plusieurs millions de livres pour entraîner des modèles d'IA

L'Université Harvard a récemment annoncé son intention de publier un jeu de données composé de près d'un million de livres du domaine public. Ce jeu de données pourra être utilisé par quiconque pour entraîner des grands modèles de langage et d'autres outils d'intelligence artificielle. Ce projet est mené par la nouvelle initiative de données institutionnelles (Institutional Data Initiative) de l'Université Harvard, et a été réalisé grâce au financement de Microsoft et d'OpenAI. Ce jeu de données comprend des livres numérisés provenant du projet Google Books, et couvre des œuvres classiques telles que celles de Shakespeare, Dickens et Dante, etc.