Dans le domaine de l'intelligence artificielle, les techniques de post-entraînement deviennent progressivement un moyen important d'améliorer les performances des modèles. Récemment, l'Allen Institute for Artificial Intelligence (AI2) a publié la série de modèles Tülu3, une suite de modèles linguistiques avancés entièrement open source, dont les performances sont comparables à celles de modèles propriétaires tels que GPT-4o-mini. Tülu3 inclut non seulement les données du modèle, le code et la recette d'entraînement, mais également un cadre d'évaluation, visant à stimuler le développement des techniques de post-entraînement pour les modèles open source. Traditionnellement, les modèles uniquement pré-entraînés ne répondent souvent pas efficacement aux besoins des applications réelles et peuvent...

Dans le domaine de l'IA open source, l'écart avec les grandes entreprises technologiques ne se résume pas seulement à la puissance de calcul. AI2 (anciennement Allen Institute for Artificial Intelligence) réduit cet écart grâce à une série d'initiatives innovantes. Son dernier projet, Tülu3, une solution de post-entraînement, rend accessible la transformation de modèles de langage de base en systèmes d'IA pratiques. Contrairement à l'idée reçue, les modèles linguistiques de base ne sont pas directement utilisables après la pré-formation. En réalité, le processus de post-entraînement est l'étape clé qui détermine la valeur finale du modèle. C'est à ce stade que le modèle passe d'un état « omniscient »