Dans le domaine de l'intelligence artificielle, les techniques de post-entraînement deviennent progressivement un moyen important d'améliorer les performances des modèles. Récemment, l'Allen Institute for Artificial Intelligence (AI2) a publié la série de modèles Tülu3, une suite de modèles linguistiques avancés entièrement open source, dont les performances sont comparables à celles de modèles propriétaires tels que GPT-4o-mini. Tülu3 inclut non seulement les données du modèle, le code et la recette d'entraînement, mais également un cadre d'évaluation, visant à stimuler le développement des techniques de post-entraînement pour les modèles open source. Traditionnellement, les modèles uniquement pré-entraînés ne répondent souvent pas efficacement aux besoins des applications réelles et peuvent...

Un chercheur en IA de l'université d'Oxford souligne que les grands modèles de langage (LLM) peuvent menacer l'intégrité scientifique. La recherche appelle à un changement dans l'utilisation des LLM, en les utilisant comme des "traducteurs à tir zéro" pour garantir l'exactitude factuelle des résultats. La confiance accordée aux LLM comme source d'information peut nuire à la vérité scientifique, d'où l'appel à une utilisation responsable des LLM. La recherche avertit que l'utilisation non contrôlée des LLM dans les articles scientifiques pourrait avoir de graves conséquences.