L'équipe du modèle de langage large Doubao de ByteDance a récemment annoncé avoir réussi à surmonter les goulots d'étranglement clés de l'architecture du modèle d'expert mixte (MoE) et a publié en open source une technologie d'optimisation majeure nommée COMET. Cette technologie améliore considérablement l'efficacité de l'entraînement des grands modèles, permettant une augmentation de l'efficacité allant jusqu'à 1,7 fois et réduisant efficacement les coûts de formation de 40 %. Remarque sur l'image : l'image a été générée par l'IA, le fournisseur de services d'autorisation d'image étant Midjourney. COMET a déjà été appliquée à l'entraînement en cluster de plusieurs milliers de cartes chez ByteDance, permettant des économies de plusieurs millions de GP.

L'application QiChacha indique que Huawei Technologies Co., Ltd. a récemment publié un brevet pour une « méthode et un dispositif de génération de modèles d'IA ». Le résumé du brevet sur QiChacha indique que ce brevet concerne le domaine de l'intelligence artificielle et permet d'améliorer dans une certaine mesure l'efficacité de la génération de modèles d'IA et de réduire la consommation de ressources. Cette méthode comprend : un premier processeur qui, sur la base de la durée d'exécution de chaque opérateur parmi les multiples opérateurs d'un modèle d'IA, de la taille d'occupation de la mémoire secondaire du second processeur pendant l'exécution de chaque opérateur et de la durée de déchargement de la mémoire, construit un objectif optimisé avec des informations d'instructions d'opérations comme variables d'optimisation.

Aujourd'hui, Ele.me a annoncé le lancement officiel d'un concours d'algorithmes d'IA axé sur le secteur de la vie locale, visant à explorer comment les technologies de pointe peuvent stimuler l'innovation dans les applications concrètes et améliorer l'efficacité et l'expérience utilisateur du secteur des services de proximité. Ce concours propose trois catégories : le vieillissement intelligent, les livreurs intelligents et l'efficacité commerciale par le calcul intelligent. Chaque catégorie désignera 5 équipes gagnantes qui se partageront un prize pool total de 300 000 yuans. Le premier prix est de 50 000 yuans, le second prix de 30 000 yuans, le troisième prix de 10 000 yuans, et deux prix de 5 000 yuans chacun.

Aujourd'hui à midi, Manus, le premier agent intelligent IA généraliste au monde, a officiellement rejoint Weibo, suscitant un vif intérêt et de nombreuses discussions parmi les internautes. Selon le compte officiel Weibo de l'IA, Manus n'est pas seulement un assistant intelligent, mais aussi un "super collègue" capable d'utiliser ses mains et son cerveau. Sans instructions complexes, une simple phrase suffit pour accomplir de multiples tâches telles que le tri de CV, la planification de voyages, l'analyse de données, la création de présentations PowerPoint, voire la programmation et le déploiement de jeux web. Il devient ainsi un outil d'efficacité incontournable pour les cols blancs, les étudiants et les entrepreneurs.

OlmOCR est un outil de reconnaissance optique de caractères (OCR) open source puissant et efficace. Il permet de convertir des fichiers PDF en texte, avec une prise en charge exceptionnelle des tableaux et de la reconnaissance d'écriture manuscrite. Profitez d'une conversion précise et rapide pour tous vos documents PDF.

La plateforme communautaire professionnelle Maimeng a récemment annoncé avoir intégré avec succès le modèle DeepSeek-R1. Cette initiative vise à optimiser l'efficacité du jumelage candidat-poste et à améliorer globalement le niveau d'intelligence du processus de recrutement. Il est à noter que Maimeng a commencé à déployer ce modèle dès début février de cette année et a déjà terminé les tests correspondants. Actuellement, la technologie de l'IA renforce en profondeur le flux de travail global de recrutement de Maimeng, réalisant une amélioration significative de l'efficacité dans plusieurs étapes clés, telles que la capture des signaux de recherche d'emploi, le filtrage des candidatures, les questions automatiques et les salutations intelligentes. Au stade de l'évaluation des talents, le système peut suivre dynamiquement le comportement des utilisateurs et analyser...

Lantu Auto a annoncé que son système de dialogue vocal IA développé en interne sera officiellement lancé au premier semestre 2025 et intégré aux nouveaux modèles à venir. Ce système offre des temps de réponse extrêmement rapides, toutes les opérations étant traitées en moins d'une seconde. Cela signifie que les conducteurs bénéficieront d'une expérience de contrôle vocal plus fluide. De plus, le système affiche un taux de reconnaissance de plus de 98 %, permettant une identification précise des instructions de l'utilisateur. Avec les progrès technologiques, Lantu Auto prévoit une mise à jour OTA (Over-The-Air) à grande échelle au second semestre 2025.

Au niveau des fonctionnalités principales, l'assistant YOYO 2.0 intègre profondément la technologie DeepSeek. Contrairement à une simple invocation d'interface, Honor déploie directement DeepSeek sur ses propres serveurs cloud. Cette innovation garantit à YOYO 2.0 une efficacité et une stabilité accrues lors du traitement des requêtes utilisateur. Grâce à cette technologie, YOYO 2.0 peut non seulement comprendre avec précision le contenu textuel et vocal des utilisateurs

Le domaine de l'intelligence artificielle est récemment en effervescence : Moonshot (月之暗面) a annoncé la publication en open source de son nouvel optimiseur Muon, réussissant à doubler l'efficacité du calcul par rapport à l'AdamW traditionnel. Le lancement de ce nouvel optimiseur survient alors que DeepSeek s'apprête à publier en open source plusieurs bibliothèques de code, suscitant un intérêt et des discussions importants au sein du secteur. L'optimiseur Muon, initialement proposé par les chercheurs d'OpenAI Keller Jordan et al. en 2024, se montre particulièrement performant pour l'entraînement de modèles de petite taille.

Dans le domaine de l'intelligence artificielle (IA), bien que les grands modèles de langage (LLM) excellent dans le traitement du langage naturel, ils sont souvent dépassés par des tâches de raisonnement complexes. Ces tâches nécessitent généralement un raisonnement en plusieurs étapes, des connaissances spécifiques à un domaine ou l'intégration efficace d'outils externes. Pour surmonter ces limitations, les chercheurs explorent constamment comment améliorer les capacités des LLM grâce à l'utilisation d'outils externes. Les méthodes d'augmentation traditionnelles nécessitent souvent un réglage fin ou un entraînement supplémentaire du modèle, ce qui limite son adaptabilité et sa flexibilité.

Dans le domaine de l'intelligence artificielle, l'entraînement des modèles linguistiques de grande taille (LLM) est devenu un axe important de progrès technologique. Cependant, avec l'augmentation constante de la taille des modèles et des ensembles de données, les méthodes d'optimisation traditionnelles – en particulier AdamW – révèlent progressivement leurs limites. Les chercheurs sont confrontés à une série de défis, notamment des coûts de calcul élevés, une instabilité de l'entraînement, la disparition ou l'explosion des gradients, des mises à jour incohérentes des matrices de paramètres et des besoins importants en ressources dans les environnements distribués. Il est donc urgent de disposer de techniques d'optimisation plus efficaces et plus stables pour faire face à ces complexités.