Récemment, l'équipe de recherche de BitEnergy AI a développé un nouvel algorithme appelé « multiplication à complexité linéaire » (L-Mul), une méthode qui permet de réduire considérablement la consommation énergétique des systèmes d'intelligence artificielle.
Plus précisément, cet algorithme remplace les multiplications à virgule flottante complexes par des additions entières plus simples, ce qui devrait permettre de réduire la consommation d'énergie jusqu'à 95 % dans plusieurs domaines. Le titre de cette recherche, « Des modèles linguistiques économes en énergie grâce à la simple addition », illustre le potentiel considérable de L-Mul en matière d'économie d'énergie.
Source de l'image : image générée par IA, fournisseur de services d'autorisation d'images Midjourney
L'équipe de recherche a mené des tests sur diverses tâches, notamment la compréhension du langage, le raisonnement structurel, le calcul mathématique et les questions-réponses basées sur le bon sens. Les résultats montrent que la méthode L-Mul offre de très bonnes performances dans ces tâches. Ils ont constaté que L-Mul pouvait être directement appliqué au cœur des modèles linguistiques modernes – le mécanisme d'attention – avec un impact négligeable sur les performances du modèle. Comme chacun le sait, le mécanisme d'attention joue un rôle clé dans les modèles linguistiques modernes tels que GPT-4.
L'équipe de BitEnergy AI affirme que L-Mul peut non seulement améliorer la compétitivité académique et économique, mais aussi renforcer l'autonomie de l'IA. Ils estiment que cette technologie permettra aux grandes entreprises de développer des modèles d'IA personnalisés plus rapidement et plus économiquement.
À l'avenir, ils envisagent d'intégrer l'algorithme L-Mul au niveau matériel et de développer des interfaces de programmation pour la conception de modèles de haut niveau, afin d'optimiser les modèles d'IA génératifs textuels, symboliques et multimodaux pour qu'ils soient compatibles avec le matériel natif L-Mul.
Cet algorithme innovant devrait non seulement réduire considérablement la consommation d'énergie, mais aussi contribuer au développement de la technologie de l'IA. Avec les exigences croissantes en matière de protection de l'environnement et d'économie d'énergie, l'apparition de L-Mul apporte sans aucun doute un nouvel espoir au domaine de l'intelligence artificielle.
Points clés :
🌱 L'algorithme L-Mul peut réduire la consommation énergétique des systèmes d'IA jusqu'à 95 %.
🔍 Cet algorithme offre d'excellentes performances dans diverses tâches, notamment une application remarquable au mécanisme d'attention des modèles linguistiques modernes.
🚀 BitEnergy AI prévoit d'implémenter l'algorithme L-Mul au niveau matériel et de développer les interfaces de programmation correspondantes pour optimiser les modèles d'IA.