Google lance une nouvelle série de modèles open source, « Gemma ». Gemma surpasse Llama 2 et Mistral en termes de performances grâce à ses principes de conception uniques. Gemma utilise la fonction d'activation GeGLU, possède une échelle de paramètres importante, mais peut néanmoins remplacer d'autres modèles open source, démontrant ainsi un potentiel considérable.