Stable Code 3B ist ein Dekodierer-Sprachmodell mit 2,7 Milliarden Parametern, das mit über 130 Milliarden Token aus vielfältigen Text- und Code-Daten vortrainiert wurde. Es wurde in 18 Programmiersprachen trainiert und erzielte bei Tests mit den Bewertungswerkzeugen von BigCode in verschiedenen Programmiersprachen Spitzenergebnisse im Vergleich zu Modellen ähnlicher Größe. Es unterstützt lange Kontexte, wurde mit Sequenzen bis zu einer Länge von 16384 trainiert und verfügt über eine Fill-in-the-middle (FIM)-Funktion. Anwender können mit Code-Beispielen auf der Hugging Face Website beginnen, um Texte mit Stable Code 3B zu generieren. Das von Stability AI entwickelte Modell basiert auf der GPT-NeoX Bibliothek und eignet sich für Englisch und Programmiersprachen.