Zeta est un projet open source fournissant des blocs de construction modulaires, performants et extensibles pour la construction rapide de modèles d'IA. Il inclut de nombreuses fonctionnalités telles que Flash Attention, SwiGLU, les biais de position relative, les réseaux en couches feed-forward, les transformations BitLinear, le modèle multi-modal PalmE, U-Net, les plongements visuels et bien d'autres fonctionnalités avancées.