MathPile é um corpus central de matemática contendo aproximadamente 9,5 bilhões de tokens, extraídos de livros didáticos (incluindo notas de aula), arXiv, Wikipédia, ProofWiki, StackExchange e páginas da web, adequado para os níveis K-12, universitário, pós-graduação e competições matemáticas. O MathPile apresenta alta qualidade de dados e extensa documentação para aumentar a transparência e proporcionar aos usuários flexibilidade no uso dos dados. Em termos de licenciamento, o MathPile segue a licença BY-NC-SA 4.0, com planos para lançar em breve uma versão comercial.