Atom of Thoughts (AoT) é um novo framework de inferência que transforma o processo de inferência em um processo de Markov, representando a solução como uma combinação de problemas atômicos. O framework melhora significativamente o desempenho de modelos de linguagem grandes em tarefas de inferência através de mecanismos de decomposição e redução, reduzindo simultaneamente o desperdício de recursos computacionais. O AoT pode ser usado não apenas como um método de inferência independente, mas também como um plugin para métodos de extensão existentes em tempo de teste, combinando flexibilidade e as vantagens de diferentes métodos. O framework é open source e implementado em Python, adequado para pesquisadores e desenvolvedores realizarem experimentos e aplicações nas áreas de processamento de linguagem natural e modelos de linguagem grandes.