Atom of Thoughts (AoT)は、解法を原子問題の組み合わせとして表現することで、推論プロセスをマルコフ過程に変換する新しい推論フレームワークです。このフレームワークは、分解と縮小メカニズムを通じて、大規模言語モデルの推論タスクにおける性能を大幅に向上させると同時に、計算資源の無駄を削減します。AoTは、独立した推論方法としてだけでなく、既存のテスト時拡張方法のプラグインとしても使用でき、さまざまな方法の長所を柔軟に組み合わせることができます。このフレームワークはオープンソースで、Pythonで実装されており、研究者や開発者が自然言語処理と大規模言語モデルの分野で実験や応用を行うのに適しています。