Atom of Thoughts (AoT) ist ein neuartiges Inferenzframework, das den Inferenzprozess durch die Darstellung von Lösungen als Kombination atomarer Probleme in einen Markov-Prozess umwandelt. Das Framework verbessert durch Zerlegungs- und Komprimierungsmechanismen die Leistung großer Sprachmodelle bei Inferenzaufgaben deutlich und reduziert gleichzeitig die Verschwendung von Rechenressourcen. AoT kann nicht nur als eigenständige Inferenzmethode verwendet werden, sondern auch als Plugin für bestehende Testzeit-Erweiterungsmethoden, um die Vorteile verschiedener Methoden flexibel zu kombinieren. Das Framework ist Open Source und basiert auf Python und eignet sich für Forscher und Entwickler, um Experimente und Anwendungen im Bereich der Verarbeitung natürlicher Sprache und großer Sprachmodelle durchzuführen.