एटम ऑफ़ थॉट्स (AoT) एक नया अनुमान ढांचा है, जो समाधानों को परमाणु समस्याओं के संयोजन के रूप में दर्शाता है, और अनुमान प्रक्रिया को मार्कोव प्रक्रिया में बदल देता है। यह ढांचा अपघटन और संकुचन तंत्र के माध्यम से, बड़े भाषा मॉडल के अनुमान कार्यों पर प्रदर्शन में उल्लेखनीय रूप से सुधार करता है, साथ ही साथ कंप्यूटिंग संसाधनों की बर्बादी को कम करता है। AoT न केवल एक स्वतंत्र अनुमान विधि के रूप में काम कर सकता है, बल्कि मौजूदा परीक्षण समय विस्तार विधियों के प्लगइन के रूप में भी काम कर सकता है, विभिन्न विधियों के लाभों को लचीले ढंग से जोड़ सकता है। यह ढांचा ओपन सोर्स है और पायथन पर आधारित है, जो शोधकर्ताओं और डेवलपर्स के लिए प्राकृतिक भाषा प्रसंस्करण और बड़े भाषा मॉडल क्षेत्र में प्रयोग और अनुप्रयोग के लिए उपयुक्त है।