本稿では、人工知能分野、特に大規模言語モデル（LLM）における計算とストレージの課題について論じています。BloomモデルのようなAI能力の向上に伴い、必要な計算資源とストレージ容量が大幅に増加し、コストの高騰と普及性の問題を引き起こしています。この問題を解決するために、「量子化」技術が導入され、モデルの重みと活性化の精度を下げることで、モデルサイズを縮小し、実行速度を向上させながら、精度低下を抑制します。本稿では、北京航空航天大学と商湯科技が共同開発した