MiniMax-Text-01
MiniMax-Text-01は、総パラメータ数4,560億、最大400万トークンのコンテキストを処理可能な強力な言語モデルです。
一般製品生産性言語モデルテキスト生成
MiniMax-Text-01は、MiniMaxAIが開発した大規模言語モデルで、総パラメータ数は4,560億です。各トークンは459億のパラメータを活性化します。本モデルは、閃光型アテンション、Softmaxアテンション、MoE(Mixture of Experts)技術を組み合わせたハイブリッドアーキテクチャを採用しています。LASP+(Linear Attention Sequence Parallelism Plus)、可変長環状アテンション、ETP(Expert Tensor Parallelism)などの高度な並列化戦略と計算・通信オーバーラップ手法により、トレーニング時のコンテキスト長を100万トークンに拡張し、推論時には最大400万トークンのコンテキストを処理できます。複数の学術ベンチマークテストにおいて、MiniMax-Text-01は最先端モデルと同等の性能を示しています。
MiniMax-Text-01 最新のトラフィック状況
月間総訪問数
29742941
直帰率
44.20%
平均ページ/訪問
5.9
平均訪問時間
00:04:44