本日午後のOPPO Find X7シリーズ製品技術説明会において、OPPOは最新アップグレード版のAndesGPTを発表しました。この大規模言語モデルはOPPO Find X7シリーズスマートフォンに搭載され、強力なAIアシスタント「小布助手」の最新技術基盤となります。
AndesGPT大規模言語モデルは、1800億パラメータ、700億パラメータ、70億パラメータの3種類の規模があり、端末とクラウドの協調配置をサポートすることで、様々なシーンにおけるユーザーニーズに対応します。OPPO Find X7シリーズスマートフォンは、70億パラメータのAndesGPT端末側大規模言語モデルを初搭載し、よりスマートなユーザー体験を提供します。
強力な知識、記憶、ツール機能により、AndesGPT大規模言語モデルは「小布助手」に幅広い知識とパーソナライズされたインテリジェントサービス機能を提供します。同時に、独自のSwappedAttention技術により、長期記憶による先頭単語推論の遅延問題を解決し、「小布助手」の応答速度を大幅に向上させました。
テキスト内容要約のシーンにおいて、200文字の先頭単語生成はわずか0.2秒で、競合他社製品と比較して20倍の速度を実現しました。2000文字の先頭単語生成はわずか2.9秒で、競合他社製品と比較して2.5倍の速度を実現しました。要約文字数の上限は14000文字に達し、一般的な学術論文の入力も容易にこなせます。これは競合他社モデルの能力を3.5倍上回ります。
10億パラメータの大規模言語モデルと比較して、70億パラメータのAndesGPTは理解能力においてより優れています。通話要約機能を例に挙げると、ユーザーは通話内容の要点を確認し、テーマ、要点、ToDoリストを含む通話内容要約を正確に出力できます。その精度は、10億パラメータレベルの端末側モデルを明らかに上回っています。
