2024年開催された火山引擎FORCE原動力大会・冬において、バイトダンスは火山引擎全域AI検索を発表しました。このサービスは、シナリオに合わせた検索と推奨、企業のプライベートデータ統合、そしてネットワーク接続型Q&Aサービスを統合することで、企業情報、業務ニーズ、ユーザーニーズを緊密に結びつけ、企業によるより正確な推奨と幅広い情報発見を支援します。
火山引擎のA1検索推奨エンジンは、豆包大規模言語モデルファミリーの融合強化技術を活用し、強力な推奨機能を提供することで、結果の精度と深いパーソナライズを実現します。そのマルチモーダル理解能力は、テキスト、画像、音声、ビデオを網羅し、EC、情報検索、エンターテインメントなど様々なシーンに適用可能です。A1検索推奨エンジンは、数十億規模のコンテンツに対応し、超大規模なスループットをサポートし、ミリ秒単位の検索速度を実現するなど、高い性能を誇ります。
さらに、火山引擎のネットワーク接続型Q&Aエージェントは、全域情報の迅速なアクセスを提供し、抖音集団の膨大な高品質なリアルタイムコンテンツを活用して、秒単位でタイムリーなホットトピックの回答を提供します。このエージェントは、画像、音声、テキストなどのマルチモーダルな視覚的革新的なインタラクション方式を採用し、ユーザーエクスペリエンスを向上させています。
大規模言語モデルのメモリに関して、火山引擎はコンテキストキャッシュ技術とRAG技術を融合した大規模言語モデルメモリソリューションを発表しました。このソリューションは、より高速な応答速度、より低い運用コスト、より正確な効果、そして億単位のメモリセグメントにより、顧客が効果的なメモリソリューションを構築し、大規模言語モデルのメモリ能力を強化することを支援します。これは、将来の大規模言語モデル開発における重要な方向性です。
