月之暗面傘下のKimi オープン プラットフォームは、コンテキスト キャッシュのストレージ料金を50％値下げしたことを発表しました。具体的には、キャッシュ ストレージ料金が1Mトークン/分あたり10元から5元へと引き下げられました。

微信截图_20240807110150.png

7月1日、Kimi オープン プラットフォームは、コンテキスト キャッシュ（Context Caching）の公的ベータテスト開始を発表しました。

コンテキスト キャッシュ（Context Caching）とは、頻繁にリクエストされる可能性のある大量のデータや情報を事前に保存できる、効率的なデータ管理技術です。

これにより、同じ情報が再度リクエストされた場合、システムはキャッシュから迅速に提供でき、再計算や元のデータソースからの取得が不要になり、時間とリソースを節約できます。

コンテキスト キャッシュ（Context Caching）は、大量の初期コンテキストを繰り返し参照する、頻繁なリクエストに特に適しており、長文モデルのコストを大幅に削減し、効率を向上させることができます！