在数字化浪潮席卷全球的今天，人工智能就像一个充满诱惑且难以驯服的野兽。对于缺乏庞大技术团队的中小企业来说，这头"野兽"往往令人望而生畏。这就是Cake诞生的意义。这家位于纽约的创业公司，正在用一个划时代的平台，帮助中小企业轻松驾驭AI的力量。通过近期获得的 1300 万美元融资（其中由Google Gradient Ventures领投 1000 万美元种子轮），Cake正在重新定义企业级AI工具的使用方式。公司的两位创始人堪称AI基础设施领域的"王牌"。CEO米沙·赫斯库曾创立并成功出售一家专注于放射学

月之暗面科技有限公司与清华大学MADSys实验室联合发布了一项名为Mooncake的开源项目，旨在共建以KVCache为中心的大模型推理架构。2024年6月，双方曾联合发布Kimi底层的Mooncake推理系统设计方案，该方案基于PD分离和以存换算架构，显著提升了推理吞吐量，受到业界广泛关注。

在人工智能迅速发展的时代，大型模型的智能化水平不断提升，但随之而来的推理系统效率挑战也越来越明显。如何应对高推理负载、降低推理成本、缩短响应时间，已成为业界共同面对的重要问题。Kimi 公司联合清华大学的 MADSys 实验室，推出了基于 KVCache 的 Mooncake 推理系统设计方案，该方案于2024年6月正式发布。Mooncake 推理系统通过创新的 PD 分离架构和以存换算为中心的理念，显著提升了推理的吞吐能力，吸引了广泛的行业关注。为了进一步推动这一技术框架的应用与普及，Kimi 与清华