在人工智能迅速发展的时代，大型模型的智能化水平不断提升，但随之而来的推理系统效率挑战也越来越明显。如何应对高推理负载、降低推理成本、缩短响应时间，已成为业界共同面对的重要问题。Kimi 公司联合清华大学的 MADSys 实验室，推出了基于 KVCache 的 Mooncake 推理系统设计方案，该方案于2024年6月正式发布。Mooncake 推理系统通过创新的 PD 分离架构和以存换算为中心的理念，显著提升了推理的吞吐能力，吸引了广泛的行业关注。为了进一步推动这一技术框架的应用与普及，Kimi 与清华
近日，阿里巴巴最新推出的推理人工智能模型QwQ-32B-Preview已经引起了业界的广泛关注。这款模型由阿里巴巴的Qwen团队开发，包含325亿个参数，能够处理长度达32，000个单词的提示，并在多个基准测试中超越了OpenAI的o1系列。QwQ-32B-Preview的开创性在于，它是少数几个能够与OpenAI的推理模型相媲美的模型之一，并且是首个可以在宽松许可下下载的推理模型。根据阿里巴巴的测试，QwQ-32B-Preview在AIME和MATH测试中均超过了OpenAI的o1模型，其中AIME使用其他AI模型评估性能，而MATH则是由一系列文字问题组
在人工智能领域，一项来自中国的创新性研究正在引起广泛关注。清华大学和上海人工智能实验室的科学家们提出了一种名为"思维导图"（Diagram of Thought，简称DoT）的全新框架，这一突破性成果有望彻底改变我们对AI思维模式的认知。DoT框架的核心理念是模仿人类解决复杂问题的思维过程。就像我们在解答难题时会不断提出假设、批判、修正，最终得出结论一样，DoT让AI能够在单个模型内部构建一个有向无环图（DAG），实现更接近人类的推理方式。这种新型思维模式的独特之处在于它突破了
位于美国宾夕法尼亚州的三哩岛核电站将在经过五年的停运后重新启动。这座电站曾因1979年的严重核泄漏而臭名昭著，但现在它的拥有者星座能源公司（Constellation Energy）与微软达成了协议，将为微软日益增长的人工智能业务提供电力。图源备注:图片由AI生成，图片授权服务商Midjourney据说，三哩岛的 Unit2反应堆由于冷却水的流失而过热，导致了那场历史性的核事故，直到现在，这个反应堆仍处于退役阶段。而星座能源在2019年关闭了与之相连的 Unit1反应堆，原因主要是经济因素。不过，现
