今天，NVIDIA（英伟达） 宣布，与 xAI 合作打造的 Colossus 超级计算机集群正式上线，这可是全球最强AI训练集群Colossus，整整由10万颗 NVIDIA Hopper GPU 组成。这个庞然大物之所以能达到这样的规模，得益于 NVIDIA Spectrum-X 以太网网络平台的支持。这个平台专门为多租户、超大规模的 AI 工厂设计，能够通过标准以太网实现远程直接内存访问，提供卓越的性能。Colossus 主要用于训练 xAI 的 Grok 系列大型语言模型，同时还为 X Premium 用户提供聊天机器人服务。更令人兴奋的是，xAI 正在计划将 Colossus 的规

在最近的一次采访中，NVIDIA 的首席执行官黄仁勋谈到了公司未来的发展前景和技术趋势。他提到，NVIDIA 目前面临着一个巨大的市场机遇，而这与过去的互联网泡沫时期完全不同。他强调，NVIDIA 正在 “重塑计算”，未来将是一个 “高度机器学习” 的时代。黄仁勋还表示，摩尔定律作为我们熟知的规则已经结束。为了应对未来计算密集型软件的需求，现有的数据中心在未来四到五年内可能需要大约1万亿美元的 GPU 进行现代化升级。这一观点无疑引发了广泛关注，尤其是在计算能力日益重要

埃隆・马斯克的xAI公司宣布推出名为“Colossus”的人工智能训练系统，其核心是100,000块Nvidia H100 GPU，被认为是全球最强大的AI训练系统。该系统性能甚至可能超越美国能源部的Aurora超级计算机。Colossus的强大主要得益于Nvidia的H100 GPU，这款GPU在运行语言模型时速度比之前的GPU快30倍，尤其在基于Transformer神经网络架构的任务中表现出色。马斯克计划在未来几个月内将GPU数量增加至200,000块，包括50,000块新一代的H200 GPU，以进一步增强性能。此举将为xAI的旗舰大型语言模型Grok-2的继任者提供强大支持，预计该模型将在年底前发布。Colossus的部分服务器GPU原本是为特斯拉预留的，但马斯克向Nvidia请求将价值超过5亿美元的12,000块H100 GPU转给xAI。到年底，特斯拉在Nvidia硬件上的支出预计将达到30亿到40亿美元。