IBM 正式发布了其新一代开源大语言模型 Granite3.1,力图在企业级 AI 领域占据领先地位。这一系列模型具备128K 的扩展上下文长度、嵌入模型、内置的幻觉检测功能以及性能的显著提升。IBM 声称,Granite8B Instruct 模型在相同规模的开源竞争对手中表现最佳,包括 Meta 的 Llama3.1、Qwen2.5和谷歌的 Gemma2。Granite3.1模型的发布是在 IBM 快速迭代 Granite 系列的背景下进行的,早在10月份就推出了 Granite3.0。IBM 透露,其与生成 AI 相关的业务收入已达到20亿美元。新版本的核心理念是将更多功能集成到更小的
红帽公司近日发布了其企业级 Linux 人工智能平台 RHEL AI 的最新版本1.3,该版本新增了对 IBM Granite 大型语言模型(LLM)的支持,并预览了对 Intel Gaudi3加速器的支持。这一更新为红帽的服务合作伙伴和系统集成商带来了更多的机会,帮助企业更有效地探索和整合人工智能应用。红帽 AI 业务部门副总裁兼总经理乔・费尔南德斯表示,服务合作伙伴和系统集成商在帮助公司实现不同的应用案例方面扮演着重要角色。他指出,生成式人工智能的复杂性使得这些合作伙伴能够为客户提供更具成本效益
在数字时代,计算机芯片越来越小,但计算问题却变得越来越大。随着AI模型的不断发展,数据中心的能耗和计算需求正呈指数级增长。IBM近日推出的光学技术突破,有望彻底改变这一现状。传统数据中心面临两大技术瓶颈:铜线传输和电子传输速度的局限。目前,大多数CPU都处于大量空闲状态,仅仅是在等待数据包传输。这意味着计算资源的巨大浪费。图源备注:图片由AI生成,图片授权服务商MidjourneyIBM的创新方案是使用光学技术替代传统铜线。具体而言,公司开发了一种名为聚合物光波
IBM 在纽约约克城宣布了一项重大的光学技术突破,该技术将显著数据中心在训练和运行生成式人工(AI)模型时的效率。IBM 的研究人员开发了一种新型的共封装光学技术(CPO),这项技术能够利用光速实现数据中心内部的连接,从而替代目前使用的铜电缆。尽管光纤技术已在全球商业和通信中广泛应用,但大多数数据中心内部仍依赖于铜电缆进行短距离通讯。这导致 GPU 加速器在训练过程中常常处于闲置状态,浪费大量的时间和能源 IBM 的研究团队展示了如何将光的速度和容量引入数据中