IBM 正式发布了其新一代开源大语言模型 Granite3.1,力图在企业级 AI 领域占据领先地位。这一系列模型具备128K 的扩展上下文长度、嵌入模型、内置的幻觉检测功能以及性能的显著提升。IBM 声称,Granite8B Instruct 模型在相同规模的开源竞争对手中表现最佳,包括 Meta 的 Llama3.1、Qwen2.5和谷歌的 Gemma2。Granite3.1模型的发布是在 IBM 快速迭代 Granite 系列的背景下进行的,早在10月份就推出了 Granite3.0。IBM 透露,其与生成 AI 相关的业务收入已达到20亿美元。新版本的核心理念是将更多功能集成到更小的
随着人工智能(AI)、机器学习(ML)和高性能计算(HPC)在各行业的迅速发展,面对这些工作负载所带来的挑战,AMD 近日推出了 ROCm6.3,这是一个专为 AMD Instinct GPU 加速器设计的开源平台。该平台的推出旨在帮助开发人员应对计算资源、内存管理和优化软件方面的需求,提升工作效率。ROCm6.3集成了多项先进工具和优化功能,力求在性能与开发者友好性之间取得平衡。其中,SGLang 语言支持使得 AI 推理更加高效,能够流畅地执行复杂的模型。此外,重新设计的 FlashAttention-2则有效解决了 AI 训练与
红帽公司近日发布了其企业级 Linux 人工智能平台 RHEL AI 的最新版本1.3,该版本新增了对 IBM Granite 大型语言模型(LLM)的支持,并预览了对 Intel Gaudi3加速器的支持。这一更新为红帽的服务合作伙伴和系统集成商带来了更多的机会,帮助企业更有效地探索和整合人工智能应用。红帽 AI 业务部门副总裁兼总经理乔・费尔南德斯表示,服务合作伙伴和系统集成商在帮助公司实现不同的应用案例方面扮演着重要角色。他指出,生成式人工智能的复杂性使得这些合作伙伴能够为客户提供更具成本效益
在数字时代,计算机芯片越来越小,但计算问题却变得越来越大。随着AI模型的不断发展,数据中心的能耗和计算需求正呈指数级增长。IBM近日推出的光学技术突破,有望彻底改变这一现状。传统数据中心面临两大技术瓶颈:铜线传输和电子传输速度的局限。目前,大多数CPU都处于大量空闲状态,仅仅是在等待数据包传输。这意味着计算资源的巨大浪费。图源备注:图片由AI生成,图片授权服务商MidjourneyIBM的创新方案是使用光学技术替代传统铜线。具体而言,公司开发了一种名为聚合物光波