Groq公司推出了一种新型AI处理器LPU,该处理器在语言处理任务上表现优秀,挑战了传统GPU的地位。虽然LPU在效率和成本效益上具有优势,但其应用范围较窄。Groq公司对LPU的设计和技术进行了详细介绍和解释,展示了其潜在的影响和未来发展。
以色列科技公司 Lightricks 近日推出了一款名为 LTX Video (LTXV) 的闪电般快速的 AI 视频处理平台。该平台采用先进的人工智能模型,可以在常用的图形处理器 (GPU) 上运行。LTXV 于11月下旬发布,它可以在4秒内生成一个分辨率为768x512的5秒 AI 视频片段,这使其在其他 AI 视频平台中脱颖而出。其20亿个参数使其即使在英伟达 H100GPU 甚至 RTX4090上以每秒30.25帧的速度运行时,也能提供快速的处理时间,且不影响视频的质量和一致性。除了短片段外,LTXV 还支持长篇 AI 视频,为创作者提供了更大的控
随着人工智能(AI)、机器学习(ML)和高性能计算(HPC)在各行业的迅速发展,面对这些工作负载所带来的挑战,AMD 近日推出了 ROCm6.3,这是一个专为 AMD Instinct GPU 加速器设计的开源平台。该平台的推出旨在帮助开发人员应对计算资源、内存管理和优化软件方面的需求,提升工作效率。ROCm6.3集成了多项先进工具和优化功能,力求在性能与开发者友好性之间取得平衡。其中,SGLang 语言支持使得 AI 推理更加高效,能够流畅地执行复杂的模型。此外,重新设计的 FlashAttention-2则有效解决了 AI 训练与
近日,埃隆・马斯克的人工智能公司 xAI 宣布了一项雄心勃勃的计划,旨在将其 Colossus AI 超级计算机的能力扩大十倍。这一扩展将位于美国田纳西州的孟菲斯,预计将会整合超过100万块 GPU(图形处理单元),以满足日益增长的计算需求。Colossus AI 是 xAI 的核心计算设施之一,斯克希望通过这项扩展来缩小与竞争对手之间的差距。随着人工智能技术的快速发展,对计算能力的需求也在不断上升。马斯克的目标是使 Colossus AI 能够处理更复杂的任务,从而提升 xAI 在市场中的竞争力。为了这一目
最近,英伟达(NVIDIA)新推出的 Blackwell AI 芯片在服务器中出现了过热问题,引发了客户的担忧,担心他们无法及时启用新的数据中心。据The Information报道,Blackwell 图形处理单元(GPU)在与设计能够容纳72个芯片的服务器机架连接时,出现了过热现象。据知情人士透露,英伟达的工程团队正在积极应对这一问题,公司的工作人员已经多次要求供应商调整机架设计,以避免进一步的过热问题。同时,英伟达的发言人在接受《Seeking Alpha》采访时表示:“英伟达正在与领先的云服务提供商紧密合作,