备受瞩目的GPT-5项目（代号Orion）已研发超过18个月，却迟迟未能面世。据《华尔街日报》最新报道，知情人士透露，尽管Orion的表现优于OpenAI现有模型，但其进步幅度尚不足以证明继续投入巨额成本的合理性。更令人担忧的是，全球数据量的匮乏，可能正成为GPT-5迈向更高智能水平的最大障碍。据称，GPT-5至少经历了两次训练，每次训练都暴露出新的问题，未能达到研究人员的预期。每轮训练耗时数月，仅计算成本就高达5亿美元。这个项目能否成功、何时能成功，目前尚不明朗。训练之路困

最近，Answer.AI 和 LightOn 联合发布了开源语言模型 ModernBERT，这是对谷歌 BERT 的重大升级。根据开发者的介绍，ModernBERT 在处理速度、效率和质量上都有了显著提升。该模型可以比其前身快四倍，同时使用更少的内存。ModernBERT 的设计允许它处理长达8192个标记的文本，这比现有编码模型的典型512标记限制提高了16倍。此外，ModernBERT 还是首个经过广泛训练的编程代码编码模型，它在 StackOverflow 问答数据集上的得分超过80，创造了编码模型的新纪录。在通用语言理解评估（GLUE）中，ModernBERT-Large

近日，微软 AI 研究团队发布了开源工具 PromptWizard，这是一种基于反馈驱动的 AI 框架，旨在高效优化大型语言模型（LLM）的提示设计。提示的质量对于模型输出的优劣至关重要，然而，创建高质量的提示往往需要耗费大量的时间和人力资源，尤其是在复杂或特定领域的任务中。传统的提示优化方法多依赖人工经验，这种方式不仅耗时，而且难以扩展。现有的优化技术分为连续和离散两种。连续技术如软提示需要大量的计算资源，而离散方法如 PromptBreeder 和 EvoPrompt 则通过生成多种提示变体

今日，抖音副总裁李亮就有关字节跳动可能掀起大模型价格战的传闻发表了看法。他在社交媒体上明确表示，这并非价格战，而是通过技术创新来降低 AI 模型的使用成本。据了解，在火山引擎Force大会上，字节跳动正式发布了豆包视觉理解模型，同时公布其售价为千tokens输入0.003元，比行业平均价格便宜85%。对于字节跳动再掀大模型价格战这一传闻，抖音副总裁李亮发文回应称:这不是价格战。他表示，豆包大模型通过技术创新来降低成本，在算法、软件工程和硬件方案上做了非常多优化，

在为期12个工作日的连续直播活动中，OpenAI在第9天面向开发者发布了o1模型的API，并宣布对实时API进行重大升级，支持WebRTC技术。​自发布日起，OpenAI将向API使用等级5级的开发者提供o1API的访问权限。此次更新的o1模型API相较于之前的预览版本，在思考成本上实现了60%的降低，并新增了高级视觉处理能力。同时，GPT-4o在音频处理上的成本也减少了60%，而mini版本的价格也大幅下降了10倍。

近日，OpenAI 的首席财务官在纽约表示，该公司预计未来构建更高级的人工智能模型所需的费用将持续大幅增长，达到数十亿美元。这一信息反映出，随着技术的不断进步和市场的需求增加，开发尖端 AI 系统的经济压力也在加大。根据高管的介绍，OpenAI 正在加大对先进人工智能技术的投资，特别是在模型训练和基础设施方面的开支。这意味着，未来用户可能会看到更多的服务价格上涨，以便公司能够弥补不断增加的开发成本。此外，OpenAI 正在努力推动新一代 AI 模型的研发，这些模型被认

电视软件的竞争焦点正转向广告。电视制造商们越来越热衷于利用电视操作系统（OS）进行广告投放和用户追踪，由此催生了诸多大胆的新策略，例如广告技术公司推出电视操作系统，以及在电视屏幕保护程序上展示广告。TCL 作为电视制造商，即将推出一系列短片，并在其免费流媒体服务上首映。这标志着该公司在电视用户货币化、影视制作方面采取了新的尝试，通过依赖生成式 AI 和定向广告来降低成本。AI 短片“入驻”免费流媒体，TCL 押注内容新模式TCL 的五部短片是该公司为了让人们

在2024年 AWS re:Invent 大会上，亚马逊网络服务（AWS）宣布推出基于 Trainium2芯片的 Amazon Elastic Compute Cloud(EC2)实例，正式提供给用户。这新实例在价格性能方面相比于上一代基于 GPU 的 EC2实例提升了30-40%。AWS 首席执行官马特・加曼表示:“，我很高兴地宣布 Trainium2驱动的 Amazon EC2Trn2实例的正式发布。”除了 Trn2实例外，AWS 还推出了 Trn2UltraServers，并展示了下一代 Trainium3AI 芯片。Trn2实例配备了16个 Trainium2芯片，能够提供高达20.8petaflops 的计算性能，专为训练和部署具有数十亿参数的大型语言模型

最近，人工智能研究公司 Epoch AI 发布了一款互动模拟器，专门用于模拟训练大型语言模型所需的计算能力。通过这款模拟器，研究人员发现，虽然可以使用2012年的老旧显卡（如 GTX580）来训练 GPT-4，但成本将是如今现代硬件的十倍。Epoch AI 的研究显示，训练 GPT-4所需的浮点运算次数（FLOP）在1e25到1e26之间。为了进行这项研究，模拟器分析了不同显卡的效率，特别是在模型规模扩大时的表现。结果表明，随着模型的增长，效率通常会降低。以近年来推出的 H100显卡为例，它能在较长时间内保

近日，全球知名的扫地机器人制造商 iRobot 宣布将裁减约105名员工，此次裁员占其现有员工总数的16%。这一消息是在公司发布的财报中披露的，iRobot 的 CEO 加里・科亨（Gary Cohen）在财报电话会议中表示，这一举措虽然具有挑战性，但从根本上改变了公司与合作伙伴之间的工作方式，使得机器人研发和生产的效率得以提升。科亨强调，iRobot 已经采用了运营模式，这一模式不仅能够大幅提高新产品的开发数量，还能在成本和资源使用上实现显著降低。2024年，iRobot 推出了多款新产品，其中包括

生成高质量、时间连续的视频需要大量的计算资源，尤其是对于较长的时间跨度而言。最新的扩散Transformer 模型（DiTs）虽然在视频生成方面取得了显著进展，但由于其依赖于更大的模型和更复杂的注意力机制，导致推理速度较慢，反而加剧了这一挑战。为了解决这个问题，Meta AI 的研究人员提出了一种名为 AdaCache 的免训练方法来加速视频 DiTs。AdaCache 的核心思想是基于“并非所有视频都相同”这一事实，这意味着某些视频比其他视频需要更少的去噪步骤即可达到合理的质量。 基于此，该方

大模型（LLM）如GPT、Llama等在人工智能领域掀起了一场革命，但如何高效地训练这些庞大的模型并使其符合人类价值观仍然是一个难题。强化学习与人类反馈（RLHF）作为一种重要的LLM训练方法，近年来得到广泛应用，但传统的RLHF框架在灵活性、效率和可扩展性方面存在局限性。为解决这些问题，字节跳动豆包大模型团队开源了名为HybridFlow的RLHF框架，为LLM训练带来了新的可能性。RLHF通常包含三个阶段:首先，actor模型根据输入的提示生成文本;然后，critic模型、reference模型和reward模型对生成

北京百川智能科技有限公司近日宣布推出其一站式解决方案，旨在帮助企业以低成本实现大模型的私有化部署，并提高效率。这套解决方案包括全链路优质通用训练数据、Baichuan4-Turbo和Baichuan4-Air两款模型，以及全链路领域增强工具链，能够满足企业在不同场景下的需求。

在近期举办的RTE2024实时互联网大会上，业界大咖们对AI产业发展趋势进行了深度剖析。随着OpenAI大幅下调API调用成本，以及中国市场价格竞争加剧，生成式AI正以前所未有的速度推动产业变革。声网创始人兼CEO赵斌指出，未来10-20年的科技发展将以提升端侧大模型应用能力为主要方向。这一变革将在终端设备、软件开发、云服务和人机交互四大领域全面展开:终端设备将进化为AI PC和AI Phone软件开发将从"Software with AI"迈向"AI Native Software"云服务将全面支持模型训练和推理人机交互将以自然语言

最近，Salesforce AI 研究团队推出了一款全新的多模态语言模型 ——BLIP-3-Video。随着视频内容的快速增加，如何高效处理视频数据成为了一个亟待解决的问题。这款模型的出现，旨在提升视频理解的效率和效果，适用于从自动驾驶到娱乐等各个行业。传统的视频理解模型往往是逐帧处理视频，生成大量的视觉信息。这一过程不仅消耗了大量的计算资源，还极大地限制了处理长视频的能力。随着视频数据量的不断增长，这种方法变得愈发低效，因此，找到一种既能捕捉到视频的关键信息，又能

最近，企业法律行业迎来了一个激动人心的变革。美国企业法务协会（ACC）与 Everlaw 联合发布了一份关于生成 AI(GenAI)对企业法律行业影响的新报告。这份名为《Gen AI 与未来企业法律工作:内部团队准备好了吗?》的报告揭示了生成式 AI 在法律工作中的迅速应用及其对法律职业的深远影响。图源备注:图片由AI生成，图片授权服务商Midjourney报告显示，几乎一半的受访者（49%）认为生成式 AI 将会降低运营成本，很多人甚至在去年这一数据的基础上有了显著的增加。2023年，有33% 的受访者表示，他

据CNBC报道，旧金山的人工智能初创公司Writer周三推出了一款大型人工智能模型，与OpenAI、Anthropic等公司提供的企业产品展开竞争。令人瞩目的是，Writer只需花费约70万美元来训练其最新模型，包括数据和GPU，而竞争对手的初创公司则花费了数百万美元来构建自己的模型。图源备注:图片由AI生成，图片授权服务商MidjourneyWriter使用合成数据（即人工智能创建的数据）来降低成本。它旨在模拟通常输入模型的真实世界信息，而不会损害隐私，并且正在成为一种更受欢迎的训练方法。亚马逊、Meta

近日，人工智能公司 Anthropic 正式推出了其新产品 —— 消息批量处理 API（Message Batches API）。这项新技术让企业在处理大量数据时的费用减少了50%，这一举措无疑为大数据处理带来了福音。通过这项 API，企业能够在24小时内异步处理高达10，000条查询，让高端 AI 模型变得更加平易近人。随着 AI 技术的不断发展，企业面临的挑战也在加大，尤其是在数据处理方面。Anthropic 此次推出的批处理 API 在输入和输出的令牌费用上，均比实时处理便宜50%。以一半的成本实现高吞吐量开发人员经常使用

随着人工智能越来越多地融入企业的工作流程和产品，市场上对机器学习操作平台（MLOps）的需求也在不断上升。这类平台帮助企业更轻松地创建、测试和部署机器学习模型。然而，尽管市场上已有不少竞争者，比如 InfuseAIComet 等创业，以及谷歌云、Azure 和 AWS 等大公司，南韩的 VESSL AI 却希望通过聚焦 GPU 费用的优化，找到自己的发展空间。图源备注：图片由AI生成，图片授权服务商Midjourney最近，VESSL AI 成功完成了一轮1200万美元的 A 轮融资，旨在加速其基础设施的发展，主要服务那些希望

戴尔宣布将在2024年裁员以控制成本，员工总数预计减少。尽管AI服务器销售增加，但高成本导致利润率承压。整体业务面临挑战，尤其是PC业务连续两年下滑，第二财季营收同比下降4%。戴尔通过裁员和AI投入应对市场压力，寻求新的增长点。