大模型（LLM）如GPT、Llama等在人工智能领域掀起了一场革命，但如何高效地训练这些庞大的模型并使其符合人类价值观仍然是一个难题。强化学习与人类反馈（RLHF）作为一种重要的LLM训练方法，近年来得到广泛应用，但传统的RLHF框架在灵活性、效率和可扩展性方面存在局限性。为解决这些问题，字节跳动豆包大模型团队开源了名为HybridFlow的RLHF框架，为LLM训练带来了新的可能性。RLHF通常包含三个阶段:首先，actor模型根据输入的提示生成文本;然后，critic模型、reference模型和reward模型对生成

北京百川智能科技有限公司近日宣布推出其一站式解决方案，旨在帮助企业以低成本实现大模型的私有化部署，并提高效率。这套解决方案包括全链路优质通用训练数据、Baichuan4-Turbo和Baichuan4-Air两款模型，以及全链路领域增强工具链，能够满足企业在不同场景下的需求。

在近期举办的RTE2024实时互联网大会上，业界大咖们对AI产业发展趋势进行了深度剖析。随着OpenAI大幅下调API调用成本，以及中国市场价格竞争加剧，生成式AI正以前所未有的速度推动产业变革。声网创始人兼CEO赵斌指出，未来10-20年的科技发展将以提升端侧大模型应用能力为主要方向。这一变革将在终端设备、软件开发、云服务和人机交互四大领域全面展开:终端设备将进化为AI PC和AI Phone软件开发将从"Software with AI"迈向"AI Native Software"云服务将全面支持模型训练和推理人机交互将以自然语言

最近，Salesforce AI 研究团队推出了一款全新的多模态语言模型 ——BLIP-3-Video。随着视频内容的快速增加，如何高效处理视频数据成为了一个亟待解决的问题。这款模型的出现，旨在提升视频理解的效率和效果，适用于从自动驾驶到娱乐等各个行业。传统的视频理解模型往往是逐帧处理视频，生成大量的视觉信息。这一过程不仅消耗了大量的计算资源，还极大地限制了处理长视频的能力。随着视频数据量的不断增长，这种方法变得愈发低效，因此，找到一种既能捕捉到视频的关键信息，又能

最近，企业法律行业迎来了一个激动人心的变革。美国企业法务协会（ACC）与 Everlaw 联合发布了一份关于生成 AI(GenAI)对企业法律行业影响的新报告。这份名为《Gen AI 与未来企业法律工作:内部团队准备好了吗?》的报告揭示了生成式 AI 在法律工作中的迅速应用及其对法律职业的深远影响。图源备注:图片由AI生成，图片授权服务商Midjourney报告显示，几乎一半的受访者（49%）认为生成式 AI 将会降低运营成本，很多人甚至在去年这一数据的基础上有了显著的增加。2023年，有33% 的受访者表示，他

据CNBC报道，旧金山的人工智能初创公司Writer周三推出了一款大型人工智能模型，与OpenAI、Anthropic等公司提供的企业产品展开竞争。令人瞩目的是，Writer只需花费约70万美元来训练其最新模型，包括数据和GPU，而竞争对手的初创公司则花费了数百万美元来构建自己的模型。图源备注:图片由AI生成，图片授权服务商MidjourneyWriter使用合成数据（即人工智能创建的数据）来降低成本。它旨在模拟通常输入模型的真实世界信息，而不会损害隐私，并且正在成为一种更受欢迎的训练方法。亚马逊、Meta

近日，人工智能公司 Anthropic 正式推出了其新产品 —— 消息批量处理 API（Message Batches API）。这项新技术让企业在处理大量数据时的费用减少了50%，这一举措无疑为大数据处理带来了福音。通过这项 API，企业能够在24小时内异步处理高达10，000条查询，让高端 AI 模型变得更加平易近人。随着 AI 技术的不断发展，企业面临的挑战也在加大，尤其是在数据处理方面。Anthropic 此次推出的批处理 API 在输入和输出的令牌费用上，均比实时处理便宜50%。以一半的成本实现高吞吐量开发人员经常使用

随着人工智能越来越多地融入企业的工作流程和产品，市场上对机器学习操作平台（MLOps）的需求也在不断上升。这类平台帮助企业更轻松地创建、测试和部署机器学习模型。然而，尽管市场上已有不少竞争者，比如 InfuseAIComet 等创业，以及谷歌云、Azure 和 AWS 等大公司，南韩的 VESSL AI 却希望通过聚焦 GPU 费用的优化，找到自己的发展空间。图源备注：图片由AI生成，图片授权服务商Midjourney最近，VESSL AI 成功完成了一轮1200万美元的 A 轮融资，旨在加速其基础设施的发展，主要服务那些希望

戴尔宣布将在2024年裁员以控制成本，员工总数预计减少。尽管AI服务器销售增加，但高成本导致利润率承压。整体业务面临挑战，尤其是PC业务连续两年下滑，第二财季营收同比下降4%。戴尔通过裁员和AI投入应对市场压力，寻求新的增长点。

人工智能（AI）正日益融入我们的生活和工作，带来便利的同时也潜藏着风险。Gartner分析师Mesaglio指出，企业在应用AI时可能会遇到高达500%至1000%的费用误差，主要原因是供应商价格的上涨和企业对云资源使用的疏忽。AI处理非结构化数据虽然能获取更多信息，但成本较高。同时，AI应用可能导致“生产力泄漏”，员工可能利用节省的时间享受闲暇而非工作，影响AI带来的效益。分析师建议企业应根据自身节奏考虑AI应用的稳定或加速，并认识到每个组织都有最适合自己的发展路径。正确使用AI能为企业带来巨大价值，但需谨慎行事，避免成本浪费和效率损失。

在2024年腾讯全球数字生态大会上，腾讯公司副总裁兼云业务总裁邱跃鹏对外宣布——腾讯混元Turbo大模型的正式亮相。这款新一代的大模型基于MoE（Mixture of Experts）架构设计，相较于前一代产品，在推理效率上实现了翻倍，达到了100%的提升，同时在推理成本上实现了显著降低，降幅达到50%。此外，混元Turbo在解码效率方面也表现出色，提升了20%。

Cerebras Systems推出Cerebras Inference，宣称这是全球最快的AI推理服务，性能超越基于GPU的传统系统20倍，成本效益显著提高，特别适用于处理大语言模型（LLMs）。其8B版本每秒处理1800个token，70B版本则为450个token，速度和性价比远超NVIDIA GPU解决方案。Cerebras Inference在保持行业领先准确度的同时，价格仅为每百万个token10美分至60美分，相比GPU产品提升100倍。这项服务特别适合构建需要复杂实时性能的下一代AI应用，如智能代理和智能系统，并提供免费、开发者和企业三个层次的服务，满足不同需求。Cerebras Inference的核心技术基于Cerebras CS-3系统，搭载业界领先的Wafer Scale Engine3（WSE-3），提供远超NVIDIA H100的内存带宽。此服务不仅推动了AI计算领域的革新，还在医疗、能源、政府、科学计算和金融服务等多个行业中发挥关键作用，引领AI技术发展。

Recogni公司推出了一种名为"Pareto"的革命性AI计算方法，采用创新的对数方法，使AI芯片在运行大型模型时性能超越现有技术，同时大幅降低能耗和运行成本。该技术得到知名企业和风险投资公司的支持，如宝马、博世和Mayfield。与传统AI模型相比，如OpenAI的GPT-4和谷歌的Gemini，Pareto系统通过将乘法转换为加法运算，显著降低了能耗。已与Meta和Stability AI等公司合作，测试结果积极。Recogni的首款芯片采用七纳米工艺，与未透露名称的合作伙伴共同推广计划，计划在未来几个月内宣布。此外，公司正与提供数据中心硬件租赁服务的公司洽谈合作，以推动Pareto技术的广泛应用。

Game Developer Collective最新调查展示了游戏开发者对生成式AI应用的复杂态度。30%的受访者预计AI能在未来一年降低开发成本，而8%则预期成本上升。在质量方面，17%的开发者相信AI将提升游戏质量，35%则担忧质量下降。生成式AI在游戏行业引发争议，反对者认为它可能对环境造成更大危害，并导致产品质量下降。在应用方面，49%的开发者所在工作室已在开发中使用AI，主要用于财务、社区和生产管理。然而，AI的应用也引发了伦理和就业问题，如美国演员工会成员因AI带来的"生存威胁"而罢工。尽管如此，部分公司如EA和任天堂已开始积极应用AI技术。游戏行业正处在AI应用的关键转折点，开发者们在降低成本和保持创意质量之间寻求平衡。

Runway ML推出了AI视频生成模型Gen-3Alpha Turbo，相比其前身，速度提升7倍，成本降低50%，使得AI视频制作更亲民。Turbo适用于所有计划，包括免费试用，用户可在不增加成本的情况下享受高效视频生成体验。Gen-3Alpha Turbo的生成速度之快，甚至超过打字速度，显著解决了AI视频生成模型的时间滞后问题。定价方面，每秒视频仅需5个积分点，较前款降低一半，通过1000积分点套餐购买，售价10美元，让从业者和业余爱好者都能轻松使用。用户反馈满意，作品展示了从现实主义到动画的多种风格。Runway未来计划在控制机制和实时互动方面进行更多创新，并积极应对AI模型训练中的法律和道德问题。

钉钉组织大脑在8月推出了一系列新功能，包括敏捷组织诊断、会议成本分析和流程效率监控等，旨在帮助企业管理者全面了解和优化组织结构和运作效率。

Anthropic公司宣布其Claude系列大型语言模型推出“提示缓存”新功能，旨在大幅降低企业AI成本并提升性能。该功能允许用户存储并重复使用特定上下文信息，无需额外成本或增加延迟。在公开测试中，Claude3.5Sonnet和Claude3Haiku模型将应用此功能，预期能带来高达90%的成本降低和某些场景下响应速度提高一倍的效果。此功能特别适用于需要保持一致上下文的商业AI应用，如长时间对话、大规模文档处理、代码辅助和复杂工具使用。尽管行业专家持谨慎态度，Anthropic表示将与客户合作，收集数据和反馈，以评估新功能的实际效果。此举有望降低中小企业采用AI技术的门槛，推动AI技术在商业领域的广泛应用。

Anthropic API新增提示缓存功能，旨在优化Claude模型的使用体验。该功能允许用户在API调用间缓存常用上下文信息，显著降低长提示成本与延迟，最高可达90%和85%。目前支持Claude3.5Sonnet和Claude3Haiku的公开测试版，未来将扩展至Claude3Opus。适用于对话代理、编码助手、处理大型文档及代理搜索等场景。提示缓存定价根据缓存输入令牌数量和使用频率，写入缓存成本比基本输入令牌高25%，使用缓存内容成本仅为10%。Notion已集成此功能，优化了内部运营与用户体验。

英特尔宣布全球裁员1.5万人，旨在节约成本并提升盈利能力。作为2025年计划的一部分，公司预计到2026年大幅削减研发和营销支出，今年资本支出减少20%以上。裁员比例高达15%，导致股价下跌近20%。CEO帕特·基辛格承认，尽管公司在关键领域取得进展，但第二季度财务表现不佳，亏损16亿美元，营收仅增长1%。英特尔正面临AI热潮和技术竞争中的挑战，特别是微软转向高通芯片，且在AI PC领域布局不足。为缩小与英伟达和AMD的技术差距，英特尔计划大幅增加研发投入，并希望在2026年前重夺市场领先地位。公司面临着多年失误和市场机会错失的挑战，正通过变革性措施，寻求在AI时代重塑自我，迎接新的增长机遇。

Zyphra公司推出了Zamba2-2.7B语言模型，这一模型在小型语言模型领域具有里程碑意义。其性能和效率显著提升，训练数据集规模达到约3万亿个标记，使其在推理时资源需求降低，成为移动设备应用的高效解决方案。关键亮点包括首次生成响应时间提升两倍，内存使用减少27%，生成延迟降低1.29倍，特别适合需要实时互动的虚拟助手、聊天机器人等应用。Zamba2-2.7B在与同类模型的基准比较中表现出色，采用改进的交错共享注意力机制和LoRA投影器优化性能，确保了在复杂任务处理中的高效能输出。