大型语言模型如 GPT-4o 和 GPT-4o-mini 的出现，推动了自然语言处理领域的重大进步。这些模型能够生成高质量的响应，进行文档重写，以及提升各类应用的生产力。然而，这些模型面临的一个主要挑战就是响应生成的延迟。在更新博客或优化代码的过程中，这种延迟可能会严重影响用户体验，尤其是在需要多次迭代的场景下，如文档修改或代码重构，用户往往会感到沮丧。为了应对这一挑战，OpenAI 推出了 “预测输出（Predicted Outputs ）” 功能，这一功能显著减少了 GPT-4o 和 GPT-4o-mini 的延迟，

美国初创公司 Useful Sensors 推出了一款名为 Moonshine 的开源语音识别模型。Moonshine 的设计旨在更高效地处理音频数据，相比于 OpenAI 的 Whisper，它在计算资源的使用上更为经济，处理速度快五倍。这一新模型专为在资源有限的硬件上实现实时应用而打造，具有灵活的架构。与 Whisper 将音频分为固定的30秒片段处理不同，Moonshine 根据实际音频长度调整处理时间。这使得它在处理较短音频片段时表现出色，减少了由于零填充而产生的处理开销。Moonshine 有两个版本:小型的 Tiny 版本参数量为2710万，

2024年10月22日 - Anthropic正式发布了新一代快速模型Claude 3.5 Haiku。该公司表示，在与Claude 3 Haiku相似的速度下，Claude3.5 Haiku在各项技能上均有所提升，并在许多智能基准测试中超越了上一代最大模型Claude 3 Opus。Claude 3.5 Haiku最初作为纯文本模型推出，图像输入功能即将上线。该模型目前可通过Anthropic的一方API、Amazon Bedrock和Google Cloud的Vertex AI平台访问。价格和成本节约:Claude 3.5 Haiku的定价为每百万输入token 1美元，每百万输出token 5美元。 用户可以通过提示缓存节省高达90%的成本，并通过Message B

大模型（LLM）如GPT、Llama等在人工智能领域掀起了一场革命，但如何高效地训练这些庞大的模型并使其符合人类价值观仍然是一个难题。强化学习与人类反馈（RLHF）作为一种重要的LLM训练方法，近年来得到广泛应用，但传统的RLHF框架在灵活性、效率和可扩展性方面存在局限性。为解决这些问题，字节跳动豆包大模型团队开源了名为HybridFlow的RLHF框架，为LLM训练带来了新的可能性。RLHF通常包含三个阶段:首先，actor模型根据输入的提示生成文本;然后，critic模型、reference模型和reward模型对生成

最近，Meta AI 推出了全新的量化 Llama3.2模型，包含1B 和3B 两个版本，这款模型可以在多种设备上进行微调、蒸馏和部署。过去，虽然像 Llama3这样的模型在自然语言理解和生成方面取得了显著成就，但其庞大的体量和高计算需求使得很多组织难以使用。训练时间长、能源消耗高以及对昂贵硬件的依赖，无疑加大了科技巨头与小型企业之间的鸿沟。Llama3.2的特点之一就是支持多语言文本和图像处理。1B 和3B 模型经过量化处理，平均可以缩小56% 的体积，并且在内存使用上减少了41%，并实现2-3倍的

近日，OpenAI 的研究人员发布了一项令人振奋的研究成果，介绍了一种全新的连续时间一致性模型（sCM）。这一模型在生成多媒体内容(如图像、视频和音频)的速度上实现了飞跃，相较于传统的扩散模型，速度提高了整整50倍。具体来说，sCM 能够在不到0.1秒的时间内生成一幅图像，而传统扩散模型则往往需要超过5秒。研究团队通过这项技术，成功地在仅需两次采样步骤的情况下，生成出高质量的样本。这一创新使得生成过程更为高效，而不会牺牲样本的质量。文章由 OpenAI 的两位研究人员 —

研究人员最近开发了一种名为 REPA 的新技术，旨在加速 AI 图像生成模型的训练速度。REPA 代表 REPresentation Alignment，通过整合来自 DINOv2等模型的高质量视觉表示来提高训练速度和输出质量。传统的扩散模型通常会创建嘈杂的图像，然后逐渐将其细化为干净的图像。REPA 增加了一个步骤，将在此去噪过程中生成的表示与来自 DINOv2的表示进行比较。然后，它将扩散模型的隐藏状态投影到 DINOv2的表示上。研究人员表示，REPA 不仅提高了训练效率，还提高了生成的图像质量。使用各种扩散模型架构

最近，德国的人工智能初创公司黑森林实验室（Black Forest Labs）推出了最新的图像生成模型 Flux1.1Pro。这个新模型的速度真是令人惊叹，黑森林实验室声称:它比前一代的 Flux1Pro 快了整整六倍，同时在图像质量上也有了显著提升。除了 Flux1.1Pro，黑森林实验室还发布了其 BFL API 的 beta 版本，让开发者可以将 Flux 模型集成到他们自己的应用中。Flux1.1Pro 在多个关键功能上都有所加强，不仅在速度上达到了前所未有的水平，还提高了图像的质量、响应指令的准确性以及图像的多样性。未来，这个模

近日，智谱AI向公众开源了其最新力作——CogView3及其升级版CogView-3Plus-3B，为文生图领域注入了新的活力。CogView3的亮相无疑是一个重要里程碑。作为首个在文本到图像生成领域实现中继扩散的模型，它采用了独特的级联扩散方法。这种创新性的approach首先生成低分辨率图像，随后通过基于中继的超分辨率技术来完成最终输出。这不仅大幅提升了生成图像的质量，还显著降低了训练和推理的成本。最令人瞩目的是CogView3的性能表现。根据人类评价结果，CogView3在生成质量上超越了当前最先进的

最近，支付科技公司 Stripe 发布的一项新数据引起了广泛关注，显示人工智能（AI）初创公司在营收增长上表现得异常迅速。与以往的软件公司相比，这些 AI 企业在短短一年内就能达到数百万美元的销售额，这一速度让很多人感到惊讶。图源备注:图片由AI生成，图片授权服务商Midjourney在以往的科技创业浪潮中，许多初创企业需要数年时间才能实现显著的盈利，而如今的 AI 公司却显现出前所未有的市场动能。根据 Stripe 的分析，AI 行业正在迅速吸引投资者的目光，很多投资者开始对这些初创

OpenAI 最近正在着手升级其视频 AI Sora，这个项目最初在今年二月亮相。据 The Information 援引接近该公司管理团队的消息人士的话报道，OpenAI 正在开发其视频 AI Sora 的升级版本，新版本旨在比原始演示更快地制作更长、更高质量的视频剪辑。值得一提的是，Sora 在发布时并没有完全准备好。据说，最初的视频生成时间超过了十分钟，而一些电影制作人的反馈也颇为负面。比如，制片人帕特里克・塞德伯格（Patrick Cederberg）为了得到一个可用的片段，生成了数百个视频，但该模型在保持格、物体

最近，一项来自圣路易斯联邦储备银行、范德堡大学和哈佛甘尼尔学院的研究揭示，生成式人工智能（AI）正在以惊人的速度渗透我们的日常工作生活。这项名为《生成式人工智能的快速采用》的研究表明，生成式 AI 的普及速度已经超过了个人电脑(PC)和互联网的早期使用情况。根据这项研究，39.4% 的18到64岁美国人已经开始使用生成式 AI，其中28% 是在工作中使用。这一数据与 PC 的早期采用相比，形成了鲜明的对比:在 PC 发布的初期，经历了三年的时间才达到20% 的采用率。研究人员指出，生

Mamba 团队的研究成果集中于将大型 Transformer 模型 Llama “蒸馏”为 Mamba，通过设计新型推理解码算法，显著提高了推理速度。研究目标旨在利用 Llama 的丰富知识，同时降低从零开始训练大型模型的高成本。研究团队结合了渐进式蒸馏、监督微调和定向偏好优化等方法，将 Zephyr-7B 和 Llama-38B 成功转换为线性 RNN 模型，性能与原始模型相当。关键创新在于为 Mamba 设计的全新算法，结合硬件特性实现基于 Mamba 的推测解码，实现速度与性能的双重提升。研究中，通过逐步替换注意力层、应用监督微调和用户偏好优化，以及引入推测解码算法，研究人员在保持模型性能的同时，实现了高达1.5倍的推理加速。整个过程在8卡80G A100上运行3到4天，展现了高效的训练效率。这项研究为未来模型的推理速度和性能提升提供了新思路。

Gemini新推出的1.5闪存模型更新，显著提升了响应速度达50%，尤其在Pro计划中表现明显，惠及所有用户层级。此优化在网络和移动平台均可见效，增强用户交互体验，特别是处理复杂任务时。Gemini在AI助手领域的竞争力因此提升，且计划于9月4日发布的新一轮更新将引入更多增强功能，持续优化服务。此更新反映了AI技术的快速迭代和激烈竞争，用户将从中受益，享受更流畅、高效的使用体验。

Cerebras Systems推出Cerebras Inference，宣称这是全球最快的AI推理服务，性能超越基于GPU的传统系统20倍，成本效益显著提高，特别适用于处理大语言模型（LLMs）。其8B版本每秒处理1800个token，70B版本则为450个token，速度和性价比远超NVIDIA GPU解决方案。Cerebras Inference在保持行业领先准确度的同时，价格仅为每百万个token10美分至60美分，相比GPU产品提升100倍。这项服务特别适合构建需要复杂实时性能的下一代AI应用，如智能代理和智能系统，并提供免费、开发者和企业三个层次的服务，满足不同需求。Cerebras Inference的核心技术基于Cerebras CS-3系统，搭载业界领先的Wafer Scale Engine3（WSE-3），提供远超NVIDIA H100的内存带宽。此服务不仅推动了AI计算领域的革新，还在医疗、能源、政府、科学计算和金融服务等多个行业中发挥关键作用，引领AI技术发展。

​爱诗科技宣布全球上线其视频生成产品PixVerse的 V2.5版本，该版本在视频生成的速度、动态表现和画质上实现了显著提升。新版本特别优化了模型，增强了提示词理解能力和视频生成的美学水平，将视频生成速度提高了200%，同时支持最高4K分辨率的输出，确保了视频细节的清晰度。

Runway ML推出了AI视频生成模型Gen-3Alpha Turbo，相比其前身，速度提升7倍，成本降低50%，使得AI视频制作更亲民。Turbo适用于所有计划，包括免费试用，用户可在不增加成本的情况下享受高效视频生成体验。Gen-3Alpha Turbo的生成速度之快，甚至超过打字速度，显著解决了AI视频生成模型的时间滞后问题。定价方面，每秒视频仅需5个积分点，较前款降低一半，通过1000积分点套餐购买，售价10美元，让从业者和业余爱好者都能轻松使用。用户反馈满意，作品展示了从现实主义到动画的多种风格。Runway未来计划在控制机制和实时互动方面进行更多创新，并积极应对AI模型训练中的法律和道德问题。

Etched公司推出的Sohu芯片，号称在运行AI模型时速度较NvidiaH100芯片快20倍，其设计专注于优化变压器AI模型处理，不支持其他AI模型。这一专门化设计使Sohu在处理如ChatGPT等任务时展现极高计算能力。Sohu的推出可能引领AI硬件市场革新，尤其在多模态处理和实时翻译应用方面。Etched已成功融资1.2亿美元，并与台积电合作生产4纳米芯片，预计未来Sohu芯片将对AI行业产生重大影响。

T-MAC（Table-Lookup-based MAC）技术旨在解决边缘设备部署大型语言模型（LLMs）的内存和计算限制问题。通过将模型权重量化为低比特表示，T-MAC利用查找表（LUT）替代传统乘法运算，显著提高了在CPU上的运行效率。这一方法大幅减少了运算所需内存，使数十亿参数的LLMs能够在资源受限的设备上高效运行，实现智能升级。与现有实现相比，T-MAC在吞吐量上提升4倍，能耗降低70%，即使在低端设备如Raspberry Pi 5上也能以接近成人阅读速度的速度生成令牌。T-MAC不仅适用于智能手机的实时语音识别和自然语言处理，还能提升智能家居设备的交互体验。作为开源项目，T-MAC有望推动边缘智能领域的发展，提供高效节能的LLM部署解决方案，为用户带来更丰富、便捷的智能体验。

以色列AI公司aiOla发布了一款名为Whisper Medusa的开源语音识别模型，该模型基于改进的架构设计，引入多头注意力机制，使其处理速度比OpenAI的Whisper模型快50%。Whisper Medusa通过并行预测十个tokens，而非传统的一次一个，显著提高了语音识别速度，同时保持了性能不减。其创新的训练方法采用弱监督学习，冻结主干系统并使用模型生成的音频转录作为标签训练其他模块。这一开源模型的发布，将为语音识别技术的发展带来深远影响，推动更快速、高效的语音处理应用，并可能在智能助手、实时翻译和语音控制系统等领域实现性能提升。