戴尔宣布将在2024年裁员以控制成本，员工总数预计减少。尽管AI服务器销售增加，但高成本导致利润率承压。整体业务面临挑战，尤其是PC业务连续两年下滑，第二财季营收同比下降4%。戴尔通过裁员和AI投入应对市场压力，寻求新的增长点。

人工智能（AI）正日益融入我们的生活和工作，带来便利的同时也潜藏着风险。Gartner分析师Mesaglio指出，企业在应用AI时可能会遇到高达500%至1000%的费用误差，主要原因是供应商价格的上涨和企业对云资源使用的疏忽。AI处理非结构化数据虽然能获取更多信息，但成本较高。同时，AI应用可能导致“生产力泄漏”，员工可能利用节省的时间享受闲暇而非工作，影响AI带来的效益。分析师建议企业应根据自身节奏考虑AI应用的稳定或加速，并认识到每个组织都有最适合自己的发展路径。正确使用AI能为企业带来巨大价值，但需谨慎行事，避免成本浪费和效率损失。

在2024年腾讯全球数字生态大会上，腾讯公司副总裁兼云业务总裁邱跃鹏对外宣布——腾讯混元Turbo大模型的正式亮相。这款新一代的大模型基于MoE（Mixture of Experts）架构设计，相较于前一代产品，在推理效率上实现了翻倍，达到了100%的提升，同时在推理成本上实现了显著降低，降幅达到50%。此外，混元Turbo在解码效率方面也表现出色，提升了20%。

Cerebras Systems推出Cerebras Inference，宣称这是全球最快的AI推理服务，性能超越基于GPU的传统系统20倍，成本效益显著提高，特别适用于处理大语言模型（LLMs）。其8B版本每秒处理1800个token，70B版本则为450个token，速度和性价比远超NVIDIA GPU解决方案。Cerebras Inference在保持行业领先准确度的同时，价格仅为每百万个token10美分至60美分，相比GPU产品提升100倍。这项服务特别适合构建需要复杂实时性能的下一代AI应用，如智能代理和智能系统，并提供免费、开发者和企业三个层次的服务，满足不同需求。Cerebras Inference的核心技术基于Cerebras CS-3系统，搭载业界领先的Wafer Scale Engine3（WSE-3），提供远超NVIDIA H100的内存带宽。此服务不仅推动了AI计算领域的革新，还在医疗、能源、政府、科学计算和金融服务等多个行业中发挥关键作用，引领AI技术发展。

Recogni公司推出了一种名为"Pareto"的革命性AI计算方法，采用创新的对数方法，使AI芯片在运行大型模型时性能超越现有技术，同时大幅降低能耗和运行成本。该技术得到知名企业和风险投资公司的支持，如宝马、博世和Mayfield。与传统AI模型相比，如OpenAI的GPT-4和谷歌的Gemini，Pareto系统通过将乘法转换为加法运算，显著降低了能耗。已与Meta和Stability AI等公司合作，测试结果积极。Recogni的首款芯片采用七纳米工艺，与未透露名称的合作伙伴共同推广计划，计划在未来几个月内宣布。此外，公司正与提供数据中心硬件租赁服务的公司洽谈合作，以推动Pareto技术的广泛应用。

Game Developer Collective最新调查展示了游戏开发者对生成式AI应用的复杂态度。30%的受访者预计AI能在未来一年降低开发成本，而8%则预期成本上升。在质量方面，17%的开发者相信AI将提升游戏质量，35%则担忧质量下降。生成式AI在游戏行业引发争议，反对者认为它可能对环境造成更大危害，并导致产品质量下降。在应用方面，49%的开发者所在工作室已在开发中使用AI，主要用于财务、社区和生产管理。然而，AI的应用也引发了伦理和就业问题，如美国演员工会成员因AI带来的"生存威胁"而罢工。尽管如此，部分公司如EA和任天堂已开始积极应用AI技术。游戏行业正处在AI应用的关键转折点，开发者们在降低成本和保持创意质量之间寻求平衡。

Runway ML推出了AI视频生成模型Gen-3Alpha Turbo，相比其前身，速度提升7倍，成本降低50%，使得AI视频制作更亲民。Turbo适用于所有计划，包括免费试用，用户可在不增加成本的情况下享受高效视频生成体验。Gen-3Alpha Turbo的生成速度之快，甚至超过打字速度，显著解决了AI视频生成模型的时间滞后问题。定价方面，每秒视频仅需5个积分点，较前款降低一半，通过1000积分点套餐购买，售价10美元，让从业者和业余爱好者都能轻松使用。用户反馈满意，作品展示了从现实主义到动画的多种风格。Runway未来计划在控制机制和实时互动方面进行更多创新，并积极应对AI模型训练中的法律和道德问题。

钉钉组织大脑在8月推出了一系列新功能，包括敏捷组织诊断、会议成本分析和流程效率监控等，旨在帮助企业管理者全面了解和优化组织结构和运作效率。

Anthropic公司宣布其Claude系列大型语言模型推出“提示缓存”新功能，旨在大幅降低企业AI成本并提升性能。该功能允许用户存储并重复使用特定上下文信息，无需额外成本或增加延迟。在公开测试中，Claude3.5Sonnet和Claude3Haiku模型将应用此功能，预期能带来高达90%的成本降低和某些场景下响应速度提高一倍的效果。此功能特别适用于需要保持一致上下文的商业AI应用，如长时间对话、大规模文档处理、代码辅助和复杂工具使用。尽管行业专家持谨慎态度，Anthropic表示将与客户合作，收集数据和反馈，以评估新功能的实际效果。此举有望降低中小企业采用AI技术的门槛，推动AI技术在商业领域的广泛应用。

Anthropic API新增提示缓存功能，旨在优化Claude模型的使用体验。该功能允许用户在API调用间缓存常用上下文信息，显著降低长提示成本与延迟，最高可达90%和85%。目前支持Claude3.5Sonnet和Claude3Haiku的公开测试版，未来将扩展至Claude3Opus。适用于对话代理、编码助手、处理大型文档及代理搜索等场景。提示缓存定价根据缓存输入令牌数量和使用频率，写入缓存成本比基本输入令牌高25%，使用缓存内容成本仅为10%。Notion已集成此功能，优化了内部运营与用户体验。

英特尔宣布全球裁员1.5万人，旨在节约成本并提升盈利能力。作为2025年计划的一部分，公司预计到2026年大幅削减研发和营销支出，今年资本支出减少20%以上。裁员比例高达15%，导致股价下跌近20%。CEO帕特·基辛格承认，尽管公司在关键领域取得进展，但第二季度财务表现不佳，亏损16亿美元，营收仅增长1%。英特尔正面临AI热潮和技术竞争中的挑战，特别是微软转向高通芯片，且在AI PC领域布局不足。为缩小与英伟达和AMD的技术差距，英特尔计划大幅增加研发投入，并希望在2026年前重夺市场领先地位。公司面临着多年失误和市场机会错失的挑战，正通过变革性措施，寻求在AI时代重塑自我，迎接新的增长机遇。

Zyphra公司推出了Zamba2-2.7B语言模型，这一模型在小型语言模型领域具有里程碑意义。其性能和效率显著提升，训练数据集规模达到约3万亿个标记，使其在推理时资源需求降低，成为移动设备应用的高效解决方案。关键亮点包括首次生成响应时间提升两倍，内存使用减少27%，生成延迟降低1.29倍，特别适合需要实时互动的虚拟助手、聊天机器人等应用。Zamba2-2.7B在与同类模型的基准比较中表现出色，采用改进的交错共享注意力机制和LoRA投影器优化性能，确保了在复杂任务处理中的高效能输出。

OpenAI今年面临高达50亿美元的亏损，主要因运行ChatGPT等AI产品的高昂成本。高昂支出包括租用微软服务器的近40亿美元费用，以及用于训练和更新AI模型的30亿美元。劳动成本占15亿美元，反映了公司为吸引和留住人才而大幅提高的薪资。面对巨额亏损和激烈竞争，OpenAI的盈利前景受到质疑，尤其是在竞争对手提供类似技术免费使用的情况下。OpenAI的GPT-4模型虽有创新，但其高昂运营成本和竞争压力可能对其未来盈利能力构成威胁。

微软研究院与北京航空航天大学团队合作推出了名为E5-V的高效多模态嵌入框架，旨在解决多模态大语言模型（MLMs）发展中存在的挑战。这一创新框架通过单模态训练简化多模态学习过程，并克服以往模型依赖独立编码器，导致输入整合效果不佳的问题。E5-V通过统一文本、图像信息，减少了训练成本，并在多个复杂任务中展现了卓越性能，如文本-图像检索、图像检索等，特别是在零样本图像检索任务上，相较于顶级模型CLIP ViT-L，性能大幅提升。该框架不仅提高了多模态数据处理的效率，更在复合图像检索任务中超越了当前先进方法，验证了其在提升模型表现上的有效性。E5-V框架代表了多模态学习领域的重要进步，未来有望在多模态研究中树立新标准并具有广泛的应用潜力。

OpenAI推出全新旗舰模型GPT-4o mini，已在Azure AI平台上上线，主要为文本处理功能，比先前的GPT-3.5 Turbo更加智能，MMLU测试得分从70%提升至82%，成本节省60%以上。新增128K上下文窗口及更完善的多语言能力。用户可通过Azure OpenAI Studio Playground免费试用。Azure AI提供了标准安全性、数据驻留升级和服务高可用性，适合助手、代码解析、流媒体等领域。GPT-4o mini具备全球随用随付特性，以每分钟1500万个token提供高吞吐量服务。除原始模型还提供微调功能，基于token的培训计费方式将Azure OpenAI服务成本降低了43%，性价比高，特别适合具备生产工作负载的用户。从本月开始，GPT-4o mini将登陆Azure AI平台，同时推出Batch服务以利用非高峰容量提供折扣率的高吞吐量作业服务。

全新Transformer加速技术FlashAttention-3发布，显著提升大型语言模型推理速度和降低运行成本。对比前版本，此更新大幅提高GPU利用率，训练和运行速度提升1.5至2倍。采用低精度数字（FP8），保持高准确性同时大幅降低成本。处理长文本能力显著增强，大幅优化了内存消耗与序列长度关系，特别是与大规模数据集和长序列的兼容性。技术亮点包括先进算法支持、Hopper GPU优化以及集成的多种先进技术，使模型性能和应用范围大幅提升。安装简单，兼容CUDA11.6与PyTorch1.12以上版本，Linux下使用pip命令安装，Windows用户亦有指导文档辅助。整体而言，FlashAttention-3提供高效性能、内存优化、先进特性和易用性，能够在各种项目中便捷集成。

Anthropic 首席执行官预计 AI 模型训练成本在未来三年内将会有显著提升，从目前的 10 亿美元增长到 1000 亿美元，引发行业对成本前沿的波澜与 AI 泡沫的可行性讨论。这一成本增长主因在于不断增长的硬件需求，特别是 AI 模型快速扩张对高性能计算硬件（特别是 GPU 和数据中心能源）的驱动。此外，伴随着人工智能从生成式向通用目的的演进，基础理论与发展路径的探讨与其实用成本之间的平衡成为关注焦点。提高效率与优化成本成为 AI 领域深度研究的关键。关注硬件与能源优化、提高人力成本利用效率、数据管理与维护，仍将是降低 AI 训练成本、实现其经济可持续发展的核心路径。因此，AI 产业仍需高度关注技术与经济策略的综合平衡，以推动其蓬勃发展。

6月25日，OpenAI宣布断供的消息给开发者和企业带来了不小的震动。面对OpenAI的这一举措，由李开复博士创立的AI大模型公司零一万物迅速作出反应，推出了"Yi API二折平替计划"。这是一个面向OpenAI用户的服务，旨在帮助他们无缝迁移到Yi系列大模型，提供了一个高性价比的替代方案。

南京大学与旷视研究院的研究人员们携手，为视觉大模型带来了一场革命。他们推出的无监督范式——SeVa，成功解决了视觉语言模型的偏好对齐问题，而且整个过程无需人类或GPT-4的参与，大大降低了对齐成本。

最近，潞晨 Open-Sora 团队在720p 高清文生视频质量和生成时长上实现了突破性进展，他们不仅在720p高清视频质量和生成时长上搞了个大新闻，还顺手把这宝贝开源了，让整个社区都沸腾了!