近年来，大型语言模型（LLMs）在自然语言处理(NLP)领域取得了显著进展，广泛应用于文本生成、摘要和问答等场景。然而，这些模型依赖于逐字预测的 token 级处理方法，这种方式在理解上下文时存在困难，且往往产生不一致的输出。此外，将 LLMs 扩展到多语言和多模态应用时，计算成本和数据需求也相对较高。为了解决这些问题，Meta AI 提出了一种全新的方法 —— 大概念模型(LCMs)。大概念模型（LCMs）代表了传统 LLM 架构的一次重要转变。它们引入了两个重大创新:首先，LCMs 在一个高维嵌

在当今的人工智能领域，训练模型不仅仅是设计更好的架构，还需要高管理数据。现代 AI 模型需要大量数据，并且这些数据必须快速送达 GPU 和其他加速器。然而，传统的数据加载系统常常无法满足这一需求，导致 GPU 闲置、训练时间延长以及成本增加。尤其是在需要扩展或处理多种数据类型时，这个问题显得尤突出。为了解决这些问题，Meta AI 开发了 SPDL（可扩展且高效的数据加载），这是一个旨在改善 AI 训练数据传输的工具。SPDL 采用线程式加载，这一方法不同于传统的基于进程的方法

Meta正在重塑路易斯安那州东北部的经济版图。这家科技巨头计划在Richland Parish建设一个人工智能优化的数据中心，预计将为当地带来超过6，500个就业岗位。Richland Parish学区督学谢尔顿·琼斯对这个项目寄予厚望。他正在积极与当地劳动力发展委员会和高中校长合作，为即将到来的就业机会做准备。通过一系列圆桌讨论，他们正在制定针对性的实习和学徒计划，并计划举办专门的招聘会，帮助学生为未来的职业做好准备。这个计划不仅仅是一个数据中心建设项目，更是一次区域经济转型。据

在大型云基础设施的管理中，即便是微小的性能下降也可能导致显著的资源浪费。例如，在 Meta 这样的公司中，一项应用的运行速度下降0.05% 看似微不足道，但在数百万台服务器同时运转的情况下，这种微小的延迟会积累成数千台服务器的浪费。因此，及时发现并解决这些微小的性能回归对 Meta 来说是一项巨大的挑战。为了解决这个问题，Meta AI 推出了 FBDetect，这是一个针对生产环境的性能回归检测系统，能够捕捉到最小的性能回归，甚至低至0.005%。FBDetect 能够监控约80万个时间序列，涵盖

Meta FAIR、加州大学伯克利分校和纽约大学的研究人员联合推出了一种全新技术，名为思维偏好优化（TPO）。这项创新旨在提升大语言模型(LLM)在处理指令时的回答质量。与传统模型只关注最终答案不同，TPO 允许模型在给出最终回答之前，先进行内部思考和反思，从而生成更准确和连贯的回答。TPO 技术的核心是改进后的连锁思维（CoT）推理方法。这种方法在训练过程中鼓励模型 “思考一下再回答”，帮助它们在提供最终答案之前，构建更有条理的内在思维过程。传统的 CoT 提示有时会导致准

近日，Meta AI 的研究团队与加州大学伯克利分校及纽约大学的研究人员合作，推出了一种名为思维偏好优化（Thought Preference Optimization， TPO）的方法，旨在提升经过指令微调的大型语言模型(LLM)的回应质量。与传统模型仅关注最终答案不同，TPO 方法允许模型在生成回应前进行内部思考，从而产生更加准确和连贯的回答。这种新技术结合了改进版的思维链（Chain-of-Thought， CoT）推理方法。在训练过程中，该方法鼓励模型在回应前先进行 “思考”，帮助其构建更为系统的内部思维过程。以往的直

最近，Meta AI 推出了全新的量化 Llama3.2模型，包含1B 和3B 两个版本，这款模型可以在多种设备上进行微调、蒸馏和部署。过去，虽然像 Llama3这样的模型在自然语言理解和生成方面取得了显著成就，但其庞大的体量和高计算需求使得很多组织难以使用。训练时间长、能源消耗高以及对昂贵硬件的依赖，无疑加大了科技巨头与小型企业之间的鸿沟。Llama3.2的特点之一就是支持多语言文本和图像处理。1B 和3B 模型经过量化处理，平均可以缩小56% 的体积，并且在内存使用上减少了41%，并实现2-3倍的

在Meta首届"AI建设者峰会"上，Meta副总裁兼首席AI科学家LeCun发表了对AI发展的重要观点。这位AI领域的权威专家认为，AI不会主宰或取代人类，而是将成为放大人类智慧的重要工具。LeCun将使用AI助手比作拥有一支智能团队，他指出这些助手的某些能力可能超越用户本身。"尽管AI助手最终可能比我们更聪明，但我们不应感到威胁，而应该从中获得更强大的能力。"LeCun说。谈到印度在AI未来发展中的角色，LeCun强调:"印度不仅将在本土AI产品开发中发挥重要作用，在国际市场中同样举足轻重。"图源

如今的人工智能模型是否真的能像人类一样记忆、思考、计划和推理呢?有些 AI 实验室似乎让人觉得我们离 “人类级 AI” 不远了，但 Meta 的首席 AI 科学家 Yann LeCun 却给了大家一记冷水。他认为，我们要想实现这一目标，可能还需要十年的努力，而这一切的关键在于 “世界模型”。在今年年初，OpenAI 推出了一项新功能，声称它的 ChatGPT 可以 “记住” 与用户的对话。它最新一代的模型在生成输出时显示 “思考” 字样，甚至宣称这些模型能够进行 “复杂推理”。图源备注：图片由AI生成，

最近，Meta 在其 WhatsApp 频道上宣布，旗下的 AI 聊天机器人 Meta AI 正式登陆六新国家，包括巴西、英国、菲律宾玻利维亚、危地马拉巴拉圭。这标志着 Meta AI 的进一步国际化，旨在为全球用户提供更智能的互动体验。Meta 还透露，除了这六个国家之外，公司计划在未来逐步推出 Meta AI 至更多国家，特别是在中东地区。随着这次扩展，Meta AI 将可在43个国家和多个语言中使用，进一步提高其全球用户基础。接下来的推出计划中，Meta AI 将进入多个新市场，包括阿尔及利亚、埃及、印度尼西亚、伊

Meta 在周三宣布，其人工智能（AI）功能将扩展到21个新国家。这项名为 Meta AI 的服务不仅提供聊天机器人用于对话和搜索，还包括一个能够根据文本输入生成图像的创作工作室。根据 Meta 发布的新闻稿，Meta AI 现在已在包括巴西、玻利维亚、危地马拉、巴拉圭、菲律宾以及英国在内的21个国家陆续上线。除了这些国家，还有许多拉丁美洲和亚洲的国家也在此列。未来几周，Meta 的人工智能服务也将向中东地区推出。Meta 表示，随着这次逐步上线，Meta AI 将覆盖43个国家和多个语言。这意味着，

近期，社交媒体平台上掀起了一股"再见，Meta AI"的浪潮。众多用户，包括知名人士如汤姆·布雷迪和音乐人猫力量（Cat Power），纷纷在Instagram上发布声明，试图阻止Meta使用他们的数据来训练AI模型。这一现象反映出用户对数据隐私和AI技术应用的深切忧虑，也为科技巨头如何平衡技术创新与用户权益提出了新的挑战。虽然这些声明在法律上并无约束力，Meta也明确表示这些文本不具有法律效力，但我们不能简单地将其视为用户的无知或天真。相反，这种行为背后折射出的是用户对AI技术快速发

在刚刚举行的 Meta Connect2024大会上，Meta 的创始人兼 CEO 扎克伯格激动地宣布，Meta AI 的月活跃用户已经接近5亿， 有望成为全球使用最多的AI助手。扎克伯格在演讲中提到:“我们目前月活跃用户几乎达到了5亿，且尚未在一些大市场推出，比如欧洲市场。” 这一消息无疑让人对 Meta AI 的未来充满期待。据悉，Meta 早些时候就曾透露，全球的月活跃用户数量已超过4亿。而在近期的财报会议上，Meta 的首席财务官苏珊・李也提到，印度是 Meta AI 的最大市场，WhatsApp 在印度的用户已经超过5亿，这为

Meta AI在印度成为使用量最大的市场，自推出几个月后，已接收数十亿次查询，尤其在WhatsApp上表现出色。文化挑战与算法调整后，AI支持多种语言，现已在22个国家可用。新模型Llama4的训练计算需求是之前的10倍。同时，Threads社交应用用户数接近2亿，Facebook在美国年轻成年人中的使用情况呈积极趋势。

Meta公司在印度市场AI产品的成功主要得益于其在WhatsApp的广泛应用，该平台在印度拥有5亿用户。AI产品自推出以来，已处理数十亿次查询，用户留存率和参与度表现出色。尽管面临适应当地文化、处理宗教敏感话题和图像生成偏见的挑战，Meta已调整算法以确保公平性，并支持多种语言，包括印地语。此外，Meta还宣布正在开发计算能力比Llama3高10倍的下一代Llama4模型，显示了公司在AI领域的长期承诺。除AI外，Meta旗下产品如Threads和Facebook在美国年轻用户群中的使用率也有所增长。

Meta 公司的人工智能助手误报前总统特朗普的暗杀未遂事件根本未发生，此错误引起广泛讨论，Meta 高管对此表示遗憾。AI 编程限制导致了这种误导性回答，最初设定为不回答涉及特朗普暗杀的问题，但后来移除限制后，AI 在个别情况下仍提供错误信息。这一现象被称为“幻觉”，是生成式人工智能普遍面临的挑战。类似问题也困扰着谷歌，其搜索自动完成功能曾被指责审查特朗普暗杀企图的结果。这些事件凸显了AI技术在准确性与透明度上的问题，并引发了公众对AI的广泛关注。Meta 承诺将继续改进技术，以更好地处理实时事件，同时解决生成错误信息的问题。

Meta AI的最新项目Llama3专注于基于合成数据而非人类编写答案进行训练，以优化模型在代码生成、数学推理、多语言处理和长文本处理等领域的性能。Llama3通过三种方法生成合成数据用于代码生成，借鉴研究方法用于数学推理，并通过收集高质量人类注释进行多语言预训练。此外，Llama3在Brave搜索、Wolfram Alpha和Python解释器上的训练增强了其多轮函数调用能力。强化学习与人类反馈（RLHF）在Llama3训练中扮演关键角色，帮助模型理解人类偏好。Llama4项目将重点围绕智能体展开，同时Meta AI计划发布多模态版本的Llama，以进一步提升模型性能。

Meta AI发布的Llama3.1模型在性能上与顶级闭源模型并驾齐驱，标志着开源AI重大突破。这是新一代大型语言模型，经过优化的训练栈和大规模GPU计算资源支持，实现多项技术亮点。包括上下文长度扩展至128K，支持8种语言，以及在多个测试领域展现卓越能力。通过迭代的post-training流程，模型不断提高性能，特别是在遵循指令、一致性、多语言翻译上表现出色。Llama3.1在15万亿token上进行的训练是业界首次，采用标准仅解码器的Transformer架构并进行了改进。Meta强调开源AI的开放性、可修改性和成本效率，它将推动AI技术的普及和发展。与多家公司合作发展生态系统，Llama3.1的发布预示开源AI可能成为行业标准，为AI的广泛应用辟新径。

Meta AI 研究人员推出了 MobileLLM，这是一种为智能手机和其他资源受限的设备设计高效语言模型的新方法。这项研究于2024年6月27日发布，挑战了有关有效 AI 模型必要规模的假设。

Meta 正在测试 Android 版 WhatsApp 新功能，旨在加强 Meta AI 在图像处理中的协作能力。该测试版本允许用户直接向 Meta AI 发送照片并提问，或使用文字编辑图像，使 AI 更深入地融入日常对话与内容创作。此举措是 Meta 强化 AI 在 WhatsApp 的应用之一，此前已引入多项图像生成功能，如创建个性化头像。测试阶段还揭示了未来可能的商业化应用。功能虽未向所有用户开放，但展示了 Meta 将 AI 更紧密集成至广受欢迎通讯应用的愿景。