Hugging Face 近期发布 LightEval，一款轻量化 AI 评估工具，旨在辅助企业和研究机构更精准地评估大型语言模型。此工具强调评估在 AI 技术应用中的重要性，帮助确保模型输出的准确性、无偏见性，以及与业务目标的一致性。针对传统评估方法的局限性，LightEval 提供了定制化的评估方案，与 Hugging Face 的其他工具如 Datatrove 和 Nanotron 集成，支持多种设备评估，包括 CPU、GPU 和 TPU，以适应不同硬件环境。作为开源项目，LightEval 允许企业自行运行评估，确保模型在投入生产前符合其道德和业务标准。其易用性与多功能性，使得即使是技术水平不高的用户也能进行复杂模型的评估，包括在多种流行基准上进行评估，甚至定义自定义任务。用户还可根据特定需求，调整模型评估的配置，如权重、管道并行性等。

Geekbench AI 是一款新发布的跨平台工具，专为评估 AI 密集型工作负载设计。它通过测量设备的 CPU、GPU 和 NPU，以及支持多种机器学习框架，来判断设备处理 AI 应用程序的能力。Geekbench AI 提供全精度、半精度和量化分数，并伴随准确性评估，帮助用户了解模型执行任务的真实程度。用户可在 Windows、macOS、Linux、Android 和 iOS 平台上下载并测试设备的 AI 处理性能。随着 AI 技术的发展，这款工具为评估设备在 AI 任务上的表现提供了重要依据。

Geekbench AI是一款全新的跨平台工具，旨在评估设备在AI密集型工作负载下的性能，通过测试CPU、GPU和NPU，判断设备处理机器学习应用的能力。它支持多种AI框架，如ONNX、CoreML、TensorFlow Lite和OpenVINO，并从速度和准确性两个维度评估性能，提供全精度、半精度和量化精度三个分数。此外，Geekbench AI的测试结果包含了准确性测量，以评估工作负载输出与真实结果的接近程度。该工具已在Windows、macOS、Linux、Android和iOS平台上发布，用户可下载试用。随着AI技术的发展，Geekbench AI的出现改变了评估设备性能的方式，为设备AI能力的评估提供了新标准。然而，AI性能测试仍处于早期阶段，其与实际用户体验的关联及准确反映不同AI应用场景下的设备表现还需进一步观察。

OpenAI发布SWE-bench Verified，旨在更精确评估AI在软件工程任务中的表现，解决原SWE-bench存在的评估局限性，如过于严格的单元测试、不明确的问题描述和难以设置的开发环境。新基准通过引入容器化Docker环境，提高了评估的一致性和可靠性，显著提升了AI模型的表现评分。GPT-4o在新基准下解决了33.2%的样本，而最佳开源代理框架Agentless的得分也显著提高。这一改进有助于更准确地捕捉AI模型在软件工程任务中的真实能力，为AI在软件开发领域的应用提供更精确的评估工具，对推动相关技术发展具有重要意义。

OpenAI最近发布了GPT-4o系统卡，详细介绍了在推出新模型前的安全措施和风险评估。GPT-4o在五月份正式上线，评估显示整体风险为“中等”，主要风险集中在网络安全、生物威胁、说服力和模型自主性上。研究人员发现，虽然GPT-4o在影响读者意见方面可能更具说服力，但整体上并未超过人类。在发布系统卡的同时，OpenAI面临来自内部员工和州参议员的批评，质疑其安全标准。一封公开信呼吁提供关于如何处理举报者和安全审查的解答。GPT-4o的发布正值美国总统选举前，存在误传信息或被恶意利用的潜在风险。OpenAI希望通过实际场景的测试来防止滥用，但其透明度受到了公众的关注，尤其是加州参议员斯科特·维纳正在推动的一项法案，旨在规范大型语言模型的使用，并要求公司在其AI被用作有害用途时承担法律责任。

自然语言处理领域中，大型语言模型在复杂任务上表现出色，但模型评估高度依赖昂贵且耗时的人类注释数据，且随着模型进步，原有数据的效用下降，需持续收集新数据以维持评估的规模化与可持续性。Meta FAIR 研究团队针对这一问题提出“Self-Taught Evaluator”（自学评估器），这一创新方法通过合成数据进行训练，无需依赖人类注释。通过生成对比的合成偏好对，模型自我评估与迭代改进，显著提高了模型在 RewardBench 基准上的准确率，从75.4提升至88.7，甚至超越了使用人类注释训练的模型。经过多次迭代，最终模型在单次推理中达到88.3的准确率，多数投票下达到88.7，展现出强大的稳定性和可靠性。此方法为 NLP 模型评估提供了可扩展且高效的解决方案，通过利用合成数据和迭代自我改进，有效应对了依赖人类注释的挑战，推动了语言模型的发展。

蚂蚁集团与新京报、贝壳财经合作，研发了“贝壳财经·智引ESG”大模型产品，旨在精准解析A股上市公司ESG报告。这款产品能够实时解答用户关于ESG的疑问，提供深度分析，利用蚂蚁集团AI产业助理支小助的AI技术支持，结合agentUniverse多智能体框架，模仿专家知识，为ESG高关注领域提供专业分析。贝壳财经提供专业资料及分析方法论，强化了产品的专业性。用户可通过提问获取对ESG报告的专业理解，产品还集成ESG相关知识，包括政策、行业标准、市场动态，全方位评估优化上市公司ESG。体验通道提供，AI服务渗透至日常，方便快捷。此外，产品也开放给产业端定制AI工具，赋能各行业革新与效率提升。

据彭博社消息，OpenAI公司已创建了一个内部量表，用于追踪其大型语言模型在通用人工智能（AGI）方面的进展。这一举措不仅展示了OpenAI在AGI领域的雄心，也为业界提供了一个衡量AI发展的新标准。

Anthropic发布AI开发平台新功能，以简化AI应用开发流程。新亮点包括在控制台生成、测试和评估AI提示的能力，自动生成测试用例和比较输出功能，以及由Claude 3.5 Sonnet支持的提示生成器。开发者只需描述任务，Claude即可生成高质量提示。更新还引入测试套件生成功能，允许用户添加或导入测试用例，并可一键运行所有测试，调整参数。包括响应评估工具和并排比较输出选项，以改进提示并邀请专家评分，目标是加速和提高AI应用的性能优化。此更新为目标人群提供了更高效、便捷的AI开发方式，并促进了AI领域的创新和进步。

Anthropic公司周一宣布启动一项新计划，旨在资助开发能够评估人工智能模型性能和影响的新型基准，包括像其自家Claude这样的生成模型。

​Hugging Face 更新了其 Open LLM Leaderboard，这一举措将对开源人工智能开发的格局产生重大影响。此次改进在人工智能发展的关键时刻出现，因为研究人员和公司正面临大语言模型（LLMs）性能提升似乎出现停滞的局面

["Patronus AI发布版权检测工具","OpenAI的GPT-4被指侵权问题最为严重","微软工程师指出AI图像生成工具可能对社会构成危险"]

["AI研究者普遍认为，超级人工智能的发展存在微不足道但非常小的导致人类灭绝的风险。","最大规模的AI研究者调查显示，约58%的研究者认为有5%的概率导致人类灭绝或其他极端糟糕的AI相关结果。","研究者对未来AI技术里程碑的时间表存在广泛分歧，同时对AI可能带来的社会后果感到不确定。","调查还揭示了AI研究者对深度伪造、操纵公众舆论、制造武器等由AI驱动的情境的紧迫担忧。","虽然AI专家对于未来AI发展存在分歧，但大多数认为超级人工智能的潜在风险不应被轻视。"]

["智谱 AI 发布高质量、低成本的评分模型 CritiqueLLM","传统评价指标如 BLEU 和 ROUGE 缺乏对整体语义的把握","CritiqueLLM 提出可解释、可扩展的文本质量评价模型","在 8 类常见任务中，CritiqueLLM 优于其他模型","CritiqueLLM 通过用户询问增广、含参考文本评价数据收集、无参考文本评价数据改写和训练模型的方法生成评分"]

["亚马逊AWS推出人类基准测试团队，改进人工智能模型评估","亚马逊希望用户能够更好地评估人工智能模型，并鼓励更多人参与这一过程","AWS提供Bedrock上的模型评估，以评估其存储库中的模型","模型评估包括自动评估和人工评估两个部分，可以根据不同指标评估模型性能","AWS还提供人工评估团队与用户合作，检测到自动系统无法检测到的指标"]

["美国政府计划出台新规定，要求对在医疗保健、执法和住房领域使用的算法进行评估，以防止潜在的歧视或其他对人权产生不良影响。","新规定可能会迫使美国政府在 AI 方面采取改变，例如 FBI 使用的面部识别技术，该技术因未采取国会要求的措施以保护公民自由而受到批评。","新规定将要求政府机构在 2024 年 8 月之前评估现有算法，并停止使用不符合规定的算法。"]

["最新研究发现，人工智能在评估某些癌症的侵袭性方面准确度超过活检，可能挽救数千名患者的生命。","针对肉瘤的研究表明，人工智能算法较活组织检查更准确，为患者提供更好的治疗结果。","这一技术有望扩展到其他癌症类型，潜在受益人数众多。"]

["研究发现，大型预训练语言模型（LLM），如GPT-3，能够通过RAIN方法自我改进，满足人类需求，无需额外数据和微调。","RAIN方法广泛适用于多种语言生成任务，无需额外模型或数据存储，也不依赖标记数据或训练。","RAIN通过自我评估提高LLM的性能，降低对敌对攻击的成功率，为AI生成更协调和安全的响应。","这一研究引入了RAIN作为一种调整LLM以满足人类偏好的技术，无需额外信息或繁琐的微调。","RAIN是一项无需学习的技术，对齐大型语言模型（LLM）具有通用性和与冻结权重的对齐优势。"]

["科学家提出评估人工智能是否具有自主意识的标准清单。","清单包括多个理论，通过匹配人工智能系统的功能来评估其是否具有意识。","人工智能公司需要付出更多努力来评估意识并制定相应计划。"]

["Arthur 发布开源工具 ArthurBench，用于评估和比较大型语言模型的性能。","ArthurBench 帮助企业在特定用例上测试不同语言模型的性能，并提供准确性、可读性、避险等指标进行比较。","已有金融服务公司、车辆制造商和媒体平台等企业开始使用 ArthurBench，加快了分析和提供更准确的答案。"]