一项由以色列理工学院主导的最新研究表明，大型语言模型（LLM）可能“深藏不露”，掌握的知识比实际表现出来的更多。研究人员发现，LLM 的内部表征编码了关于其输出正确性的信息，即使它们最终生成了错误的答案，也能在内部识别出正确答案。该研究团队重点分析了 LLM 在长文本生成中的错误，这更贴近其在现实世界中的应用场景。他们构建了一个错误检测数据集，通过比较模型生成的答案与真实答案来判断其正确性，并以此为基础，研究 LLM 内部表征中编码真实性信号的位置。研

在人工智能快速发展的今天，一个国际研究团队正在为欧洲AI语言模型的发展铺平道路。他们推出了名为MOSEL（Massive Open-source compliant Speech data for European Languages）的项目，为欧盟 24 种官方语言编制了一个全面的开源语音数据集。这一举措旨在推动欧洲开放AI语言模型的发展，挑战目前由英语数据集和大型科技公司专有系统主导的局面。MOSEL项目汇集了来自 18 个不同来源的语音数据，包括CommonVoice、LibriSpeech和VoxPopuli等知名项目。这个庞大的数据库包含了带转录的语音录音和未标记的音频数据

在2024北京文化论坛上，北京智源人工智能研究院（BAAI）宣布正式发布新一代中文互联网语料库CCI3.0(Chinese Corpora Internet)，进一步推动数据共建共享。CCI3.0包含1000GB的数据集及498GB的高质量子集CCI3.0-HQ，是继2023年11月首次开源CCI1.0和2024年4月发布CCI2.0之后的又一次重要更新。

近日，OpenAI 推出了一个重磅的多语言数据集，旨在评估人工智能在14种语言中的表现，包括阿拉伯语、德语、斯瓦希里语、孟加拉语和约鲁巴语。这项名为 “多语言大规模多任务语言理解”（MMMLU）数据集，已在开放数据平台 Hugging Face 上发布，标志着 OpenAI 在全球 AI 领域的又一重要进展。数据集入口:https://huggingface.co/datasets/openai/MMMLU之前的 “大规模多任务语言理解”（MMLU）数据集仅针对英语进行评估，覆盖了数学、法律、计算机科学等57个学科。而新发布的 MMMLU 数据集则把目光放在了多

智源研究院推出了一个名为Infinity-Instruct的千万级指令微调数据集，旨在提升语言模型在对话等方面的性能。近日，Infinity Instruct完成了新一轮迭代，包括Infinity-Instruct-7M基础指令数据集和Infinity-Instruct-Gen对话指令数据集。

在全球城市化进程加速的背景下，谷歌再次展现了其科技创新实力，推出了开放建筑2.5D时间数据集。这一举措不仅标志着地图技术的重大突破，更为全球城市规划和发展提供了宝贵的数据支持。联合国预测，到2050年，全球城市人口将增加约25亿，其中大部分增长将来自全球南方地区。面对这一巨大挑战，城市规划者和决策者迫切需要新的工具来理解和应对城市的快速变化。谷歌此次推出的数据集恰好满足了这一需求，它记录了2016年至2023年间建筑物的变化，并首次提供了建筑高度信息。谷

LAION发布Re-LAION-5B，全球首个全面清除CSAM链接的AI训练数据集，旨在解决儿童性虐待材料（CSAM）问题。该数据集在LAION-5B基础上进行了重大改进，主要分为Re-LAION-5B Research和Research-Safe两个版本，共移除2236个CSAM链接，其中1008个来自儿童保护组织名单。数据集包含55亿对文本和图像，旨在帮助清理现有数据集，移除所有匹配的CSAM内容。LAION希望通过此举为网页规模数据集的安全标准设定新基准，解决AI训练数据集中CSAM问题的严重性，尤其是AI生成CSAM内容的增长对真实案件调查和社交媒体平台报告数量的影响。

德国研究机构LAION创建并发布了新数据集Re-LAION-5B，声称已清除疑似儿童性虐待材料（CSAM）链接。该数据集是旧数据集LAION-5B的修复版，采纳了互联网观察基金会、人权观察、加拿大儿童保护中心和斯坦福互联网观察站的建议。Re-LAION-5B分为两个版本：Research和Research-Safe，后者额外删除了NSFW内容。数据集旨在支持Stable Diffusion等生成式AI模型的训练，且不包含图像，仅提供图像链接和替代文本的索引。Re-LAION-5B的发布前，斯坦福互联网观察站发现LAION-5B包含非法图片链接，且数据集中可能存在不当内容。LAION已暂时下线原数据集，并承诺删除已知违规链接。新数据集包含约55亿个文本图像对，根据Apache2.0许可发布。LAION强调数据集用于研究而非商业目的，并鼓励使用元数据清理现有副本。

人工智能领域面临的数据获取难题日益凸显，研究指出，曾经易得的网页数据现在变得难以访问，影响了AI训练和学术研究。MIT等机构的研究发现，多个开源数据集的爬取网站因收紧许可协议，限制了数据获取，不仅对商业AI模型训练构成挑战，也对学术和非营利研究造成阻碍。通过使用机器人排除协议和网站服务条款作为研究方法，研究团队预测未来网站对数据的限制将持续增加。数据获取的困难可能对模型对齐、数据收集实践以及版权产生影响。研究呼吁需要更灵活的协议来适应网站所有者的意愿，并支持AI开发人员使用开放网络数据进行训练。作者希望未来的法律能对此提供支持。

"MedTrinity-25M" 是由 UCSC-VLAA 团队发布的一个大规模多模态医学数据集，包含2500万张医学影像及其详细注释。该数据集具有多粒度注释，支持医学多模态大模型训练，其构建过程复杂，通过数据处理、元数据提取、感兴趣区域定位及医学知识收集，利用大规模语言模型生成详细描述，提高数据可用性。数据集于2024年7月21日正式发布，配套提供预训练模型，如LLaVA-Med++，在医学任务中表现出色，为医学研究提供强大支持。此数据集是医学研究领域的重要资源，旨在促进医学研究的发展。

近日，由国家超级计算成都中心、中国地震局地球物理研究所和清华大学联合开发的"谛听"地震波大模型在四川成都正式发布。该模型是国内首个达到亿级参数量的地震波大模型，标志着我国地震学研究和人工智能技术融合的重要突破。

武汉大学联合中国移动九天人工智能团队和昆山杜克大学基于YouTube数据开源了超过11万小时的音视频说话人识别数据集VoxBlink2。该数据集包含9904382个高质量音频片段及其相应的视频片段，来自YouTube上的111284名用户，是目前最大的公开可用的音视频说话人识别数据集。数据集的发布旨在丰富开源语音语料库，支持训练声纹大模型。

微软研究人员推出全新AI框架Auto Evol-Instruct，该框架能自动适应和优化AI数据集生成过程，无需人工干预。不同于以往需要专家制定规则的演进方法，此框架直接利用大型语言模型（LLMs）分析指令、设计并优化演进规则。Auto Evol-Instruct能够自动提高指令遵循能力、数学推理和代码生成等任务的性能，显著提升LLMs表现。通过对比测试，该框架在多个基准测试中表现出色，超过同类模型，展现出高效的数据集演进和AI性能优化能力。

近日，一项调查揭示了包括苹果在内的多家科技巨头曾利用YouTube视频字幕来训练AI模型。这些数据涵盖了超过170，000个视频，其中包括知名创作者如MKBHD和Mr. Beast的内容。苹果公司利用这些数据训练了其开源模型OpenELM，该模型于今年4月发布。

法国初创公司Presti通过生成性人工智能（GenAI）技术创新家具行业产品摄影，解决传统照片拍摄成本高、流程繁琐问题。成立于2022年11月，Presti利用人工智能将单一产品图像变为逼真生活场景照片，使用全球知名科技投资公司Partech350万美元种子基金。创始人Nabil Toumi表示多家家具公司受困于拍摄流程长与成本高，这为Presti技术提供了市场机遇。公司基于Stable Diffusion XL模型进行了针对性训练及调整，使其适应家具行业需求。通过数据集中的75,000张高质量家具照片，Presti解决了拍摄过程中的准确性问题。特色功能包括为生成照片添加真实配饰和材质选项，增强图像逼真度。尽管主要针对中型家具公司，Presti已与法国最大零售商Maisons du Monde合作，开拓全新市场机会。对于自由摄影师来说，这项技术的兴起引发了潜在挑战。Presti的AI创新显著降低成本，推动家具行业数字化转型，使家具品牌能够更加高效地展示新品。随着技术不断升级，未来家具行业的产品传播有望更加轻松、快速。

​IBM 于五月份开源了适用于企业应用场景的 Granite13B LLM 模型。现在，IBM 的 AI 平台产品副总裁阿曼德・鲁伊兹（Armand Ruiz）公开了用于训练 Granite13B 的全面6.48TB 数据集的完整内容。

​Nvidia 最近宣布推出两项突破性的人工智能技术:HelpSteer2和 Llama3-70B-SteerLM-RM。这些创新承诺在各种应用中显著增强 AI 系统的能力，从自动驾驶到自然语言处理。

["OpenAI、微软被新闻机构起诉侵犯版权","多模态大模型成未来大模型领域主流趋势","OpenAI被传出积极与出版商谈判","AI政策密集出台，高质量数据集版权问题受重视","中信出版与大模型公司合作语言训练","视觉中国在AIGC时代的核心优势"]

["美国社交媒体平台Reddit与谷歌达成协议，价值每年约6000万美元","施普林格出版集团与OpenAI合作，成为首家深度整合新闻业与人工智能技术的出版机构","OpenAI与Axel Springer签订合作协议，表明未来大模型训练或将向数据提供方付费","出版行业公司拥有丰富电子化图文资源，有望成为大模型训练重要数据集"]

["能不能有一种通用的图模型——它既能够根据分子结构预测毒性，又能够给出社交网络的朋友推荐?","或者既能预测不同作者的论文引用可以发现基因网络中的人类衰老机制?","你还真别","它由圣路易斯华盛顿大学陈一昕教授团队、北京大学张牧涵以及京东研究院陶大程等研究者们联合提出。"]