近日，谷歌宣布推出新的开源 AI 模型 DataGemma，旨在解决大语言模型（LLM）在处理统计数据时常出现的 “幻觉” 问题。这种幻觉现象让模型在回答有关数字和统计的问题时，可能会提供不准确的答案。DataGemma 模型的推出，标志着谷歌在 AI 领域的一次重要进展。图源备注：图片由AI生成，图片授权服务商Midjourney减少统计查询时的幻觉DataGemma 由两种不同的方法构成，旨在提升回答用户问题时的准确性。这些模型基于谷歌的数据共享平台 Data Commons 的海量真实世界数据，后者拥有超过2400亿个数

Google DeepMind的最新研究Gemma Scope揭开了语言模型黑箱的秘密，通过稀疏自编码器(SAEs)分解和重构语言模型的激活，旨在揭示背后有意义的特征。Gemma Scope采用JumpReLU SAEs，通过控制激活，优化重建损失并正则化活跃的潜在特征数量，以揭示语言模型的内部机制。研究发现，残差流SAEs的性能通常较低，序列长度对SAE性能有显著影响，不同数据集子集的表现各异，DeepMind mathematics上表现最佳。Gemma Scope的发布不仅有助于理解SAEs，还能改进实际任务性能，对SAEs进行红队测试，提高AI的可解释性和安全性。

谷歌推出了拥有20亿参数的Gemma22B模型，表现出在多种硬件环境下的卓越性能，尤其在“聊天机器人竞技场”中超越了GPT-3.5-Turbo-0613和Mixtral-8x7b等模型。此模型通过NVIDIA TensorRT-LLM库优化，高效部署于各种场景，从边缘设备到强大云环境。为提升安全性，谷歌还发布了ShieldGemma安全分类器和Gemma Scope工具，以过滤有害内容和分析模型决策。面对AI技术竞争的加剧，谷歌需加速创新，推出更强大的Gemma3模型以保持市场竞争力。

就在不久前的谷歌I/O柏林大会上，谷歌宣布开源其最新语言模型Gemma2，该模型在性能和效率方面取得了重大突破。Gemma2提供9B和27B两种参数规模的版本，其中27B版本的性能已经接近参数量为70B的Llama3模型，但模型大小仅为后者的40%左右。

["谷歌发布开源AI大模型Gemma","国内开源大模型表现优异","InternLM2在各方面完胜Gemma和Llama","开源大模型领域竞争激烈","大模型战场愈发热闹"]

["谷歌推出全新的开源模型系列「Gemma」","Gemma 与 Llama 2、Mistral 的比较","Gemma 的设计原则与特点","Gemma 使用的GeGLU激活函数的特点"]