最近，美国的一些大型人工智能公司再次向白宫做出了庄重的承诺，表示将会阻止他们的 AI 产品被用于生成非自愿的深度伪造色情内容以及儿童性虐待材料。包括 Adobe、Anthropic、Cohere、微软、OpenAI 和开放源代码网络数据存储库 Common Crawl 在内的六家公司，签署了这一非约束性的承诺，力求保障其产品不会被滥用于制造有害的性别暴力图像。图源备注:图片由AI生成，图片授权服务商Midjourney白宫表示，随着 AI 技术的迅速发展，基于图像的性别暴力案件急剧上升，已成为近年来最令人担忧的 A

Cosmos Institute宣布了旨在培养新一代科技人才与创业者，专注于培养能深刻思考、在人工智能时代坚持人文关怀的人才的计划。该学院的创始成员包括Anthropic的杰克・克拉克和前国防部技术专家布兰登・麦考德。核心目标是创建尊重人类尊严、避免自动化负面影响的AI技术。学院在牛津大学成立“人本中心AI实验室”，由哲学家菲利普・科拉鲁斯负责，旨在将哲学原则转化为开源软件与AI系统。此外，推出了“宇宙奖学金”计划，初期招募四位奖学金获得者参与与导师的合作，进行独立项目研究。同时，推出“宇宙风险投资”项目，由前DeepMind产品负责人Jason Zhao领导，支持具有挑战性的新原型、论文和创意项目，投资范围从1000美元到1万美元不等。这些计划突显了Cosmos Institute在推动更人性化和伦理化的AI发展方面的努力。

Anthropic公司发布企业级AI助手Claude Enterprise，旨在提升团队工作效率，通过集成GitHub、扩展上下文窗口、提供企业级安全功能，帮助企业更好地利用内部知识资产。这款产品能够处理大量文档和代码，加快代码仓库同步、功能迭代和问题调试，同时保障数据安全。市场和产品经理能借此生成营销策略、交互式原型，提高跨部门沟通效率。早期用户反馈积极，表示在创意到内容输出的各个阶段均得到显著提升。

Anthropic 公司宣布将在几周内发布 Claude 系列模型的 Artifacts 系统提示，回应研究者关于透明度的质疑。Artifacts 功能最近对所有用户开放，允许在聊天界面旁运行代码片段。系统提示的公布旨在提高用户对模型行为的理解，并推动 AI 开发的透明性。Claude3.5Sonnet 版本强调准确简洁的回答，Claude3Opus 则更新至2023年8月，能讨论争议性话题并提供平衡观点。最小版本 Claude3Haiku 专注于速度。Artifacts 的具体系统提示内容尚未公布，可能涉及通过系统化方式解决复杂问题及简明回答。

亚马逊宣布推出改进版的Alexa语音助手，名为“Remarkable Alexa”，主要基于Anthropic公司的Claude人工智能模型。此举旨在提升Alexa的性能，解决其理解用户指令和需求时的准确性问题。新助手将引入多项实用功能，如每日AI生成的新闻摘要、儿童专用聊天机器人及会话购物工具。预计在10月中旬发布，采用订阅制服务模式，每月费用约为5到10美元。新功能旨在优化用户体验，包括使用自家Titan模型在内的多种技术优化。此外，经典的“Classic Alexa”服务将继续免费提供。新Alexa演示将在亚马逊年度设备与服务活动中展示。

美国商务部国家标准与技术研究所的美国人工智能安全研究所宣布与人工智能领域领军企业Anthropic和OpenAI签署谅解备忘录，旨在合作进行人工智能安全研究、测试与评估。该研究所将在新模型发布前获得使用权，参与评估模型的能力和安全风险，并研究减轻风险的方法。这一协议标志着美国在管理人工智能未来方面迈出的重要一步，强调了安全对于推动技术创新的至关重要性。通过与英国合作伙伴的紧密合作，提供模型安全改进反馈，NIST将利用其在测量科学、技术、标准及相关工具领域的百年成就，进一步推动人工智能系统的安全性和可靠性。这些合作与评估工作将有助于落实拜登-哈里斯政府关于人工智能的行政命令，加强主要人工智能开发者对政府自愿承诺的执行，促进人工智能的安全、可靠和值得信赖的开发和使用。

Anthropic公司的AI聊天机器人Claude近期因用户反馈性能下降，包括记忆力减退和编码能力下滑，而引发广泛关注。Reddit上的一篇帖子声称Claude的智能水平似乎降低。对此，Anthropic高管Alex Albert回应称，公司调查未发现普遍问题，并确认未对Claude的模型或推理管道进行更改。为提高透明度，公司已公布Claude模型的系统提示。这一现象并非首次出现，之前OpenAI的ChatGPT也曾面临类似质疑。分析认为，用户期望值提高、AI输出自然变化、临时计算资源限制等因素可能导致感知性能下降。尽管底层模型未变，但这些因素仍影响用户体验。AI公司面临的挑战是如何保持模型一致性，提升性能稳定性，并提高AI性能评估和沟通透明度。

Anthropic最近公开了Claude模型的系统提示，包括Claude3.5Opus、Sonnet和Haiku版本，这是AI行业的一大突破，因为大多数供应商通常对此保密。此举提升了AI透明度，Claude的行为规则和性格特征通过这些提示得到详细说明。生成式AI模型基于统计预测生成文本，系统提示用于指导模型行为，避免不当操作。Anthropic的这一举动旨在提升行业透明度，展现其作为道德和透明AI供应商的形象。公开的提示明确了Claude模型的行为限制，如无法打开URL或识别图像中的面孔，并描述了模型应展现的正面性格特征，如聪明、求知欲强，以及在讨论争议话题时保持公正客观。Anthropic计划定期更新和披露系统提示，旨在引导AI模型朝向更人性化和安全的方向发展。

Claude，由Anthropic公司开发的AI大模型，新增了LaTeX公式渲染功能，显著提升了数学表达的清晰度和专业性。主要亮点包括格式一致性提升，统一显示数学方程和表达式，使其标准化且易于理解。LaTeX的加入大幅提升了答案的清晰度，特别适合需要解答数学问题的场景。此功能满足了学术和专业领域的高要求，通过简单的命令输入，用户能够快速生成复杂的数学表达式。官方示例展示了Claude如何高效处理高斯积分、巴塞尔问题解和正弦的小角度近似等复杂数学概念，显示了LaTeX的强大应用。试用体验显示，开启LaTeX功能后，方程式显示效果显著提升。学术界和专业人士对这一功能表示高度赞赏，并期待Claude未来能进一步扩展功能，如支持电子表格、网页浏览等，以满足更广泛的专业需求。这次更新不仅完善了产品功能，也积极回应了用户需求，预示着Claude在学术界和专业领域的应用前景更加广阔。

旧金山一家AI初创公司Anthropic因涉嫌在训练其聊天机器人Claude时使用大量盗版书籍，遭到一群作家起诉。这是首次有作家针对Anthropic提出诉讼，指控其行为“嘲讽了其崇高目标”，并利用盗版资源构建AI产品。诉状指出，Anthropic试图从每部作品背后的人类表达与创造力中获利。原告包括三位作家Andrea Bartz、Charles Graeber和Kirk Wallace Johnson，他们希望代表受此影响的小说和非小说作者。Anthropic还面临来自主要音乐出版商的诉讼，指控其AI模型重复使用受版权保护的歌曲歌词。此类案件与针对OpenAI和微软等公司的一系列诉讼相关联，涉及大量未经授权的人类作品训练AI模型，导致版权争议。诉讼强调，科技公司应为AI模型学习方式与人类不同负责，并指出人类通过合法途径获取知识以给予创作者经济补偿。

Anthropic API新增提示缓存功能，旨在优化Claude模型的使用体验。该功能允许用户在API调用间缓存常用上下文信息，显著降低长提示成本与延迟，最高可达90%和85%。目前支持Claude3.5Sonnet和Claude3Haiku的公开测试版，未来将扩展至Claude3Opus。适用于对话代理、编码助手、处理大型文档及代理搜索等场景。提示缓存定价根据缓存输入令牌数量和使用频率，写入缓存成本比基本输入令牌高25%，使用缓存内容成本仅为10%。Notion已集成此功能，优化了内部运营与用户体验。

Anthropic公司宣布扩大其漏洞奖励计划，旨在测试一种“下一代AI安全缓解系统”，主要聚焦识别和防御“通用越狱攻击”。特别关注高风险领域，包括CBRN防御和网络安全。参与者有机会提前接触新安全系统，发现漏洞或绕过安全措施，最高奖励15,000美元。此举措旨在提升AI系统安全性，通过吸引安全研究人员共同发现和修复潜在威胁，为AI行业安全防护树立标杆。

英国竞争与市场管理局（CMA）对亚马逊投资人工智能初创公司Anthropic的40亿美元合作展开调查，担心此举可能影响英国市场竞争力。调查基于CMA掌握的信息，认为合作可能产生不利影响。亚马逊对此表示不满，称合作符合市场标准。CMA已收集公众意见，并计划在几周内评估合作对市场的影响，最终决定将在10月4日公布。调查涉及Anthropic利用亚马逊云服务进行关键任务工作，以及亚马逊在3月对Anthropic的27.5亿美元投资。Anthropic否认任何不当行为，强调其独立性。CMA还对谷歌与Anthropic的类似合作进行了调查，表明了AI和云计算领域的竞争加剧。

OpenAI的管理层经历重大调整，Greg Brockman宣布休假至年底，John Schulman加入竞争对手Anthropic。这一变动标志着OpenAI自成立以来首次核心人物休假。Brockman的离职被视为公司内部的重大调整，而Schulman的决定则强调了OpenAI在AI与人类利益对齐方面的工作。今年，OpenAI经历了多起高管离职事件，包括产品副总裁Peter Deng等，但同时进行了关键的人事调整，新任命了首席财务官和首席产品官。这些变动使得OpenAI的团队与一年前大相径庭，原始创始团队中仅剩下CEO Sam Altman和Wojciech Zaremba。Schulman，被誉为ChatGPT的主要设计者，表示这一成就应归功于团队合作。这次人事变动预示着OpenAI将面临新的挑战与机遇。

OpenAI联合创始人约翰·舒尔曼离职，加入人工智能初创公司Anthropic。这一变动反映行业人才流动趋势及竞争加剧。舒尔曼在人工智能领域经验丰富，其加入Anthropic可能推动公司创新，引发行业关注。Anthropic作为新兴力量，舒尔曼的到来为其带来新活力与视野。这一决定被视为人工智能行业人才流动与竞争加剧的缩影，预示着行业未来将更加激烈与多变。舒尔曼的具体角色及对Anthropic的影响，以及这一变动对人工智能技术未来的影响，都值得持续关注。

微软在年度10K报告中首次将OpenAI列为竞争对手，引发业界对其合作关系变化的关注。微软与OpenAI有长期合作，投资130亿美元并提供独家云服务。然而，OpenAI的SearchGPT功能使其成为微软在搜索领域的潜在竞争者。美国反垄断调查可能影响双方关系。微软放弃在OpenAI董事会的观察员席位，表明关系可能发生变化。但专家指出，合作伙伴和竞争对手在科技领域并非对立关系。微软此举可能是对投资者的谨慎提醒，未来双方关系动态值得关注。

英国竞争与市场管理局（CMA）宣布对谷歌与人工智能初创公司Anthropic之间的关系进行初步调查。此调查目前处于早期阶段，旨在评估该合作是否可能导致市场竞争减弱，并影响英国市场。Anthropic专注于开发安全、透明和风险控制的人工智能系统，已融资近100亿美元，其中谷歌是主要投资者之一，投资总额超过23亿美元。CMA邀请所有“感兴趣的方”在2024年8月13日前提交意见，决定是否进行正式调查。调查关注点在于谷歌在Anthropic的投资比例及是否形成实质控制。Anthropic强调其独立性，并表示谷歌并未要求其独家使用谷歌云服务。

欧盟已启动对通用人工智能模型（GPAI）提供商的规则咨询，旨在为其提供遵守欧盟人工智能法案（AI Act）法律义务的指导，确保GPAI的“可信赖性”。咨询分为三个部分，分别关注透明度、风险分类与评估、以及行为准则的审查与监控，以制定相关行为准则。参与者包括GPAI提供商、企业、民间社会、权利持有者和学术专家，其反馈将影响行为准则的制定，特别是模型训练内容摘要的模板和指导。咨询将于8月25日截止，AI办公室计划组织工作坊促进交流，并确保过程透明。

近日，一项调查发现，数百个网站试图阻止人工智能公司Anthropic抓取其内容，却因为使用过时的指令而屏蔽了错误的机器人。这一现象突显了当前网站所有者在应对不断变化的AI爬虫生态系统时面临的困境。

OpenAI和Anthropic今年可能面临高达数十亿美元的亏损，主要因AI模型训练和运行成本高昂。OpenAI的AI训练成本预计达到30亿美元，人员费用可能达到15亿美元，租用微软服务器花费接近40亿美元。Anthropic的情况更为严峻，预计支出超过27亿美元，而收入仅为OpenAI的五分之一到十分之一。AI模型的开发和运营成本面临激烈竞争，尤其是在多模态模型领域。尽管存在增长潜力，但市场对AI系统的经济可行性提出了质疑，特别是在衡量生成式AI在其流程中的价值方面。未来，AI市场可能需要在扩展通用推理能力上取得突破，以开启新的自动化和商业机会。