大型语言模型（LLM）如GPT系列，凭借庞大的数据集，在语言理解、推理和规划方面展现出惊人的能力，在各种挑战性任务中已达到与人类相当的水平。大多数研究都集中在通过在更大的数据集上训练这些模型来进一步增强它们，目标是开发更强大的基础模型。然而，虽然训练更强大的基础模型至关重要，但研究人员认为，赋予模型在推理阶段也能持续进化的能力，即AI自我进化，对AI的发展同样至关重要。与使用大规模数据训练模型相比，自我进化可能只需要有限的数据或交互。受人类大脑

最近，安全研究员约翰・瑞贝格（Johann Rehberger）发现了一个关于 ChatGPT 的漏洞，这个漏洞可能让黑客在用户的长期记忆中植入虚假的信息和恶意指令。虽然他向 OpenAI 报告了这个问题，但不幸的是，该公司并没有给予足够重视，迅速关闭了相关调查，声称这并不算是安全问题。面对这样的情况，瑞贝格决定不放弃，开发了一个概念验证的攻击示例，利用这个漏洞可以将用户的所有输入数据永久性地窃取。OpenAI 看到这一情况后，于本月发布了一部分修复措施，试图解决这个问题。那么，这个

专注于生成式AI编程的初创公司Magic宣布完成3.2亿美元融资，总融资额接近4.65亿美元。此轮融资由前谷歌CEO埃里克·施密特领投，多家知名投资者参与。Magic的核心技术“长期记忆网络”（LTM）能够处理大量数据，生成代码时避免偏差，其最新模型LTM-2-mini能处理一亿个token，相当于1000万行代码或750本小说。与谷歌云合作，计划建立两台“超级计算机”以提升AI模型效率，目标是帮助软件工程师自动化编码，实现更高效的编码方式。