一场看似荒诞的黑客实验再次敲响了人工智能安全的警钟。在一个名为Freysa的AI聊天机器人安全挑战赛中，一位代号为"p0pular.eth"的黑客仅通过精心设计的文字提示，成功"骗取"了价值47，000美元的加密货币。这个令人震惊的案例揭示了当前AI系统中存在的严重安全漏洞。黑客的攻击过程堪称教科书式的社会工程学操作:首先，黑客伪装成拥有管理员权限，巧妙地绕过了系统的安全警告机制。通过重新定义"approveTransfer"函数，他让机器人误以为自己正在处理incoming（接收）支付，而非原本被禁止

一项最新研究表明，利用生成式 AI 模型，特别是大型语言模型（LLM），可以构建一种能够在多种情境下准确模拟人类行为的架构。这项研究成果为社会科学研究提供了一个强大的新工具。研究人员首先招募了1000多名来自美国不同背景的参与者，并对他们进行了长达两小时的深度访谈，收集了他们的生活经历、观点和价值观等信息。然后，研究人员利用这些访谈记录和一个大型语言模型构建了一个“生成式代理架构”。这个架构能够根据参与者的访谈内容创建出上千个虚拟的“克隆人”，

波兰电台OFF Radio Krakow最近宣布了一个大胆的决定:全面采用人工智能（AI）主持，以探索AI在社会中的影响。这一决定被该电台的总编辑Marcin Pulit描述为一项社会实验，但外界普遍认为这是为了节省成本。OFF Radio Krakow是Radio Krakow的一个在线和DAB+子公司，本周宣布将全面采用AI，由三位名为“Emi”、“Kuba”和“Alex”的AI主持人负责新节目。这些AI主持人都有自己的背景故事和性格，由记者“创造”。这些AI主持人的内容由真人记者使用人工智能工具准备，生成文本后由记者检查和验证，然后转

最近，英格兰的数百名社会工作者开始使用一种名为 “Magic Notes” 的人工智能系统。这个工具可以记录面对面的对话，分析内容，并为社工们起草信件和建议后续行动，帮助他们更有效地完成工作。使用这个 AI 工具的市议会包括斯温顿、巴尼特和金斯顿等地，目前共有七个市议会正在使用。“Magic Notes” 工具可以快速撰写会议摘要，并提出一些社工可能没有想到的后续行动建议，比如给全科医生写信。根据开发这款工具的 Beam 公司的说法，这种技术有潜力每年为社会工作者节省高达20亿英

韩国青少年利用深伪技术制作色情内容的问题引发了广泛关注，网络性犯罪激增，警方呼吁加强青少年教育与引导，提高网络安全和道德意识，以减少此类事件。Telegram上出现针对学校和师生的色情内容上传，涉及多起案件。今年前七个月，韩国报告的网络深伪相关案件数量显著增加，社会各界呼吁加强监管并进行法律教育。

韩国深度伪造犯罪问题引发社会广泛关注，尤其针对未成年人的案例频发，涉及人数估计近22万。受害群体广泛，包括学生、教师、军人等，其中未成年人比例较高。犯罪手段通过社交媒体迅速传播，部分受害者信息被用于不法群组的验证。针对女性的深度伪造案件特别引人关注，已知受害学校超过100所，涵盖国内和海外韩国国际学校。对此，韩国总统呼吁加强调查和根除利用数字技术进行的犯罪行为，并强调政府需采取更有力措施打击此类犯罪，同时加强法治教育，保护女性权益。社会各界对此表示强烈关注，要求政府立即采取行动。

2024年世界人工智能大会上，科大讯飞董事长刘庆峰表示，人工智能的替代效应将大规模出现，建议社会应提前设计应对措施。特别是基于大模型技术的人工智能可能在未来几年带来大

["网易发布2023年财报，总营收1035亿元","持续投入技术自研，年研发达165亿元","AI技术深入游戏、音乐、教育等业务","游戏业务表现突出，多款自研游戏突破品类纪录","有道、云音乐等业务也取得显著成绩","网易上线“未成年人模式”，防范网络诈骗，捐赠物资支援灾区","网易将继续推动AI技术在多个领域的应用，发展高质量产品和服务"]

["AI公司发展强大人工智能系统时，应聘请董事会独立成员，代表社会利益。","Yoshua Bengio教授强调技术发展需要民主治理，公众成员监督是必要的。","Bengio对OpenAI管理层变动表示关切，呼吁适当防护和关注人工智能安全。","全球AI安全峰会协议及政府合作也成为Bengio关注的焦点。"]

["1. OpenAI董事Larry Summers betway必威体育手机版接受采访，强调公司必须与政府合作解决监管、国家安全和技术发展等问题。","2. Summers着重强调OpenAI的工作具有非凡意义，并主张公司应以社会责任感的方式运作。","3. 文章介绍了Summers在新董事会的角色，以及他对公司治理安全性的看法。","4. OpenAI董事会将决定何时实现AGI，该决定将影响公司在知识产权和商业条款上的限制。"]

["Google DeepMind成功证明AI代理可通过模仿人类和动物社会学习，类似于人类技能获取过程。","在虚拟环境GoalCycle3D中，AI代理通过强化学习在几分钟内识别、模仿专家行为，并记住知识。","研究展望文化演变在AI发展中的算法角色，可能推动技能在社群中代际传递。","成果发表在《自然通讯》，为人工通用智能发展迈出一步。"]

["元象信息科技宣布开放元象大模型","多个高性能大模型全部开源并免费商用","填补中文大模型开源生态空白","提供技术服务帮助实现行业领先","优秀中文创作、逻辑推理和任务执行能力"]

["AI 技术将超越信息革命，引领知识迭代和社会协同方式的变革","吴泳铭强调 AI 技术将为社会带来深远影响","AI 技术将涉及生产力、生产关系、数字世界和现实世界的变革","AI 技术让机器理解人类语言和逻辑，推动协同流式驱动的发展","AI 技术将为整个社会带来深刻的变革"]

["深度伪造技术广泛用于性内容，影响数千名妇女，纪录片《Another Body》揭示了受害者的创伤。","Twitch主播Gibi和学生Taylor都成为深度伪造受害者。","深度伪造技术日益强大，使每个人都可能成为潜在的受害者。","纪录片呼吁社会更关注深度伪造问题，采取措施防止滥用。","纪录片以乐观的笔调结束，展示了受害者采取的行动。"]

["阿里云通义千问大模型已正式开放，用户可通过官网体验","阿里云通义千问 API 也对企业用户开放","超过 20 万企业和机构用户申请接入通义千问测试","OPPO、得物、钉钉等已与阿里云达成合作","阿里云将开源更大参数规模的大模型版本"]

["理论物理学家米奇奥·卡库认为，像OpenAI的ChatGPT这样的聊天机器人将有利于社会和提高生产力。","卡库认为人类目前处于计算机进化的第二阶段，下一个技术阶段将是量子领域。","量子计算不仅可以应用于商业领域，还可以帮助推进医疗保健。"]