最近，Character.AI 及其创始人 Noam Shazeer 和 Daniel De Freitas，以及谷歌，因一名青少年自杀事件被起诉。起诉方是该青少年的母亲 Megan Garcia，她在诉状中指控这些公司在产品设计上存在严重的失职，并且在市场推广上误导了消费者，尤其是儿童。图源备注:图片由AI生成，图片授权服务商Midjourney14岁的 Sewell Setzer III 在去年开始使用 Character.AI，和以《权力的游戏》中角色为基础的聊天机器人进行互动，包括著名角色丹妮莉丝・坦格利安。在他去世的前几个月，他几乎每天都在与这些机器人聊天，

在当今数字时代，青少年在网络世界中"增龄"的行为已成为一个棘手的问题。为了应对这一挑战，Instagram正在开发一项革命性的AI年龄验证技术，旨在更准确地识别13至17岁的用户，并将他们纳入专门的青少年账户管理系统中。这项技术的核心在于Meta（Instagram的母公司）自主研发的人工智能系统。如果该系统能够准确识别成年用户，将极大地提升平台的安全性和用户隐私保护水平，远超政府在智能手机层面实施的强制验证措施。Instagram对年龄验证的重视可以追溯到2021年3月。当时，一份报告

最近，Instagram 宣布将通过人工智能技术对用户进行年龄验证，旨在更好地识别青少年用户。这项新措施的目标是将年龄在13到17岁之间的用户放入新的青少年账户设置中。Meta 公司的这项技术，如果能够准确地识别成年人，将在用户安全和隐私方面取得重大进展，尤其是相较于州政府在智能手机层面强制实施的年龄验证。自从2021年3月的报告以来，Instagram 意识到 “年轻用户可能会对他们的出生日期撒谎”。因此，自那时起，该平台开始开发和应用人工智能和机器学习技术，以识别那些错误

最近，一项新研究揭示了美国青少年在使用生成式人工智能（AI）方面的惊人趋势。随着科技的迅猛发展，很多家长对孩子们如何使用智能手机、社交媒体以及各种屏幕设备感到越来越焦虑。然而，尽管有这些担忧，青少年对生成式 AI 的热情却在不断上升。图源备注:图片由AI生成，图片授权服务商Midjourney调查显示，很多高中生已经开始频繁使用各种 AI 工具，这些工具不仅能帮助他们完成作业，还能用于创作音乐、艺术和写作。与此同时，许多父母对这些新兴技术的了解却相对匮乏，甚至

韩国青少年利用深伪技术制作色情内容的问题引发了广泛关注，网络性犯罪激增，警方呼吁加强青少年教育与引导，提高网络安全和道德意识，以减少此类事件。Telegram上出现针对学校和师生的色情内容上传，涉及多起案件。今年前七个月，韩国报告的网络深伪相关案件数量显著增加，社会各界呼吁加强监管并进行法律教育。

谷歌对AI聊天机器人Gemini进行大规模升级，以增强性能、扩大语言支持和覆盖范围。Gemini1.5Flash版本在40种语言和230个国家/地区提供支持，质量与响应速度显著提升，尤其在推理和图像理解方面。此次升级包括32,000个标记的上下文窗口扩展，支持文件上传功能，以及在生成的答案下方显示相关网页链接以提高透明度。Gemini功能将扩展至更多应用领域，如集成到Messages应用，面向欧洲经济区、英国和瑞士的手机应用推广，以及全球范围内的青少年开放使用，同时提供专门的AI素养指南。

["英国Ofcom最新研究显示，80%英国青少年使用生成式AI，成为Z世代早期采用者。","Snapchat的My AI和ChatGPT成为青少年和成年用户中最受欢迎的AI工具。","Ofcom关注新网络安全法规对AI工具可能带来的影响，呼吁公司加强产品安全措施。","生成式AI在娱乐、工作和学习等领域得到广泛应用，但Ofcom对AI的风险表达了担忧。"]

["调查发现：美国 13% 的青少年正在使用 ChatGPT 等人工智能技术作弊","学校面临平衡新技术和学术诚信的挑战","建议学校加强学术诚信教育活动"]

["英国信息委员会发出初步执法通知，对Snap公司的生成式AI聊天机器人提出担忧。","调查指出Snap未能充分识别和评估'My AI'对儿童和其他用户隐私风险，但调查结果尚不确定。","Snap承诺与信息委员会合作，确保其风险评估程序，同时该AI机器人在发布前经过法律和隐私审查。","Snap的AI机器人基于OpenAI的ChatGPT运行，具备家长通知和防冒犯功能。"]

["FBI专家警告，青少年正在利用人工智能技术生成深度伪造裸照，对同学进行恶意攻击，令家庭感到尴尬和害怕。","这一技术不再仅限于名人和社交影响者，而是被中学生和青少年用来欺凌其他孩子。","FBI敦促公众在社交媒体、约会应用和其他在线平台上发布个人照片或视频时要谨慎小心。"]

["研究收集4000多个潜在风险因素,运用机器学习模型分析。","模型发现抑郁、焦虑等心理问题最重要。","相比仅考虑历史行为,模型可以更准确预测未来风险。"]