百川智能今日宣布，其与北京儿童医院及小儿方健康科技（北京）有限公司联合研发的“AI儿科医生”在经过近一个月的内测并得到专家认可后，正式投入临床应用。这一里程碑式的进展标志着AI技术在医疗领域的深度应用迈出了重要一步。图源备注:图片由AI生成，图片授权服务商Midjourney在昨日由国家儿童医学中心首都医科大学附属北京儿童医院首次开展的“AI儿科医生+多学科专家”双医并行多学科会诊活动中，基于Baichuan M1大模型打造的“AI儿科医生”与13位来自耳鼻咽喉头颈外科、肿瘤

在当今的数字时代，儿童的在线安全问题愈发引起重视。近日，Roblox、Discord、OpenAI 与谷歌联合推出了一个名为 ROOST（强大开放在线安全工具）的非营利组织，旨在为 AI 时代构建一个可扩展且互联互通的安全基础设施。这个新组织的目标是为公共和私人机构提供开源安全工具，以帮助它们在自身平台上加强保护，特别关注儿童的安全。图源备注:图片由AI生成，图片授权服务商MidjourneyROOST 的成立是在对生成式 AI 快速发展的回应下。随着网络环境的变化，孩子们面临的风险日益增加，因此对

近日，加利福尼亚州提出了一项名为 SB243的法案，旨在保护儿童免受人工智能聊天机器人潜在风险的影响。这项法案由加州参议员史蒂夫・帕迪拉（Steve Padilla）提出，主要要求 AI 公司定期提醒未成年人，聊天机器人实际上是人工智能，而不是人类。图源备注：图片由AI生成，图片授权服务商Midjourney法案的核心目的在于防止儿童在使用聊天机器人时遭遇成瘾、孤立和误导等问题。除了要求 AI 公司定期发出提醒外，该法案还限制公司使用 “成瘾性互动模式”，并要求它们每年向加州卫生保健

近日，德克萨斯州的两个家庭对 AI 初创公司 Character.AI 及其主要投资方谷歌提起诉讼，指控其平台上的聊天机器人对他们的孩子实施了性虐待和情感虐待，导致孩子们自残和暴力行为的发生。图源备注：图片由AI生成，图片授权服务商Midjourney这起诉讼指出，Character.AI 的设计选择故意且 “极具危险性”，对美国青少年构成了明显威胁。诉讼中提到，Character.AI 的设计通过 “上瘾和欺骗” 的方式，诱导用户在平台上花费更多时间鼓励他们分享最私密的想法和感受，同时使得公司获利并造成实

人工智能公司Embodied宣布，由于资金问题和突如其来的投资撤资，旗下专为自闭症儿童设计的社交机器人Moxie将停止运行。Moxie是一个售价为799美元的蓝色机器人，配有皮克斯电影风格的表情，它利用云端的大型语言模型（LLM）与用户互动，帮助孩子们进行社交练习。然而，随着Embodied的倒闭，Moxie将无法再继续提供这些服务。Moxie是一款相对较新的产品，尽管价格不菲，但却在短短时间内迎来了关闭的命运。这一事件突显了基于云计算的设备面临的风险——公司财务健康直接影响到设备的正

最近，一起引人注目的案件在英国引发了广泛关注。一名27岁的男子休・尼尔森（Hugh Nelson）因利用人工智能将儿童的普通照片转换成性虐待影像而被判处18年监禁。图源备注:图片由AI生成，图片授权服务商Midjourney尼尔森来自博尔顿，他使用了一款名为 Daz3D 的应用程序，创建了3D “角色”，这些角色都是基于无辜儿童的照片。令人震惊的是，尼尔森并不是独自行动，他还收到了来自他人委托的图像。有些人甚至将自己与儿童的照片提供给他，要求他制作这些图像。据《卫报》报道，尼尔森

最近，互联网观察基金会（IWF）发出警告，称人工智能(AI)生成的儿童性虐待图像(CSAM)在开放网络上的出现越来越频繁，已达到了一个 “临界点”。这家安全监督机构表示，过去六个月内，他们发现的 AI 制作的非法内容数量已经超过了前一年的总和。图源备注：图片由AI生成，图片授权服务商MidjourneyIWF 的临时首席执行官德里克・雷・希尔（Derek Ray-Hill）表示，这些图像的复杂程度显示，所使用的 AI 工具可能是基于真实受害者的图片和视频进行训练的。他指出:“最近几个月的情况表明，这

在澳大利亚维多利亚州儿童保护机构近日被迫下达禁令，要求工作人员不得再使用生成式人工智能服务。这一决定是因为一名工作人员在使用 ChatGPT 撰写保护申请报告时，输入了大量个人信息，包括一名高风险儿童的姓名。这个事件引起了维多利亚州信息专员办公室（Ovic）的关注，他们在去年12月接到报告，随后对此展开了调查。调查结果显示，这名员工提交的报告涉及一名年幼儿童，儿童的父母被控性犯罪，尽管这些指控并涉及到孩子本人。Ovic 在调查报告中指出，报告中多处用语显然

在印度，失踪儿童的问题愈发严重。到2023年底，失踪儿童的数量已经上升到47，000人。为了应对这一挑战，警方开始借助人工智能技术来帮助解决案件。2024年1月，德里警方成功破获了一起 “盲案”，这得益于 AI 的帮助。警方组成了一个30人的团队，通过 AI 技术重建了一名身份不明的男子的面部特征。由于该男子的面部已经损坏得无法辨认，AI 生成的图像成为了关键的突破口。图源备注:图片由AI生成，图片授权服务商Midjourney最终，这张经过处理的图像被上传到犯罪和刑事追踪网络（CCTN）

LAION发布Re-LAION-5B，全球首个全面清除CSAM链接的AI训练数据集，旨在解决儿童性虐待材料（CSAM）问题。该数据集在LAION-5B基础上进行了重大改进，主要分为Re-LAION-5B Research和Research-Safe两个版本，共移除2236个CSAM链接，其中1008个来自儿童保护组织名单。数据集包含55亿对文本和图像，旨在帮助清理现有数据集，移除所有匹配的CSAM内容。LAION希望通过此举为网页规模数据集的安全标准设定新基准，解决AI训练数据集中CSAM问题的严重性，尤其是AI生成CSAM内容的增长对真实案件调查和社交媒体平台报告数量的影响。

百川智能与国家儿童医学中心北京儿童医院签署战略合作，旨在利用人工智能技术提升儿科医疗服务的质量与覆盖面。双方合作范围包括居家医疗、辅助诊疗和科研创新，目标是推出“一大四小”的AI智慧儿童健康服务产品，以构建全面的儿童健康大模型为核心，包括家庭数字顾问、基层医生助手、专家临床科研助理和慢病管理机器人。此合作标志着儿科领域科技发展的新尝试，通过AI技术的运用，旨在为儿童提供更优质的医疗服务，实现医疗资源的下沉，让家庭在家门口享受到高标准的医疗保障。

美国佛罗里达州一名男子因涉嫌利用人工智能生成儿童色情内容而被捕，面临多达20项淫秽罪名。这名电影院工作人员在社交应用Kik上分发使用AI图像生成器制作的儿童色情图像，引发广泛关注。案件涉及生成式人工智能的滥用，促使各级立法者推动立法禁止不当内容传播。去年，国家失踪与被剥削儿童中心收到4700起相关举报，包括利用生成式AI制作真实儿童的深度伪造图像进行敲诈。斯坦福大学研究发现，广泛使用的生成式AI图像数据集中存在数百张儿童性虐待图像。互联网观察基金会的首席技术官表示，问题在于内容通过开源软件生成并可在个人电脑上本地运行，解决难度加大。

安格利亚鲁斯金大学的报告揭示，AI生成的儿童性虐待图片需求在黑暗网络上迅速增长。研究者德安娜・达维博士和萨姆・伦德里根教授分析了过去12个月的黑暗网络论坛聊天记录，发现在线犯罪分子利用AI技术制作儿童色情材料的兴趣在增加。他们通过自学和分享经验，在线创建AI生成的虐待图像。研究指出，AI技术带来的问题是，执法机构在理解和应对AI生成的材料时面临巨大挑战。使用AI生成此类材料不仅加剧了对儿童的伤害，也使得犯罪活动更加隐蔽和复杂。这一现象反映了全球在线儿童虐待威胁的加剧，需要引起足够重视。

英国互联网观察基金会(IWF)报告指出，AI生成的儿童性虐待内容(CSAM)在网络上的激增令人担忧。在他们春季30天的调查中，黑暗网络论坛上有3,512部利用AI制作的CSAM，较前一年同期增加17%。报告详细指出，内容真实度和严重程度均有上升，其中涉及极端或露骨性行为的比例有所增加。当前合成视频虽未达高度逼真，技术进步令其快速逼近现实。此增长趋势导致两个主要问题：一是追踪技术发展使得监管和执法难题加深，尤其是在小型AI程序方面；二是缺乏明确法律界定，尤其是在涉及AI生成内容的犯罪范畴。虽然这个问题在技术上日益复杂，FBI已表示会严肃对待指控，举报官称鼓励受害者立即报告。

据国际人权组织人权观察（HRW）最新报告披露，一些流行的人工智能图像生成器所使用的训练数据集中，存在大量未经允许使用的巴西儿童个人照片。这引发了儿童隐私和安全的严峻挑战。

["根据一份新报告，人工智能图像生成器的基础中隐藏着数千张儿童淫秽照片，该报告敦促公司采取行动解决技术中的缺陷。","这些图片使得AI系统更容易生成逼真的虚假儿童图片，并将","社交媒体上全副武装的真实青少年照片转化为裸体照片。","这个问题没有简单的解决办法，需要公司采取行动来解决技术中的漏洞。"]

["韩国团队使用AI诊断自闭症儿童","AI系统准确识别视网膜图像","自闭症诊断工具在人类受试者上测试通过","越早诊断提供更多帮助","需要进一步研究在更年幼儿童中的准确性"]

["学生利用人工智能制作涉嫌儿童性虐待图像，逼真程度令人震惊。","专家呼吁紧急行动，建议学校阻止儿童性虐待材料传播。","图像质量媲美专业儿童照片，儿童形象逼真可能传播至互联网。","儿童保护组织建议建立更好系统，预防类似有害行为。"]

["互联网观察基金（IWF）警告儿童性虐待图像问题可能加剧。","报告呼吁政府和技术提供商迅速控制生成深度伪造照片的人工智能。","生成式人工智能系统可能导致虚拟儿童深度伪造，扩大潜在受害者范围。","加强法律应对人工智能生成滥用，特别针对欧盟提出建议。"]

["Luca.ai网站上线，提供三大核心功能：StoryLabs、LucaListens和ProfessorAI。","Luca.ai针对阅读障碍者设计，借助人工智能实现个性化学习工具。","个性化学习被认为是教育的未来。","Luca.ai由Scott Sosso开发，源于他儿子的阅读障碍。","Luca.ai旨在帮助阅读障碍儿童学习阅读技能。"]