据国际人权组织人权观察（HRW）最新报告披露，一些流行的人工智能图像生成器所使用的训练数据集中，存在大量未经允许使用的巴西儿童个人照片。这引发了儿童隐私和安全的严峻挑战。
报告指出，HRW研究人员在分析"LAION-5B"这一庞大的公共数据集时，发现其中链接了来自10个州至少170张巴西儿童的生活照，内容涵盖他们整个童年时期的珍贵片段，从婴儿出生到青春期。而绝大部分照片均来自亲朋好友间小范围分享的个人博客和视频，本无外泄之意。
图源备注:图片由AI生成，图片授权服务商Midjourney
值得注意的是，这些照片中往往包含儿童的姓名和位置信息，使他们的身份极易被追踪和锁定。一旦这些图像被滥用，将给儿童带来被欺凌、遭钓鱼等风险。更有甚者，有分析称，随着AI换脸技术的发展，儿童肖像可能被生成令人不安的露骨色情内容。
报告援引了一些实例，有至少85名巴西女孩反映，同学们利用AI工具伪造过她们的色情视频并散布网络，给她们带来持久的精神创伤。HRW呼吁，政府必须及时采取行动，保护儿童数据不被AI系统滥用。
对此，LAION组织已与HRW等机构合作，从训练数据中删除链接到儿童图像的网址。但报告警告，这可能"大大低估了儿童个人数据在数据集中的真实总量"。
HRW研究员表示，过去这些家庭照在互联网上处于一定"隐私"状态，不太容易被发现。但如今被人工智能大量利用，已突破了原有的隐私边界。她斥责将保护儿童隐私的责任转嫁给家长是不公平的，政府和科技公司理应为此担责并制定保护措施。
人权观察组织呼吁巴西政府在即将出台的儿童权利保护法规中，明确禁止未经允许使用儿童个人数据训练AI系统，并为受害儿童设计追责途径。也有观点认为，全球各国应在法律层面加强儿童数据保护，防止滥用于AI系统或被生成不当内容。