在2024年美国总统选举后,网络上的虚假信息惊人的速度传播严重影响了美国人对候选人以及公共健康、气候变化和移民话题的看法。生成式人工智能的发展,加之其生成深度伪造内容的能力和 “幻觉” 事实的倾向,可能进一步加剧这一问题。图源备注:图片由AI生成,图片授权服务商Midjourney为应对这一挑战,挪威初创公司 Factiverse 应运而生。该公司参加了10月份的 TechCrunch Disrupt Battlefield200比赛,并在安全、隐私和社交网络类别中赢得了最佳演讲奖。Factiverse 开发了一款面向企业的工具,能
近日,微软提交了一项专利申请,旨在通过一种技术方法减少或消除人工智能生成的虚假信息。该专利的名称为 “利用外部知识和反馈与语言模型互动”,于去年向美国专利商标局(USPTO)递交,并于10月31日公开。这一提案的核心是为 AI 模型提供一种 “响应增强系统”(RAS),使其能够根据用户的查询自动提取更多信息,并检查其回答的 “有效性”。具体来说,响应增强系统能够识别是否有来自 “外部来源” 的信息能够更好地回答用户的问题。如果 AI 的回答没有包含这些信息,该系统
最近,有一些用户在社交媒体平台 X 上,利用发布与美国选举有关的虚假信息、AI 生成的图片以及各种毫无根据的阴谋论,声称自己已经赚取了 “数千美元”。这些用户往往在网络上互相分享彼此的内容,每天转发多次,以此来增加自己的曝光率和收入。BBC 的一项调查发现,这些用户形成了一些网络,里面有数十个账户彼此互动,分享各种真假混杂的信息,目的是为了提升他们在平台上的影响力。这些人中,有些支持唐纳德・特朗普,有些支持卡马拉・哈里斯,还有一些则是独立的。虽
最近,加州州长加文・纽森否决了一项备受争议的AI安全法案,引发了科技界和政界的热议,也为AI监管的未来走向投下了一记重磅炸弹。这项由民主党州参议员斯科特・维纳提出的法案,原本旨在为迅猛发展的AI技术设立安全guardrails。它要求对开发成本超过1亿美元或需要特定计算能力的先进AI模型进行安全测试,并要求开发者提供"关闭开关"。此外,该法案还计划建立一个州级机构,专门监督"前沿模型"的开发。图源备注:图片由AI生成,图片授权服务商Midjourney然而,纽森认为这项法案过