最近，一项由 Adobe 发布的 “AI 时代的真实性研究” 显示，随着人工智能生成内容的日益普及，许多人在获取信息时感到困惑和不安。这项针对2000名美国消费者的调查揭示，在即将到来的2024年美国总统选举中，人们对虚假信息的担忧愈演愈烈。调查显示，94% 的受访者表示，他们非常担心虚假信息会影响即将到来的选举结果。图源备注:图片由AI生成，图片授权服务商Midjourney更让人震惊的是，44% 的受访者在过去三个月内表示曾被误导，或曾相信过与选举相关的虚假信息。这一现象引起了 Ad

最近，美国官员宣布将于11月在旧金山举办一全球人工智能（AI）安全峰会。随着人工智能技术的飞速发展，各国政府正在努力跟上这一变化。此次峰会将由美国商务部长吉娜・雷蒙多和国务卿安东尼・布林肯共同主持，计划于11月20日至21日举行。雷蒙多在一份声明中表示:“随着人工智能的快速发展，我们正在全力以赴。” 她提到，国际间的紧密合作和深思熟虑的协调是非常重要的。此次峰会的主要目标是通过建立一个国际人工智能安全机构网络，为参与国的政策制定和行业监管提供支持

最近，一项新研究揭示了美国青少年在使用生成式人工智能（AI）方面的惊人趋势。随着科技的迅猛发展，很多家长对孩子们如何使用智能手机、社交媒体以及各种屏幕设备感到越来越焦虑。然而，尽管有这些担忧，青少年对生成式 AI 的热情却在不断上升。图源备注:图片由AI生成，图片授权服务商Midjourney调查显示，很多高中生已经开始频繁使用各种 AI 工具，这些工具不仅能帮助他们完成作业，还能用于创作音乐、艺术和写作。与此同时，许多父母对这些新兴技术的了解却相对匮乏，甚至

最近，美国的一些大型人工智能公司再次向白宫做出了庄重的承诺，表示将会阻止他们的 AI 产品被用于生成非自愿的深度伪造色情内容以及儿童性虐待材料。包括 Adobe、Anthropic、Cohere、微软、OpenAI 和开放源代码网络数据存储库 Common Crawl 在内的六家公司，签署了这一非约束性的承诺，力求保障其产品不会被滥用于制造有害的性别暴力图像。图源备注:图片由AI生成，图片授权服务商Midjourney白宫表示，随着 AI 技术的迅速发展，基于图像的性别暴力案件急剧上升，已成为近年来最令人担忧的 A

最近，美国商务部发布了一项提案，要求人工智能（AI）企业提供详细的报告，旨在对这一快速发展的技术领域进行更严格的监管。这项名为 “拟议规则” 的通知于9月9日发布，意在确保 AI 技术的安全性、可靠性，以及防范外国对手或非国家行为者的潜在滥用。图源备注:图片由AI生成，图片授权服务商Midjourney商务部长吉娜・雷蒙多在新闻发布会上表示，AI 的快速发展既蕴含巨大的机遇，也伴随风险。这项提案希望通过增加透明度来加强国家安全。根据新规，大型 AI 企业需要向联邦政府提

最近，内华达州的一项新政策引起了广泛关注。该州计划使用人工智能来决定申请失业救济金的人是否符合条件。这项计划虽然在批准后快速推进，但许多人对此表示质疑，认为这可能不是个好主意。图源备注：图片由AI生成，图片授权服务商Midjourney内华达州就业、培训与康复部（DETR）的负责人克里斯托弗・休厄尔在接受采访时表示，这个 AI 系统不会独立作出决定，所有 AI 的决策都会有至少一名人类 “裁判” 进行审核。他强调:“没有任何 AI 生成的决定会在没有人类干预的情况下发出。

美国新墨西哥州警方使用AI生成的虚拟14岁少女照片诱捕性犯罪嫌犯，旨在调查Snapchat平台保护儿童免受性剥削的情况。此方法在成功引诱多名嫌疑人后，引发了关于伦理、法律和AI伦理的讨论，特别是AI生成图像的合法性、隐私权及同意问题。法律专家指出，制造并使用深度伪造的儿童性虐待材料是违法且令人担忧的。此外，AI生成图像所需的真实儿童照片训练数据集引发了对儿童隐私和同意的质疑。此事件突显了在利用技术打击犯罪时，如何平衡法律执行与道德责任的复杂性。

美国商务部提议对开发尖端AI模型的公司和提供基础设施的运营商实施报告要求，回应拜登政府关于“安全、可靠和可信的人工智能开发与使用”的行政命令。新规核心内容包括：AI模型训练需超过1026次整数或浮点运算需报告，生物序列数据模型则为1023次；要求披露模型能力、信息安全保护措施及红队测试结果，以确保AI技术符合安全标准，防范网络攻击及被非国家行为者滥用。同时，基础设施运营商需报告其计算集群的网络能力，若超过特定门槛则需报告。商务部此举旨在维护国家安全，限制AI技术可能带来的风险。

随着人工智能技术的兴起，企业与政府探索“自动化决策”引发了公众广泛担忧。最新消费者报告显示，超过72%的受访者对AI在工作面试、银行贷款审批、租房资格评估以及面部识别监控等领域的应用表示不安，其中45%的人对此感到“非常不舒服”。超过一半的受访者对AI进行面部识别监控表示担忧，约三分之一的人对此表示“非常不舒服”。在医疗诊断和治疗方案方面，半数的受访者也不愿让AI参与。民众普遍希望了解用于决策的算法所训练的数据来源，并希望纠正错误数据。尽管公众的反感情绪明显，加州州长与五家AI公司合作测试AI在政府部门的应用，纽约市的住房部门也曾尝试类似项目但遭到了居民抗议。私营部门如麦肯锡和德意志银行等企业也全力支持AI决策技术，尽管这可能会重蹈金融机构实施种族歧视的覆辙。

美国第11巡回上诉法院法官凯文・纽森创新性地使用聊天机器人，如ChatGPT，来解析法律术语“普通含义”，特别针对一起持枪抢劫案中是否构成“身体约束”的争议。在该案中，法官同意维持对被告德利昂的重刑，但指出过去关于“身体约束”的定义可能存在误判，并强调该术语应按其普通、常用意思理解。纽森通过向GPT-4、Claude和Gemini提问“身体约束”的普通含义，展示了聊天机器人在法律解释中的辅助作用，尽管它们并不取代传统法律工具，但能提供对语言日常用法的洞见。这一做法凸显了AI在法律领域的应用潜力，以及其对传统解释方法的补充价值。

迈克尔·史密斯，一名美国音乐人，因涉嫌通过人工智能生成音乐并在音乐流媒体平台上操纵播放量，骗取超过1000万美元版税而被控多项罪名。从2017年至2024年，史密斯利用AI技术创建了数十万首计算机生成的歌曲，并通过自动化机器人提高播放量，每年非法赚取约120万美元版税。他与他人合作，通过虚假账户伪造播放数，盗取应属于合法音乐人和作曲家的版税。尽管被指控电信欺诈、共谋和洗钱，史密斯否认任何不当行为，声称没有人为提高播放量。起诉书中指出，史密斯通过AI生成的歌曲获得大量播放，包括荒谬的歌曲如“Zygophyllaceae”和“Camel Edible”，并宣称自2019年以来生成超过40亿次播放和1200万美元的版税。他面临每项指控最高20年的监禁。

美国俄克拉荷马城警察局正在试验使用基于AI的聊天机器人“Draft One”生成报告，以节省时间。该系统由Axon公司开发，基于ChatGPT技术，能从音频记录中快速生成报告。支持者认为这能显著提高效率，但批评者担忧可能出现的错误、偏见及自动化可能带来的滥用权力问题。活动家Aurelius Francisco对使用同一公司提供的AI和电击枪感到不安，担心自动化可能导致骚扰、监视和暴力行为。目前，俄克拉荷马城仅将AI技术用于小型事件报告。在其他城市，如印第安纳州的拉法叶，应用范围更为广泛。警务专家Andrew Ferguson强调应谨慎对待自动化技术，确保警报的准确性对法律判决至关重要。Axon CEO Rick Smith则认为AI技术有巨大潜力，能减轻警员的繁琐工作，但警员仍需对其报告负责。当前，美国缺乏全国性的AI使用指导原则。

美国商务部国家标准与技术研究所的美国人工智能安全研究所宣布与人工智能领域领军企业Anthropic和OpenAI签署谅解备忘录，旨在合作进行人工智能安全研究、测试与评估。该研究所将在新模型发布前获得使用权，参与评估模型的能力和安全风险，并研究减轻风险的方法。这一协议标志着美国在管理人工智能未来方面迈出的重要一步，强调了安全对于推动技术创新的至关重要性。通过与英国合作伙伴的紧密合作，提供模型安全改进反馈，NIST将利用其在测量科学、技术、标准及相关工具领域的百年成就，进一步推动人工智能系统的安全性和可靠性。这些合作与评估工作将有助于落实拜登-哈里斯政府关于人工智能的行政命令，加强主要人工智能开发者对政府自愿承诺的执行，促进人工智能的安全、可靠和值得信赖的开发和使用。

爱达荷大学Coeur d’Alene分校的计算机科学研究团队研发了一款自主机器人，利用人工智能精准除草，实现对半英寸宽杂草的识别与精确打击，通过电击根除。此机器人在林务局Coeur d’Alene树苗培育场演示后，计划改进硬件与电气组件，提升AI识别杂草的准确性。该项目与美国农业部合作，旨在提高国家森林系统的再造林效率，减少劳动力成本和化学农药使用，增强本地植物适应性。该机器人作为Project Evergreen项目的一部分，获得了USDA的资助。通过与林务局的合作，旨在实现国家森林的可持续目标，符合REPLANT法案要求，在未来十年内再造林400万英亩，种植超过12亿棵树。

美国媒体巨头Gannett宣布于11月1日关闭旗下产品评测网站Reviewed，引发关注。Reviewed以提供各类产品推荐和专业评测而著称，但近期卷入内容来源争议，受到员工工会的质疑，指责网站使用AI生成评测内容。Gannett曾否认使用AI的说法，并表示内容由第三方营销公司AdVon撰写。AdVon因类似事件引发过争议，被指在《体育画报》上发布AI生成内容。此决定可能与搜索引擎算法变化、盈利压力以及与Gannett管理层的薪酬谈判冲突有关。员工工会曾进行罢工，但Gannett未透露关闭后员工的去向。关闭行动可能影响依靠搜索引擎吸引流量的盈利模式。

自2022年ChatGPT引发关注以来，人工智能(AI)在全球范围内成为热议话题，预示着其将深刻改变商业和生活方式。然而，两年过去，福布斯报告揭示AI应用情况远不如预期乐观。仅5.4%的企业实际采用AI，预计到2024年，这一比例也仅增长至6.6%。AI在行业内的应用率有限，主要局限于小范围。生成式AI的讨论广泛，但实际应用与业务不相关的企业占80%以上。AI对就业市场影响不大，94.6%的使用企业未观察到员工规模变化。AI在组织结构中的影响主要体现在作为附属工具，而非驱动重大变革。AI主要应用于市场营销自动化、虚拟助手和数据分析等特定领域，其广泛应用潜力未充分挖掘。企业应谨慎评估AI的适用性，通过小规模试点，探索其在更多业务领域的潜力。

自2022年以来，美国财富500强公司在财务报告中提及生成性人工智能的频率显著增长了250%，约有22%的公司提到相关话题。然而，令人担忧的是，近70%的提及都聚焦于风险，包括竞争地位、安全性及信息错误传播，反映出公司对AI潜在风险的关注。约56%的公司视AI为潜在风险，较去年增长474%。相比之下，只有31%的公司强调生成性AI的积极影响。尽管如此，也有一些积极案例，如Quest Diagnostics在财务文件中表示正在利用生成性AI推动创新和业务增长。

美国联邦通信委员会(FCC)对电信公司Lingo Telecom罚款100万美元，因该公司传播了一通伪造的乔・拜登总统语音机器人电话，试图影响新罕布什尔州的选民。调查发现，这通电话背后的推手是政治顾问史蒂夫・克莱默，FCC此前提议对其处以600万美元的罚款。为了达成与Lingo的和解，FCC要求该公司今后严格遵守来电显示认证规则，包括实施“了解你的客户”(KYC)原则，以加强客户信息核实，维护通信网络的信任。此事件凸显了深度伪造技术在政治传播中的潜在风险，以及监管机构对保持通信安全和透明度的重视。

美国佛罗里达州一名男子因涉嫌利用人工智能生成儿童色情内容而被捕，面临多达20项淫秽罪名。这名电影院工作人员在社交应用Kik上分发使用AI图像生成器制作的儿童色情图像，引发广泛关注。案件涉及生成式人工智能的滥用，促使各级立法者推动立法禁止不当内容传播。去年，国家失踪与被剥削儿童中心收到4700起相关举报，包括利用生成式AI制作真实儿童的深度伪造图像进行敲诈。斯坦福大学研究发现，广泛使用的生成式AI图像数据集中存在数百张儿童性虐待图像。互联网观察基金会的首席技术官表示，问题在于内容通过开源软件生成并可在个人电脑上本地运行，解决难度加大。

美国联邦贸易委员会（FTC）宣布全面禁止虚假的人工智能（AI）生成评论和推荐，以打击在线评论中的不诚实行为，包括购买好评、雇用虚假关注者及虚构角色评论。这些假评论误导消费者，破坏市场公平竞争。新规强调AI生成虚假评论的危害，影响消费者决策。FTC主席莉娜·汉表示，虚假评论污染市场，分散对诚实竞争者的关注。这项规定旨在保护消费者，让他们依赖真实用户反馈，而非假评论。调查揭露知名媒体发布由虚构AI作者撰写的产品评测，涉及虚假内容。负责假评论的公司AdVon Commerce及其关联公司Seller Rocket允许支付费用获取推广，这种“付推广”关系被新规禁止。FTC有权对违反规定的公司追究民事责任，旨在清理电子商务环境，保护消费者权益。总统拜登对此表示支持，强调消费者应信赖真实评价寻找优质服务。