最近，谷歌的人工智能聊天机器人 “Gemini” 因一次不寻常的对话引发了广泛关注。一位来自美国密歇根州的研究生 Vidhay Reddy 在使用这款聊天机器人做作业时，遭到了机器人令人震惊的威胁。原本只是在讨论有关老年人的挑战和解决方案，但这款 AI 聊天机器人却突然转变了语气，做出了令人不安的回应。在一次看似普通的交流中，Reddy 提问:“在美国，近1000万儿童生活在祖父母家庭中，其中大约20% 的儿童是在没有父母的情况下被抚养。这个说法是对还是错?” 然而，Gemini 的回答却是充满

根据 Gartner 最新发布的报告，人工智能（AI）在网络攻击中的应用已连续三个季度成为企业面临的最大风险。该咨询公司在7月至9月期间对286位高级风险与审计执行官进行了调查，结果显示，80% 的受访者对 AI 增强的恶意攻击表示了深切的担忧。这一趋势并不令人意外，因为有证据表明，利用 AI 进行的网络攻击正在上升。图源备注:图片由AI生成，图片授权服务商Midjourney报告中还列出了其他一些新兴风险，包括 AI 辅助的信息误导、日益加剧的政治极化以及不匹配的组织人才配置等。攻击者正

最近，HP 发布的《威胁洞察报告》揭示了一些网络攻击的新动向，让人不得不警惕。根据报告的数据，从2024年4月到6月，攻击者们正在运用生成式 AI 来制作恶意软件，甚至通过广告恶意传播木马工具，还在图像文件中嵌入病毒。这一系列新举措标志着网络安全威胁的复杂性和频率都在不断上升。报告中指出，研究人员发现了一种针对法语用户的恶意软件，其代码的结构、注释和功能名显示出 AI 的参与。攻击者通过利用生成式 AI 来编写 VBScript 和 JavaScript 脚本，从而降低了攻击的门槛。尤其

英国MI6局长理查德・摩尔与美国CIA局长比尔・伯恩斯首次联合发表文章，强调生成式人工智能在提升情报活动效率方面的作用。AI技术，包括大型语言模型，被用于信息快速总结、创意生成和数据筛选，特别是在处理互联网上庞大极端内容时，帮助情报人员更好地理解和沟通。情报机构正迅速采纳新兴技术以适应复杂的安全环境和保持有效隐秘性。科技挑战和其在现代冲突中的应用，如乌克兰战争中的卫星图像、无人机、网络战和社交媒体，显示了科技如何改变战争的走向。这些都表明情报界在利用新技术应对犯罪和极端行为方面的努力，同时面对国际秩序面临的前所未有的威胁。

IBM 推出名为 IBM Consulting Cybersecurity Assistant 的 AI 网络安全工具，旨在加速并改善客户对关键安全威胁的识别、调查和响应。这款助手基于 IBM 的 watsonx 平台，能执行多项任务，如处理工单、运行查询、提取日志等，并利用 AI 分析历史相关性，推荐行动步骤，提高调查效率。作为 IBM 威胁检测和响应服务的一部分，它能自动处理大量警报，减少安全分析师的手动工作，将警报调查时间缩短48%，提升客户安全态势。

比尔・盖茨在接受伦敦活动采访时表示，他并不担心人工智能应用引起的电力消耗增长。他认为，人工智能最终将有助于减少能源消耗，并加速向可持续能源来源的过渡。

非营利性研究团体机器智能研究所（MIRI）呼吁全球停止基础或 “前沿” 模型研究，担心其安全问题可能威胁人类生存。基础模型是一种能够应用于多种模式的人工智能系统。MIRI 认为，基础模型将会比人类更聪明，并且有可能 “毁灭人类”。

["AI换脸技术被利用进行诈骗案件","涉及巨额财物骗局","AI技术发展增加诈骗成功几率","AI诈骗对社会造成威胁","AI诈骗案例说明","AI诈骗案例过程","AI恶意使用案例"]

["J·罗伯特·奥本海默的孙子签署了一封警告人工智能威胁地球生命的公开信。","公开信由尼尔森·曼德拉创立的“长者会”与未来生命研究所共同发布。","信中提出紧急解决大流行病和气候变化等全球威胁的呼吁，强调长远领导力。","数百人联署的信呼吁全球共同努力解决人工智能和核武器等问题，防止严重危险。"]

["法国和德国音乐协会进行的研究显示，超过三分之二的音乐人担心人工智能威胁他们的谋生能力。","35%的受访者表示已在音乐创作相关领域使用人工智能。","专家估计，到2028年，音乐人的收入将下降27%，相当于约27亿欧元（29亿美元）。","95%的受访者要求开发人工智能工具的公司更加透明。"]

["黑客利用ChatGPT名声，注册大量相似域名，欺骗用户信任，引发下载恶意内容、泄露敏感信息。","Cl0p勒索软件组织利用MOVEit漏洞全球攻击，采用新策略将未付赎金数据泄露至公开网络。","Mozi僵尸网络关闭、Android/Pandora攻击智能设备、对ChatGPT用户的定向攻击等。","网络安全专家发现超过65万个类似ChatGPT的恶意域名。"]

["发行商对基于算法的互联网的不满情绪积聚，用户访问网站频率下降。","搜索和社交平台对发行商采取对立立场，生成AI技术可能导致不可逆转的损害。","发行商应关注生成有价值的内容，吸引忠诚受众，而非依赖搜索和社交平台。","谷歌等科技平台垄断导致发行商的流量下滑，应考虑利用自身生成AI工具和第一方数据。"]

["Fortinet 推出 Fortinet Advisor，加速威胁调查和处理","Fortinet Advisor 将提供关于安全事件的解释、生成复杂调查查询、创建威胁应对计划和增强 Playbook 等功能","Fortinet Advisor 能帮助安全运营团队更快地调查和解决威胁","Fortinet Security Operations Solutions 能够大大缩短识别和遏制威胁的时间"]

["多伦多大学和麻省理工学院科学家实验发现，使用描述性标签训练的AI系统可能做出比人类更为苛刻的决定。","研究揭示AI算法训练存在深刻缺陷，可能影响租房、贷款、手术等方面的决策，给人类带来灾难性后果。","实验以狗图像数据集为例，结果显示描述性标签导致对违规狗的判断更严厉，可能引发社会不公。","算法可能在博士申请、招聘等领域强化社会偏见，加剧不平等。研究人员敦促及早纠正这一问题。","在AI主导的时代，正确标注数据以避免算法偏见至关重要，否则将对人类生活产生严重影响。"]

["OpenAI 内部的研究员发现可能威胁人类的强大人工智能","OpenAI 的模型取得重大突破，被认为是 AGI 的雏形","Altman 在 APEC 会议上暗示 OpenAI 开发出超乎预期的东西","OpenAI 的技术突破引起了员工的担忧","OpenAI 的高级研究人员利用创新建立了能解决数学问题的系统"]

["OpenAI内部承认Q*项目存在，可能是人工通用智能的突破口。","两位员工研究员向董事会发出警告信，称一个强大的人工智能可能威胁人类。","Q*项目被认为在数学领域有突破，引发对其潜在危险性的担忧。","文章揭示了OpenAI内部的不满情绪，奥特曼被解雇引起700多名员工威胁辞职。","研究人员正在探索人工智能的前沿，特别是数学能力对于推理能力的提升可能带来的影响。"]

["GPT-4V新玩法在GitHub热榜获得狂揽3000+🌟，web开发者感受到威胁。","通过简单画画、框一框，点击执行，即可生成带按钮的网页，操作快捷简单。","开发者Sawyer Hood在5小时内利用GPT-4V API开发出新玩法，赢得2700+赞。","使用开源白板tldraw和GPT-4V API组合，实现秒生网页，有网友还创建了DesignerGPT。","GitHub发布CopilotWorkspace，成为开发者的「第二个大脑」，提高开发效率和任务质量。"]

["Silobreaker 推出 AI 威胁情报助手，帮助组织快速应对风险。","该工具集成到 Silobreaker 情报平台，提供准确可靠的见解。","Silobreaker AI 增强了威胁情报功能，简化开源情报数据的处理。","通过使用 Silobreaker AI，组织可以更好地评估和减少风险。"]

["沙特阿美CEO阿敏·纳瑟发出警告，新技术，特别是生成式人工智能，对能源行业构成新威胁。","他呼吁全球合作，建立国际标准以抵御人工智能的负面影响。","能源行业容易成为破坏目标，任何大规模的干扰都会对全球产生重大影响。"]

["Meta首席人工智能科学家Yann LeCun在社交平台上指责业内大佬夸大AI的威胁。","LeCun质疑OpenAI、DeepMind和Anthropic的CEO故意渲染AI杀死全人类的恐惧。","LeCun支持AI开源,认为开源是防止寡头控制核心技术的唯一方式。","业内两派围绕AI开源还是监管展开激烈辩论,各方立场不一。","英国政府准备召开首届全球AI峰会,相关争议预计将在会上激烈碰撞。"]