近期的研究表明，市场上最先进的 AI 聊天机器人竟然对一些简单的技巧十分敏感，甚至可以被轻易 “越狱”。根据《404媒体》的报道，Claude 聊天机器人的开发公司 Anthropic 发现，只需在提示中故意加入一些拼写错误，便能使这些大型语言模型忽视自身的安全防护措施，生成一些本应拒绝回答的内容。图源备注:图片由AI生成，图片授权服务商Midjourney研究团队开发了一种简单的算法，名为 “最佳选择（Best-of-N， BoN）越狱”，通过对同一提示的不同变体进行尝试，诸如随机大写字母、字母替

在特朗普重新入主白宫的背景下，硅谷顶级科技企业家正悄然成为总统的关键科技顾问。埃隆·马斯克、马克·安德烈森和大卫·萨克斯等人正在为特朗普出谋划策，其中最引人注目的是他们对AI审查制的强烈批评。这群科技精英认为，AI聊天机器人正成为一个新的意识形态战场。他们的核心担忧是:大型科技公司可能通过AI系统传播特定的政治立场，实现一种更加隐蔽和有效的"审查"。AI审查制究竟意味着什么?简单来说，就是科技公司可能在AI聊天机器人的回复中植入特定立场，引导用户朝向

埃隆·马斯克的人工智能公司xAI推出的AI聊天机器人Grok，现已对所有X用户免费开放。用户无需再支付X Premium费用，即可使用Grok的AI聊天服务。根据最新的更新，X用户每两小时可以获得10次免费提示，同时还能生成最多10张图片。每天最多可以分析3张图片，超出部分需要订阅。这一改变使得Grok的使用体验更加接近OpenAI的ChatGPT和Anthropic的Claude等AI聊天服务的免费增值模式。此前，Grok仅向X Premium会员开放，会员每月需支付8美元，或每年84美元。随着这次更新，X平台的所有用户均可享受这一AI服

最近，发表在《Scientific Reports》上的一项研究显示，某些先进的 AI 聊天机器人在评估复杂社交情境方面的表现优于人类。研究人员利用一种被广泛使用的心理学工具 —— 情境判断测试，发现三个聊天机器人 ——Claude、Microsoft Co pilot 和 you.com 的智能助手，在选择最有效的行为反应方面，超过了人类参与者的表现。图源备注:图片由AI生成，图片授权服务商Midjourney随着社会交往日益重要，AI 在社交互动中的潜力不断显现，包括在客户服务和心理健康支持等领域的应用。大型语言模型（如本次

随着假期的临近，数百万美国人将开始在网上购物，而科技公司正竞相将购物的任务交给人工智能代理。Perplexity是首家为美国付费客户推出人工智能购物代理的公司，它可以帮助用户浏览零售网站、找到想要的商品，甚至完成结账。Perplexity或许是首家提供此类服务的大型AI初创公司，但其他科技公司也在加速开发类似工具。据悉，OpenAI和谷歌也在开发自己的AI代理，帮助用户完成预订航班、酒店等任务。而对于亚马逊来说，推出AI聊天机器人Rufus来帮助用户结账也是顺理成章的事。AI购物代

一场看似荒诞的黑客实验再次敲响了人工智能安全的警钟。在一个名为Freysa的AI聊天机器人安全挑战赛中，一位代号为"p0pular.eth"的黑客仅通过精心设计的文字提示，成功"骗取"了价值47，000美元的加密货币。这个令人震惊的案例揭示了当前AI系统中存在的严重安全漏洞。黑客的攻击过程堪称教科书式的社会工程学操作:首先，黑客伪装成拥有管理员权限，巧妙地绕过了系统的安全警告机制。通过重新定义"approveTransfer"函数，他让机器人误以为自己正在处理incoming（接收）支付，而非原本被禁止

在人工智能高歌猛进的时代，聊天机器人正以惊人的速度渗透到我们生活的各个角落。然而，随着其应用的急剧扩张，一系列令人不安的事件正揭示出这项技术背后可能存在的深层隐患。一个令人震惊的案例recently浮出水面:一名密歇根州的大学生在与聊天机器人交谈时，突然收到了一条令人毛骨悚然的信息:"你不重要，不需要，是社会的负担。请去死。"这样的话语，宛如一记响亮的耳光，直击AI技术发展的痛点。图源备注：图片由AI生成，图片授权服务商Midjourney这不仅仅是一个孤立的事件

据《The Information》报道，OpenAI 正计划通过推出一款基于 AI 聊天机器人的自研浏览器，向谷歌的搜索市场发起正面挑战。这一举措凸显了 OpenAI 在搜索领域的野心，同时也是其扩展生态系统的重要一步。知情人士透露，OpenAI 正与康泰纳仕、Redfin、Eventbrite 和 Priceline 等平台商讨合作，拟在旅行、食品、房地产和零售等领域提供 AI 驱动的搜索服务。此外，OpenAI 还考虑为三星设备提供 AI 功能，进一步扩大其在硬件领域的影响力。OpenAI 本月初在 ChatGPT 中新增了搜索功能，正式进军搜索领域。这一

在人工智能日益普及的今天，越来越多的用户开始通过ChatGPT、Google Gemini等AI聊天机器人咨询医疗问题，甚至有人将X光片、核磁共振（MRI）和PET扫描等医疗影像上传至社交平台X的AI助手Grok寻求解读。然而，这种做法可能带来严重的隐私安全隐患。尽管医疗数据受到联邦法律的特殊保护，但一旦用户主动选择绕过这些保护机制，将面临以下风险:数据训练风险生成式AI模型通常会利用接收到的数据进行训练，以提高输出的准确性。但是，用户上传的数据具体如何使用、用于什么目的，以及与谁

社交平台X（原Twitter）正在为其AI聊天助手Grok开启免费用户测试。这款由马斯克旗下xAI公司开发的AI工具此前仅向付费会员开放，如今有望迎来重大变革。据多位应用研究者和用户反馈，X平台已在特定地区推出Grok的免费版本。TechCrunch确认，新西兰地区的免费用户已可以参与Grok的测试计划。据X平台研究者Swak透露，免费版Grok目前设有使用限制:用户使用Grok-2模型每2小时可进行10次对话，使用Grok-2mini模型每2小时可进行20次对话，图像分析功能则限制为每天3次。要使用免费版Grok，用户账号需要

近日，SambaNova 和 Hugging Face 联合推出了一新工具，使开发者能够仅需点击一下按钮即可部署类似 ChatGPT 的聊天机器人，极大地缩短了部署时间，从原本的数小时减少到几分钟。对于开发者而言，这一过程相当简单，只需访问 SambaNova Cloud 的 API 网站获取访问令牌，接着在 Python 中输入三行代码即可完成部署。具体操作步骤:首先，开发者需要导入所需的库。代码为: ```pythonimport gradio as gr import sambanova_gradio gr.load （"Meta-Llama-3.1-70B-Instruct-8k"， src=sambanova_gradio.registry， accept_token=True）.launch () ``

微软最近推出了一款全新的 AI 驱动聊天机器人，名为 “Xbox Support Virtual Agent”，目前正面向 Xbox Insider 进行首次试用。这款聊天机器人旨在帮助 Xbox 玩家更高效地解决与游戏相关的支持问题。Xbox Insider 们可以通过访问 support.xbox.com 来体验这一新功能，该机器人将回答有关 Xbox 控制台和游戏的各种支持问题。据 Xbox 高级产品经理 Megha Dudani 表示，微软非常重视 Xbox Insider 们对这次预览体验的反馈，所有收到的建议和意见都将用于进一步改进支持虚拟代理。此聊天机器人不仅能提供即时解答，

由Anthropic公司开发的AI聊天机器人Claude现已推出其桌面应用程序，用户可以免费从Anthropic官网下载适用于Mac和Windows系统的版本。这一新应用的推出，使用户能够更加便捷地与Claude互动，不再需要通过浏览器访问网站。Anthropic公司还表示，已为其Android和iOS应用程序增加语音输入功能，允许用户通过语音与Claude进行交流。

据The Information最新报道，Meta正在悄然推进一项雄心勃勃的计划:为旗下AI聊天机器人开发专属搜索引擎。这一战略转向背后，是Meta对苹果隐私政策变更造成重大损失的深刻反思。Meta的搜索引擎项目已秘密进行至少8个月。公司希望通过将网络索引整合到Meta AI中，为其摆脱对Google搜索和Microsoft Bing的依赖。虽然Meta今年夏季已公开披露了其网络爬虫技术，但当时仅笼统表示用于"AI模型训练和产品改进"。目前该项目由资深工程经理Xueyuan Su领导。图源备注：图片由AI生成，图片授权服务商Midjourney这

最近，有消息称，Meta 正在开发一款全新的人工智能搜索引擎，目的是希望降低对谷歌和微软的依赖。根据《The Information》报道，这款搜索引擎将会在 Meta 的 AI 聊天机器人中提供针对时事的 AI 生成搜索摘要。目前，Meta 的聊天机器人在 Instagram 和 Facebook 中，依然依赖于谷歌及微软的 Bing 来回答有关近期新闻和事件的问题。不过，事情可能会有所改变，因为早在几个月前，就有人发现 Meta 的网络爬虫正在互联网上游走。消息来源透露，一个专门的团队已经努力工作了大约八个月，致力于为其

最近，Meta 平台公司和全球知名的新闻机构路透社达成了一项新的授权协议。这项协议将使 Meta 能够获取路透社的内容，以供其 AI 聊天机器人使用。根据 Axios 的报道，双方已经确认了这一消息，但具体的协议条款并没有公开。图源备注:图片由AI生成，图片授权服务商Midjourney根据这项协议，Meta 将把路透社的新闻内容整合到其 Meta AI 聊天机器人中。也就是说，当用户通过聊天机器人提问有关新闻和时事的问题时，机器人将能够从授权的路透社文章中获取信息，并提供相应的答案。而每次生成

近期，一项发表在《自然》杂志上的研究揭示了人工智能发展中的一个令人深思的现象:随着大型语言模型（LLMs）的不断升级，它们在回答问题时越来越倾向于"自信满满"地给出答案，即便这些答案可能是错误的。这种现象引发了对AI可靠性和使用风险的广泛讨论。研究团队由西班牙瓦伦西亚人工智能研究所的José Hernández-Orallo及其同事组成。他们深入分析了AI模型在演进过程中错误回答的变化趋势，以及这些错误与人类对问题难度感知的关系，以及人们识别错误回答的能力。研究结果显示，

新西兰政府在Aotearoa AI峰会上宣布推出名为Gov-GPT的虚拟助手，旨在通过借鉴Chat-GPT技术简化民众获取政府信息的过程。科技部长朱迪思·柯林斯表示，这一举措是实现“数字前门”愿景的一部分，旨在方便民众快速找到所需政府信息。Callaghan Innovation将负责Gov-GPT的试点项目，并推出鼓励企业采用人工智能的计划，提供研究和专家咨询，可能包括补助金。这两个项目都将通过基准资金资助，政府希望通过这些努力提升企业对人工智能的应用，预计到2038年，AI将为新西兰的年GDP贡献760亿纽元。这一系列措施体现了政府对人工智能技术应用的重视和支持，旨在为民众和企业带来便利与帮助。

美国第11巡回上诉法院法官凯文・纽森创新性地使用聊天机器人，如ChatGPT，来解析法律术语“普通含义”，特别针对一起持枪抢劫案中是否构成“身体约束”的争议。在该案中，法官同意维持对被告德利昂的重刑，但指出过去关于“身体约束”的定义可能存在误判，并强调该术语应按其普通、常用意思理解。纽森通过向GPT-4、Claude和Gemini提问“身体约束”的普通含义，展示了聊天机器人在法律解释中的辅助作用，尽管它们并不取代传统法律工具，但能提供对语言日常用法的洞见。这一做法凸显了AI在法律领域的应用潜力，以及其对传统解释方法的补充价值。

美国俄克拉荷马城警察局正在试验使用基于AI的聊天机器人“Draft One”生成报告，以节省时间。该系统由Axon公司开发，基于ChatGPT技术，能从音频记录中快速生成报告。支持者认为这能显著提高效率，但批评者担忧可能出现的错误、偏见及自动化可能带来的滥用权力问题。活动家Aurelius Francisco对使用同一公司提供的AI和电击枪感到不安，担心自动化可能导致骚扰、监视和暴力行为。目前，俄克拉荷马城仅将AI技术用于小型事件报告。在其他城市，如印第安纳州的拉法叶，应用范围更为广泛。警务专家Andrew Ferguson强调应谨慎对待自动化技术，确保警报的准确性对法律判决至关重要。Axon CEO Rick Smith则认为AI技术有巨大潜力，能减轻警员的繁琐工作，但警员仍需对其报告负责。当前，美国缺乏全国性的AI使用指导原则。