微软已对一个组织采取法律行动,该组织被指控故意开发并使用工具绕过其云 AI 产品的安全护栏。根据微软去年12月向美国弗吉尼亚东区地方法院提起的诉讼,一群由10名未透露姓名的被告组成,涉嫌使用窃取的客户凭证和定制软件侵入 Azure OpenAI 服务。微软指控被告违反了《计算机欺诈和滥用法案》、《数字千年版权法案》和联邦敲诈勒索法,非法访问和使用微软的软件和服务器,目的是“创建攻击性”和“有害和非法内容”。微软没有提供有关所生成滥用内容的具体细节。该公司正在寻
最近,Trilegangers 首席执行官 Oleksandr Tomchuk 收到警报,称其公司的电子商务网站瘫痪了。经过调查后,他发现罪魁祸首是来自 OpenAI 的一个机器人,它正不懈地试图抓取他整个庞大的网站。该网站拥有超过65,000种产品,每种产品都有一页,至少有三张照片。OpenAI 发送了“数万”个服务器请求,试图下载全部内容,数十万张照片及其详细描述。 汤姆丘克表示,OpenAI 的爬虫程序正在摧毁他们的网站,这基本上是一次 DDoS 攻击。该公司将3D 对象文件以及照片(从手到头发、皮肤和全身)出售给
在人工智能技术飞速发展的当下,OpenAI 于2023年10月1日推出了其最新的实时 API,旨在为开发者提供构建智能语音应用的强大工具。此 API 的发布受到了广泛关注,尤其是在 OpenAI DevDay 新加坡站上,Daily.co 的工程师分享了他们在使用这一 API 过程中获得的经验和教训。该工程师们不仅借助实时 API 搭建产品,还积极参与了开源项目 Pipecat 的开发,旨在为更多开发者提供便利。实时 API 的核心功能是其出色的 “语音到语音” 处理能力,这使得开发者能够以极低的延迟实现语音交互。通过将语音输
随着人工智能技术的迅猛发展,许多公司纷纷推出各自的 “AI 代理” 系统,这些代理能够自主与环境互动,完成无需人类干预的任务。微软和 Anthropic 等公司已率先推出了自己的 AI 代理,而行业领导者 OpenAI 却迟迟未能发布自己的版本,这背后的原因令人深思。据《The Information》报道,OpenAI 的推迟与 “提示注入” 攻击有关。这种攻击方式可以诱使 AI 模型接受恶意方的指令。例如,当用户指派 AI 代理在线搜索和购买物品时,AI 可能无意中访问一个恶意网站,该网站可能会指示它忘记先前