Mindgard 宣布完成800万美元的融资,旨在加速其研发进程,并推动其在美国市场的扩展。此次融资由.406Ventures 领投,参与投资的还有 Atlantic Bridge、Willowtree Investments 及现有投资者 IQ Capital 和 Lakestar。同时,Mindgard 还任命了两位行业领军人物,分别担任产品负责人和市场副总裁,以强化公司的产品开发和市场推广。随着 AI 技术的迅速普及,新的安全风险层出不穷,传统的安全工具难以应对这种复杂的安全环境。Gartner 的研究显示,29% 的企业在部署 AI 系统时报告遭遇安全 breaches,而仅有10% 的内
近期的研究表明,市场上最先进的 AI 聊天机器人竟然对一些简单的技巧十分敏感,甚至可以被轻易 “越狱”。根据《404媒体》的报道,Claude 聊天机器人的开发公司 Anthropic 发现,只需在提示中故意加入一些拼写错误,便能使这些大型语言模型忽视自身的安全防护措施,生成一些本应拒绝回答的内容。图源备注:图片由AI生成,图片授权服务商Midjourney研究团队开发了一种简单的算法,名为 “最佳选择(Best-of-N, BoN)越狱”,通过对同一提示的不同变体进行尝试,诸如随机大写字母、字母替
随着对话式AI技术的飞速发展,AI语音代理正在逐渐接管越来越多的电话沟通。然而,如何确保这些AI语音代理的可靠性成为了行业面临的一大挑战。近日,专注于AI语音代理可靠性的平台Hamming.ai宣布完成380万美元的种子轮融资,由Mischief领投,Y Combinator、AI Grant等机构以及多位天使投资人跟投。Hamming.ai的出现,正是为了解决目前AI语音代理测试和管理方面的痛点。据了解,每天都有数十亿通电话产生,而随着AI的进步,大部分电话最终将由AI处理。然而,即使是微小的提示或模型提供商的更
埃隆·马斯克的人工智能公司xAI近日通过向美国证券交易委员会提交的文件确认,已完成新一轮60亿美元融资,投资者包括Andreessen Horowitz、Blackrock、Fidelity等重量级资本。至此,xAI总融资额达到120亿美元,向其500亿美元估值目标迈出关键一步。此次融资限定上一轮投资者参与,并为部分支持马斯克收购Twitter的股东提供了最多25%的股份认购机会。据悉,xAI计划利用新资金进一步开发其旗舰生成式AI模型Grok,同时扩展至更多应用场景。Grok自发布以来已融入社交平台X(前Twitter)的诸多功能,包