在今高通峰会上，高通宣布与 Mistral AI 达成合作，准备将 Mistral AI 的新一代生成式 AI 模型带到各种智能设备上。这次合作的重点是 Ministral3B 和 Ministral8B 两款模型，这些模型将会在高通的 Snapdragon8Elite 移动平台、Snapdragon Cockpit Elite 和 Snapdragon Ride Elite 等多个平台上运作，甚至还会用于 AI PC。Mistral AI 的 Ministral3B 和 Ministral8B 模型小巧却强大，特别适合在智能手机、汽车和个人电脑等设备中运行。为什么说在设备上运行生成式 AI 有这么多好处呢?因为这样做可以大幅提高隐私保护、降低延迟、

最近，Humane宣布将其新推出的 AI Pin 智能设备价格下调200美元，试图改善其销售表现。这款产品于今年早些时候以699美元的价格推出，但现在起售价仅为499美元。虽然这个价格已经相对实惠，但这款名为 “eclipse” 的黑色铝合金型号并不附带额外的电池或充电盒。实际上，公司还特别提醒消费者，由于发现某些供应商的电池可能存在火灾安全隐患，因此 AI Pin 用户不应使用充电盒。当然，如果你需要额外的电池，可以单独购买，价格为69美元。不过，虽然价格有所下降，AI Pin 依然需要每月支

芯片巨头高通最近推出了一款名为"AI指挥官"的创新软件，旨在将人工智能技术与用户日常生活更紧密地结合。这款软件的核心目标是在用户设备上直接协调AI模型与应用程序，成为连接个人数据、应用和AI模型的智能桥梁。AI指挥官的设计理念是将用户的个人偏好、日常活动和社交圈信息与生成式AI助手相结合，从而提供高度个性化的响应和行动建议。它支持多种输入方式，包括文字、图像和语音，并能够巧妙利用设备上已安装应用的功能。高通强调，设备本地处理不仅能显著提升响应速度

T-MAC（Table-Lookup-based MAC）技术旨在解决边缘设备部署大型语言模型（LLMs）的内存和计算限制问题。通过将模型权重量化为低比特表示，T-MAC利用查找表（LUT）替代传统乘法运算，显著提高了在CPU上的运行效率。这一方法大幅减少了运算所需内存，使数十亿参数的LLMs能够在资源受限的设备上高效运行，实现智能升级。与现有实现相比，T-MAC在吞吐量上提升4倍，能耗降低70%，即使在低端设备如Raspberry Pi 5上也能以接近成人阅读速度的速度生成令牌。T-MAC不仅适用于智能手机的实时语音识别和自然语言处理，还能提升智能家居设备的交互体验。作为开源项目，T-MAC有望推动边缘智能领域的发展，提供高效节能的LLM部署解决方案，为用户带来更丰富、便捷的智能体验。

["初创公司Rabbit推出的R1一天内销售破万，成为迷你AI设备的新宠。","R1配备2.88英寸触摸屏，搭载Rabbit操作系统，操作简便，多功能。","首批产品售罄速度超出预期，展示了用户对便捷、高效智能设备的强烈需求。","用户可通过R1进行音乐播放、购物、消息发送等操作，无需依赖手机。","R1预计于2024年4月至5月发货，热销势头吸引广泛关注。"]

["联想CEO杨元庆在2023年的联想科技世界大会上提出下一代生成式人工智能将是“个人基础模型”，仅基于用户信息进行训练。","个人基础模型将允许用户的设备拥有个人AI，可制定旅行计划、了解用户的餐馆或活动偏好，无需互联网连接。","联想的模型压缩技术使个人基础模型能在用户设备上运行，成为用户的数字扩展，代表用户购买商品等。"]