zh
红薯智语
每月不到10元,就可以无限制地访问最好的AIbase。立即成为会员
首页
AI资讯
AI日报
变现指南
AI教程
AI工具导航
AI产品库
zh
红薯智语
搜索全球AI产品动态
搜索全球AI信息,发现AI新机遇
新闻资讯
产品应用
变现案例
AI教程
类型 :
新闻资讯
产品应用
变现案例
AI教程
2024-08-07 10:05:29
.
AIbase
.
10.9k
LLM为何总在数学上失智?AI大牛Karpathy解释9.9<9.11
近期,全球范围内对“9.11比9.9大吗?”这一看似简单问题的讨论,揭示了当前大型语言模型(LLM)在处理简单逻辑问题时的失误,这一现象被称为“锯齿智能”或“参差不齐的智能”。专家Andrej Karpathy指出,虽然LLM能够解决复杂任务,但在某些简单问题上表现不佳,这反映了模型智能的不均衡性。例如,OpenAI研究员Noam Brown发现LLM在井字棋游戏中的决策错误,以及LLM在数字母数量计算上的失误。Karpathy认为,这源于模型的“毫无道理”决策和缺乏“自知之明”。为解决这一问题,Meta发布的Llama3.1论文提出了在后训练阶段实现模型对齐,通过“知识探测”训练方式鼓励模型只回答自己了解的问题,以此提高模型的智能水平。Karpathy强调,当前AI训练方法需在开发栈中进行更多工作,以提升AI能力。在AI用于生产环境前,应确保其专注于擅长的任务,保持人类的参与度,以充分利用AI潜力,同时规避风险。