李飞飞团队50美元复现DeepSeek R1? 真相来了
创始人
2025-02-07 11:55:13

2月6日讯 今日一则关于人工智能领域的新闻引发广泛关注。

据报道,李飞飞等斯坦福大学和华盛顿大学的研究人员以不到50美元的云计算费用,成功训练出了一个名为s1的人工智能推理模型。该模型在数学和编码能力测试中的表现,据称与OpenAI的O1和DeepSeek的R1等尖端推理模型不相上下。

这一消息无疑在AI界投下了一颗重磅炸弹,真相究竟如何?

《科创板日报》记者调查和采访业内人士后发现,s1模型的训练并非从零开始,而是基于阿里云通义千问(Qwen)模型进行监督微调。这意味着,s1模型的神奇“低成本”,是建立在已具备强大能力的开源基础模型之上。

▍通义模型的“基座”作用

根据李飞飞等人的研究论文,s1模型的训练仅使用了1000个样本数据。按照业内共识,这一数据量在AI训练中可谓微乎其微,通常不足以训练出一个具备推理能力的模型。

青年AI科学家、上海交通大学人工智能学院谢伟迪副教授告诉《科创板日报》记者,如果仔细研究斯坦福s1的论文会发现,s1模型的神奇是以通义千问模型为基座进行微调,这1000个样本训练的作用更像是“锦上添花”,而非“从零开始”。

国内某知名大模型公司CEO也向《科创板日报》记者表示:“从论文原文来看,所谓用50美元训练出新的具有推理能力的模型,实际上只是用从谷歌模型中提炼出来的1000个样本,然后对通义千问模型进行监督微调。这种微调的成本确实很低,但明显是站在既有领先模型的‘肩上’才能做到。”

斯坦福s1论文原文也注明模型是以阿里通义千问模型为基础微调

谢伟迪指出,国内外还有其他团队也声称用极低的成本,训练出了具有推理能力的新模型。但一阅读其论文原文,就会发现它们无一例外都是基于通义模型作为基座进行的。

国外多位人工智能研究者也指出,不少的“新”模型都是建立通义模型基础上

“以通义千问模型作为基座,确实可以用很少的样本数据就达到产生新的推理模型的效果,但如果换成其他基座模型,新模型能力却没有任何的提升。所以,能力真正神奇的是Qwen模型,而不是s1。 ” 谢伟迪说。

▍低成本训练大模型有局限,但也是方向

尽管s1模型的低成本训练在某种程度上展示了AI训练的潜力,但其局限性也不容忽视。

首先,这种低成本训练依赖于已有的强大基座模型,如阿里通义千问模型。如果没有这样的基座模型,低成本训练的效果将大打折扣。

其次,1000个样本数据的训练量在大多数情况下是不够的,尤其是在需要处理复杂任务的场景中。

此外,低成本训练的成功也引发了对AI模型知识产权和伦理问题的讨论。如果越来越多的研究依赖于已有的基座模型进行微调,那么这些基座模型的开发者是否应该获得相应的回报?如何确保AI技术的公平使用和共享?这些问题都需要业界进一步探讨和解决。

尽管s1模型的低成本训练引发了争议,但其背后的研究思路无疑为AI领域提供了新的思考方向。

武汉人工智能学院一位资深研究人员向《科创板日报》记者表示,如何在保证模型性能的前提下,降低训练成本,是AI研究的一个重要课题。未来,随着技术的进步和算法的优化,或许我们真的能够看到更多低成本、高性能的AI模型问世。

【来源:财联社】

相关内容

热门资讯

实测分享“白金岛麻将圈到底有没... 无需打开直接搜索微信:白金岛麻将圈有挂吗本司针对手游进行,选择我们的四大理由:1、软件助手是一款功能...
实测分享“济宁九州麻将到底有没... 无需打开直接搜索微信:济宁九州麻将有挂吗本司针对手游进行,选择我们的四大理由:1、软件助手是一款功能...
实测分享“约局白山麻将到底有没... 您好,约局白山麻将这款游戏可以开挂的,确实是有挂的,通过微信【8198015 】很多玩家在这款游戏中...
实测分享“杭州二人麻将到底有没... 实测分享“杭州二人麻将到底有没有挂吗”分享装挂详细步骤是一款可以让一直输的玩家,快速成为一个“必胜”...
实测分享“闽南游手在线到底有没... 您好,闽南游手在线这款游戏可以开挂的,确实是有挂的,通过微信【8198015 】很多玩家在这款游戏中...
实测分享“欢乐龙城棋牌到底有没... 亲,欢乐龙城棋牌有的,ai轻松简单,又可以获得无穷的乐趣,欢乐龙城棋牌是你和朋友度过闲暇时光的不二选...
实测分享“约约吉林麻将到底有没... 亲,约约吉林麻将有的,ai轻松简单,又可以获得无穷的乐趣,约约吉林麻将是你和朋友度过闲暇时光的不二选...
实测分享“欢乐南通长牌到底有没... 无需打开直接搜索微信:欢乐南通长牌有挂吗本司针对手游进行,选择我们的四大理由:1、软件助手是一款功能...
实测分享“雀悦诏安麻将到底有没... 本篇文章给大家谈谈怎样看出雀悦诏安麻将开挂开挂没,以及雀悦诏安麻将怎么看出来是开挂对应的知识点,希望...
实测分享“一乐浙江麻将到底有没... 无需打开直接搜索微信:一乐浙江麻将有挂吗本司针对手游进行,选择我们的四大理由:1、软件助手是一款功能...
实测分享“猪猪漫游记到底有没有... 实测分享“猪猪漫游记到底有没有挂吗”分享装挂详细步骤是一款可以让一直输的玩家,快速成为一个“必胜”的...
实测分享“天戈跑得快到底有没有... 实测分享“天戈跑得快到底有没有挂吗”分享装挂详细步骤是一款可以让一直输的玩家,快速成为一个“必胜”的...
实测分享“玉林十三水到底有没有... 您好,玉林十三水这款游戏可以开挂的,确实是有挂的,通过微信【8198015 】很多玩家在这款游戏中打...
实测分享“友间十三张到底有没有... 您好,友间十三张这款游戏可以开挂的,确实是有挂的,通过微信【29290261】很多玩家在这款游戏中打...
实测分享“欢乐贰柒拾到底有没有... 您好,欢乐贰柒拾这款游戏可以开挂的,确实是有挂的,通过微信【8198015 】很多玩家在这款游戏中打...
实测分享“捕鱼炸翻天到底有没有... 亲,捕鱼炸翻天有的,ai轻松简单,又可以获得无穷的乐趣,捕鱼炸翻天是你和朋友度过闲暇时光的不二选择,...
实测分享“趣玩十三水到底有没有... 本篇文章给大家谈谈怎样看出趣玩十三水开挂开挂没,以及趣玩十三水怎么看出来是开挂对应的知识点,希望对各...
实测分享“闽游十三水到底有没有... 无需打开直接搜索微信:闽游十三水有挂吗本司针对手游进行,选择我们的四大理由:1、软件助手是一款功能更...
实测分享“乐乐跑得快到底有没有... 无需打开直接搜索微信:乐乐跑得快有挂吗本司针对手游进行,选择我们的四大理由:1、软件助手是一款功能更...
实测分享“牵手跑得快到底有没有... 本篇文章给大家谈谈怎样看出牵手跑得快开挂开挂没,以及牵手跑得快怎么看出来是开挂对应的知识点,希望对各...
实测分享“斗娱斗地主到底有没有... 您好,斗娱斗地主这款游戏可以开挂的,确实是有挂的,通过微信【8198015 】很多玩家在这款游戏中打...
实测分享“粤桂黑桃A到底有没有... 无需打开直接搜索微信:粤桂黑桃A有挂吗本司针对手游进行,选择我们的四大理由:1、软件助手是一款功能更...
实测分享“牛财神V5.0到底有... 亲,牛财神V5.0有的,ai轻松简单,又可以获得无穷的乐趣,牛财神V5.0是你和朋友度过闲暇时光的不...
实测分享“新科乐棋牌到底有没有... 您好,新科乐棋牌这款游戏可以开挂的,确实是有挂的,通过微信【29290261】很多玩家在这款游戏中打...
实测分享“小熊猫麻将到底有没有... 您好,小熊猫麻将这款游戏可以开挂的,确实是有挂的,通过微信【29290261】很多玩家在这款游戏中打...
实测分享“微友江西麻将到底有没... 亲,微友江西麻将有的,ai轻松简单,又可以获得无穷的乐趣,微友江西麻将是你和朋友度过闲暇时光的不二选...
实测分享“乐安江西麻将到底有没... 您好,乐安江西麻将这款游戏可以开挂的,确实是有挂的,通过微信【29290261】很多玩家在这款游戏中...
实测分享“口袋上饶棋牌到底有没... 无需打开直接搜索微信:口袋上饶棋牌有挂吗本司针对手游进行,选择我们的四大理由:1、软件助手是一款功能...
实测分享“微乐福建麻将到底有没... 实测分享“微乐福建麻将到底有没有挂吗”分享装挂详细步骤是一款可以让一直输的玩家,快速成为一个“必胜”...
实测分享“微乐江苏麻将到底有没... 实测分享“微乐江苏麻将到底有没有挂吗”分享装挂详细步骤是一款可以让一直输的玩家,快速成为一个“必胜”...