李开复谈中国AI优势,制造实惠推理引擎或成国内大模型最大竞争利器
创始人
2024-10-21 16:05:16

编辑|星奈

来源|金融时报

与西方同行相比,中国大模型公司面临着尖端芯片获取、资金投入等方面的窒碍,但是他们正在通过降低成本来打造具有国际竞争力的模型。

在头部的初创企业中,如零一万物(01.ai)和DeepSeek选择使用优质但较小数据集来训练AI模型、招聘一批二十多岁的技术狂人,不但能做独树一帜的科研,而且成本也较低。

科技巨头中,如阿里巴巴、百度和字节跳动,也燃起了大模型价格战,将调用大语言模型生成回答这段技术所需的“推理”成本降低了 90% 以上,仅为美国同行的价格的极小一部分。

国际情势下,中国公司还必须应对华盛顿对华禁止出口最尖端的英伟达 AI 芯片,因为这些芯片被认为是美国至今领跑全球 AI 大模型技术的关键。

位于北京的零一万物是由前谷歌中国总裁李开复领导。他表示,零一万物在较小的数据集上训练出了对算力要求较低的模型,并且创造了模基共建的方法,结合了硬件、芯片、内存、AI基础软件的垂直整合和优化,打造了Yi-Lightning(闪电模型)。该模型比OpenAI GPT4o便宜31倍的推理成本。

本周,在由加州大学伯克利分校 SkyLab 和 LMSYS 的研究人员所发布的大模型排名中,零一万物凭借 Yi-Lightning 模型与发布Grok-2、与马斯克创办的xAI并列为全球排名第三的大模型公司,仅次于 OpenAI 和谷歌的最新模型。

LMSYS是基于用户提出真实问题,然后针对不同模型的回答给出盲测投票,最终汇总成为对各个模型的评分。OpenAI、谷歌都在这里发布所有的模型,并接受LMSYS的排名。包括字节跳动、阿里巴巴和 DeepSeek 等其他中国大模型玩家,也悄悄爬上了 LLM 排名榜。

李开复告诉《金融时报》:“中国的优势在于制造真正实惠的推理引擎,这是AI应用蓬勃发展最重要的一件事。”

零一万物 Yi-Lightning 的推理成本是每百万个 token 收取 14 美分(0.99 元人民币),而 OpenAI 的较小模型 o1-mini 每百万个 token 则需要 26 美分。与此同时,OpenAI 的更大尺寸的模型 GPT-4o 的推理成本为每百万个 token 4.40美元。AI 大模型生成回答所用的 token 数量取决于查询的复杂度。

李开复还表示,Yi-Lightning 模型的“预训练”成本为 300 万美元,这指的是模型关键训练阶段的成本,之后可以根据不同的应用场景进行微调或定制。 这预训练成本仅为 OpenAI 训练GPT-4的3%,而且Yi-Lightning性能还超越了GPT-4。他补充说,零一万物的科研北极星不是“无论多贵多大,打造世界第一模型”,而是要打造一个世界第一梯队的模型、但是成本超低,能打造出高性价比模型,让开发者构建应用而不被推理成本压垮。

包括零一万物、DeepSeek、MiniMax 和阶跃星辰在内的许多中国大模型公司,都采用了所谓的“混合专家”模型架构,一种被美国研究人员率先提出的模型架构。

与 “从互联网和其他来源抓取数据构建起庞大数据库上,并一次性地训练一个庞大的‘稠密模型’”不同,“混合专家”模型选择将多个对不同领域可称为“专家”的神经网络集合到一起。

研究人员认为,混合专家模型架构是以较少的算力,达到与稠密模型相同智能水平的关键技术。 但这种方法训练失败的可能性更大,因为在模型训练过程中需要同时协调多个“专家”模型,而非集中关注单个模型的训练。因此不少美国公司(如Meta的Llama)就没有开发出来,而中国公司似乎掌握了“混合专家”模型架构。尤其是零一万物和Deepseek,做出了世界最快的混合专家模型。

鉴于获取尖端AI 芯片供给的禁令和难度,中国 AI 领域的玩家在过去一年中一直在竞相开发高质量数据集来训练这些“专家”,使得自家模型具备与竞争对手不同的特色。

李开复表示,零一万物采用了远远优于传统网络抓取方法的数据收集方法,包括扫描书籍,爬取深网区的数据,使用新颖的合成数据技术等。

“工程师在数据标注和排序方面需要做很多不为人知的艰苦工作,”但他补充说,中国拥有大量技术厉害且刻苦耐劳的工程人才,在这方面比美国更有优势。

“中国的优势不一定能在预算不封顶的情况下做出前所未有的突破性研究,但肯定能更好、更快、更可靠和更低成本地实现落地” ,李开复说。

来源:Chinese AI groups get creative to drive down cost of models,https://www.ft.com/content/0a6da1bb-2bda-40f3-9645-97877eb0947c

相关内容

热门资讯

液相捕获技术掀起肿瘤精准医疗革... 近年来,精准医疗领域迎来了前所未有的发展浪潮。从基因检测技术的迭代升级,到靶向药物的精准应用,再到免...
国电南瑞跌0.58%,成交额3... 5月27日,国电南瑞跌0.58%,成交额3.53亿元,换手率0.20%,总市值1775.89亿元。 ...
阳光电源:5月27日融资买入6... 证券之星消息,5月27日,阳光电源(300274)融资买入6679.61万元,融资偿还1.06亿元,...
新易盛:5月27日融资买入5.... 证券之星消息,5月27日,新易盛(300502)融资买入5.26亿元,融资偿还6.93亿元,融资净卖...
创业板系列指数走势分化,同类规... 截至午间收盘,创业板成长指数上涨0.7%,创业板指数上涨0.02%,创业板中盘200指数下跌0.3%...
深化“医险协同”模式,泰康绿通... 在长寿时代背景下,健康管理需求日益凸显,人们对于高品质就医资源的需求愈发迫切。作为一家大民生工程骨干...
普华永道港股连丢单,上海传出裁... 五一假期后,上海普华永道传出消息将进行裁员,涉及咨询、审计等多个业务条线。据时代财经了解,中国大区并...
什么情况?据传嘉能可购买大量L... 财联社5月28日讯(编辑 潇湘)有迹象显示,嘉能可公司近来可能一直在伦敦金属交易所(LME)买进俄罗...
字节否认为大额储户子女提供实习 近日,有网友在社交平台爆料,某银行私人银行可为高净值客户子女量身打造实践机会,其中不乏摩根大通、中金...
为人形机器人穿上“新衣” 这家... 《科创板日报》5月27日讯(记者 张洋洋)从跨界合作到跨界投资,各行业对人形机器人企业的布局全面开花...
港股通互联网ETF:5月27日... 证券之星消息,5月27日,港股通互联网ETF(513040)融资买入49.58万元,融资偿还58.6...
【盘中播报】7只A股跌停 银行... 证券时报•数据宝统计,截至上午10:28,今日沪指跌0.08%,A股成交量415.15亿股,成交金额...
央企ETF:5月27日融资买入... 证券之星消息,5月27日,央企ETF(159959)融资买入0.06万元,融资偿还28.62万元,融...
美联储鹰派立场vs加拿大经济放... 周三(5月28日),美元兑加元在亚洲交易时段早盘小幅上涨,汇价在1.38上方交投。美国消费者信心数据...
华密新材:5月27日融资买入2... 证券之星消息,5月27日,华密新材(836247)融资买入230.18万元,融资偿还260.97万元...
RWA项目完整落地手册1.0版... (1) 一、RWA 介绍 1)1.RWA 的定义 · RWA的全称:Real World Asset...
王兴立下军令状 文 |电厂,作者 | 何畅,编辑 | 高宇雷 除了每隔几天都有进展发布的AI行业,外卖大概是互联网...
华银APP订购白银铂金现货欺骗...   华银APP如今受害者众多,投资人在该平台做交易,只要是大资金买入,基本都是反向走势,一买涨,就使...
股息率破7%的银行ETF优选(... 近期银行势头不减,板块吸引效应明显。数据显示,5月27日,银行ETF优选(517900)单日成交17...
港股汽车ETF:5月27日融资... 证券之星消息,5月27日,港股汽车ETF(520600)融资买入3498.9万元,融资偿还3316....
5.28黄金暴跌后如何布局?今... 前言:不为模糊不清的未来担忧,只为清清楚楚的现在努力。不被短线行情的上蹿下跳而迷惑,只为趋势行情的布...
裁员3000人!沃尔沃断臂求生... 财联社5月27日讯(编辑 刘蕊)当地时间周一,瑞典汽车制造巨头沃尔沃汽车表示,作为削减成本的主要举措...
输掉“国补”的拼多多,一夜没了... 又是熟悉的暴跌,拼多多发布财报后,股价盘前又跳水了,跌幅一度逾20%。 截至当日收盘,拼多多美股跌幅...
浙江恒威:5月27日融资买入3... 证券之星消息,5月27日,浙江恒威(301222)融资买入342.99万元,融资偿还167.91万元...
韩国综合指数涨逾2% 上证报中国证券网讯 5月28日,韩国综合指数高开高走,截至9时44分,该指数涨逾2%,报2690.4...
中电工程 矢志能源报国 书写发... 中电工程 矢志能源报国 书写发展新篇 《人民日报》(2025年05月28日第 08 版) 今年...
长华化学跌2.09%,成交额2... 5月27日,长华化学跌2.09%,成交额2.57亿元,换手率19.71%,总市值34.76亿元。 异...
黄金交易提醒:特朗普的&quo... 汇通财经APP讯——周三(5月28日)亚市早盘,现货黄金震荡微涨,目前交投于3307.34美元/盎司...
还是湖人!曝詹姆斯大概率执行5... 5月28日消息,美国记者Shams今天在一档节目中谈到了湖人球员詹姆斯下赛季很可能继续效力湖人。 ...
银行反诈守好百姓钱袋子 近年来,电信网络诈骗套路不断翻新,让人防不胜防。银行作为反诈的重要力量,持续行动帮百姓守好钱袋子。 ...