“以全球最高价买入GPU、再以全球最低价出租的国内算力市场,背后症结是什么?”
作者丨赵之齐
编辑丨胡敏
“5-10年内,算力行业可能从当前的动态平衡,逐步转向长期的卖方市场。”
当基模创业公司放缓训练脚步、数据中心退租现象频发,外界纷纷唱衰智算市场,商汤旗下负责智算业务的子公司炜烨智算的商务副总裁孟健雄,却有此信心。
这份信心,源于他在智算领域的经验与积累。2022年,孟健雄就加入算力领域知名公司、彼时算力板块的“领头羊”英博数科团队,与团队共同打造了当时中国最大的单体成建制高性能GPU集群。当时,他们把英伟达DGX A100 SuperPOD集群引入中国落地,后来也成为英伟达在中国唯一的AI创新赋能中心。“可以说,我们是智算行业的拓荒者”,他如此定位这段经历。
而后,孟健雄和核心团队离开英博数科,创立炜烨智算。公司聚焦智算中心全生命周期管理,业务覆盖从前期规划、基础设施建设、供应链整合,到后期运维运营及资本退出的完整链路,定位为新质生产力资产管理平台。
与此同时,商汤科技在AI全链路技术领域的深厚积累,尤其是其大装置平台软件的核心能力,吸引了团队的关注。双方达成合作,炜烨智算引入商汤科技的天使轮投资,此后正式成为商汤科技智算业务板块的核心载体,对接头部KA客户,成为商汤智算业务布局中的 “特种部队”。
也因此,在大家普遍感受到智算市场的消纳降温、利润下滑时,处于大厂阵营内的炜烨智算,仍能保持相对可观的毛利率水平。
不过,孟健雄也看到了行业的消纳痛点。在他看来,此前算力需求很多源于基础大模型的训练,但当前的核心瓶颈是LLM(大语言模型)撞到了数据的天花板,基模训练短期内难以提供算力增量;可是,新的潜在消纳动能也已在酝酿:后续多模态对显存和算力的需求很大,一旦能突破训练数据匮乏的困境,将引发远超 “2022-2023年全球算力荒” 的需求爆发。
在尚未走出消纳困局的此刻,行业内卷仍在加剧。孟健雄直接地点出国内GPU市场的成本困境:“国内市场是用全球最高的价格买GPU,再用全球最低的价格把它们租出去。”
他观察到,比起物理属性,GPU此刻更像是一种金融资产,其价格是被Scaling Law这个宏大叙事撑起来的,当下GPU的价格其实是人们对AI未来发展的净现值的预测。尽管一系列政策以及GPU服务器二手市场也已逐渐兴起,为改善这种“高买低卖”的情况提供了可能,但具体效果还需要时间进行检验。
然而,在智算行业面对消纳滞涨的同时,算力相关厂商却在二级市场迎来暖春——近来,协创数据、云天励飞、锐捷网络等多支算力概念股迎来大涨。孟健雄也指出,英伟达过去十几年最大的技术突破发生-2022年里,市值上倍却发生在最个月里。对金融属性非常敏感的他,认为未来第三方AIDC厂商,除了和大客户捆绑、定制化成长外,也要借助金融工具谋求出路,才能在大厂、运营商称霸的算力市场里有一席之地。
在“AI一天、人间一年”的当下,孟健雄对算力行业的未来有何预判?推理算力需求什么时候会迎来爆发?未来端侧与数据中心之间会呈现出什么形态?第三方AIDC厂商的出路又在哪里?以下是雷峰网与孟健雄的对话。为了方便理解,对话内容经编辑。
01
Agent算力需求何时爆发?乐观估-12个月内
雷峰网:在DeepSeek出圈后,许多基模创业公司似乎也放慢了训练的脚步,数据中心退租现象明显,这是否意味着未来数据中心市场需求会下降?在你看来,训练带来的算力需求未来增长潜力预计如何?
孟健雄:我认为,未来人们对算力的需求会有机会变成“无底洞”。
为什么这么说?一方面,现在LLM撞到数据的天花板了,基模的训练在短期内提供不了什么算力需求增量;但在改善推理性能方面,后训练部分还会带来一段时间的算力需求。
但另一方面,多模态对显存和算力的需求比LLM更大,只是多模态领域还没有遇到一个Transformer之于LLM那样的加速器,尤其是具身智能方向,现在可以说是有算法、有算力但没数据,一旦解决训练数据的匮乏,对算力的需求会年底年那段时间的“全球算力荒”更甚。
雷峰网:除了训练这一核心需求外,当下AI推理的需求也持续攀升,目前已经带来哪些具体的改变?
孟健雄:推理算力占比的暴涨,一是让大模型本身by token API的生产力已经广泛商业化了,并且,Agent、DeepResearch这种极度吃推理算力的模型产品形态,也找到了PMF,有用户喜欢、也能收费,后面用量的继续加速爬坡是个确定的事情。
雷峰网:推理端用量加速爬坡,预计什么时候占比会比训练端更大?
孟健雄:这主要取决于爆款应用什么时候出来。目前看起来,Agent是最有希望的方向,最接近消费、对算力消耗也很大,行业里比较乐观的估计-12个月内。大厂们前段时间以来已经开始增加推理算力配置,其实也是对这种预估的一种验证。
回顾起来距离我们最近的一场推理算力需求的爆发是挖矿,挖矿的尽头是专用集成电路ASIC,现在AI应用还没有在这一方向上大量占领市场,只是因为推理需求的特征还没收敛。
雷峰网:有说法说,未来边缘端数据会占整个社会总量数据%,在你看来,边缘计算的崛起是否会影响智算中心发展的可持续性?
孟健雄:很好的问题。中长期来看,边缘数据的采集效率及采集量、和边缘推理计算的算力总量,注定会有一个爆发期,但这对中心化的数据中心来说,其实是synergy(协同发展)关系,而不是零和关系。
雷峰网:怎么理解两者间的协同?
孟健雄:拿具身智能举例,每台机器人、每辆电动车、每架无人机,都在不停采集多模态数据、在端侧进行实时计算,但如果工作在端侧就结束了,那端侧就依旧是孤岛。
这些端侧个体采集到的数据和反馈,海量、多样、且结构化,只有集中到中心化的数据中心或智算中心分析和训练计算,才能发挥价值。并且,也只有这些中心化的场所,能更低成本高效率地完成这种量级工作。
所以,一句话总结,端侧的发展实际上会为数据中心带来需求的增量,而不是反过来影响其发展。
雷峰网:最终两者间会呈现出什么样的状态,行业又应该对此做些什么准备?
孟健雄:大家常听到的观点是:日后边缘计算与中心化计算的协同模式,是“边缘计算+分布式数据中心”,但我们认为,最终整个计算业态,还是会收敛到“少数超大型中心化数据中心+与之高速互联的边缘节点”模式。
数据上说,小型边缘节点PUE(能源使用效率).0左右,远高于集约化数据中心的PUE 1.2-1.5,所以只有“超大型中心化+互联边缘”这种架构,才能使得整个体系的成本最低、效率最高。在这种趋势下,能源与通信成本就是底层竞争力,从这个角度讲,我非常看好中国。
雷峰网:那整体来说,除了推理算力占比的提升,未来AIDC行业还会面临什么新的挑战,AIDC厂商需要如何应对?
孟健雄:可以从几类不同的主体来看。对于大厂来说,平台化的商务模式韧性很高,主要还是满足整体市场内的共性需求,捆绑自身能力销售。运营商这类主体,相对以追求资产价值为主,商务能力较强但创新能力存在一定提升空间。
而对于第三方AIDC厂商,尽头是跟大客户捆绑、定制化成长,也能因此最终走上自己独特的技术路线,这个类别也会是金融工具使用最为频繁的——因为大厂、运营商自身的资金成本低,或者本身自有资金就很丰富,所以其它AIDC厂商可能就要借助资金杠杆上突破创新,才能与前两者对齐。
但总的来说,接下来的算力市场,最底层共性还是要提升经营效率、算力效率和能源效率,等达到效率优化的边际以后,资本热点其实也就向生态上层转移了。到时候,焦点会更多集中在数据、算法上的突破,和这些突破带来的应用层的价值,这一层最有想象空间。
雷峰网:在未来资本市场焦点发生转移前,当下资本市场的关注焦点,主要还放在什么层面?
孟健雄:先从最简单的说,根据我们观察,如果是纯算力建设的项目,性质更倾向于类债项目,就是风险和收益上与传统债券有相似性的投资项目或资产。这部分投资者主要是看硬件软件的先进性和财务表现,包括最重要的项目财务健康度和投资回报周期等。2023年、2024年一部分以市值管理为目的的投资者,也是用这个逻辑。
基于长期主义的投资者,考量角度就比较复杂了。算力是AI应用的基础,中长期主义投资者会更关注未来上层的价值产出,智算项目的规模、算力效率、技术架构乃至整个智算平台生态的价值都是考量因素,属于更偏向成长型权益类投资。
雷峰网:那现在的算力市场,大家对智算项目的期待和考量,整体会比以前更理性了吗?
孟健雄:是的,踩过很多市场乱象的坑后,现在大家会更关注项目穿透到最后是谁。不过市场上仍有时间差的,部分投资者还年、2024年的思想状态,这跟大家入场时间点不同有很大关系。
02
“5-10年内,算力行业可能转向卖方市场”
雷峰网:你年左右就加入英博数科团队,可以说是很早一批踩过算力市场坑的人,在你看来,现在这些乱象问题背后的症结是什么?
孟健雄:现在的市场乱象,比如包销、消纳协议违约等,是因为大家“不这么做就算不过来账”,但说到底就是成本太高、售价太低。
先说成本问题。其实GPU的价格是被Scaling Law这个宏大叙事撑起来的,英伟达这家公司在过去十几年最大的技术突破发生-2022年里,但市值上倍却发生在最个月里,所以当下GPU的价格,其实是人们对AI未来发展的净现值的预测,这种定价思维偏离了成本考量的定价逻辑,把GPU物理产品变成了一种金融属性的资产。
接下来是算力售价问题。国内市场是用全球最高的价格买GPU、再用全球最低的价格把它们租出去。中国的算力供需市场除了电力成本比美国低,其它都比美国高,所以你看,美国人在喊智算的尽头是能源,我们在发展国产可控自主。
雷峰网:怎么理解GPU变成一种金融属性的资产呢?
孟健雄:举个例子,你买一台用来做土建工程挖沟的挖掘机,你就会关注这机器贵不贵、扛不扛风吹日晒;但如果你买的是可以挖金矿的挖掘机,是不是就不会对它的价格太敏感了?而且大家都想挖金矿,就算你不买,也有别人买,价格自然就高上去了。
雷峰网:所以说,因为GPU是AI这类“高收益项目” 的基础,它的价格就不再只是由硬件成本决定,而是像金融资产一样,价格会随收益预期和稀缺性而波动。
孟健雄:是的。正好借此说回刚才提到的两个问题症结,成本高这块我们解决不了,产业链不在我们手里,所以能让大家发挥点主观能动性的,就是售价这一块——这也是更根本的地方。
投资方怕售价低、本儿收不回来,就会要求建设方运营方包销兜底。而在售价低的情况下,运营方或消纳方要想兑现协议,只能从各个方面努力争取降低消纳压力,最直观的就是能源补贴和算力券等方法。如果这些方法也争取不到,违约退租就是消纳方最后的止损方法。
雷峰网:智算中心售价低,却反而可能导致违约退租的情况出现,如何理解这种看似矛盾的市场状态呢?
孟健雄:现在的GPU租赁市场上,我们常听到两种相互矛盾的声音:一种是“算力设备闲置、价格内卷”,一种是“客户在市场上找不到合适的算力、大厂们都忙着在全国收算力”,这两种情况都真实存在。
但“设备闲置、价格内卷”更具体点讲,是“零散、异构的算力匹配不到合适的客户,而被迫闲置”。这有两种可能,一是集群性能达不到专业客户的要求;二是好不容易找到了要求一般的客户、但用不了几个月他们训练工作就结束了,与此同时,新的用户还没找到,这些智算中心因为在空档期就被迫降价倾销。
而与之对应的“算力稀缺”情况,则是客户们需要稳定存储、网络和平台软件配套齐全的成建制集群。能达到这种水平的目前基本只有大厂,但大厂们自己也要用,高质量资源售罄的情况下,想找到合格可用的算力也很难。
雷峰网:性能和技术门槛,确实也是行业内反复提到的导致现在算力“结构性过剩”的一个关键核心。但在你看来大家成建制集群跟不上大厂的原因是什么,真的是自身研发能力不够吗?
孟健雄:导致各地智算中心追不上大厂水平的原因,本质还是在于这些项目是资本驱动的。
资本更看中他们懂的那部分:不动产、大机电、GPU等这些资产管理的东西,但智算中心能收多少租金,最终靠的是交付质量。从资产到算力交付,中间隔着巨大的技术水平鸿沟。但现在市场上没有那么多大厂供资本选择,所以很多资本退而求其次,以最低配置跑步入场。
并且,一个智算项目同时还可能需要满足太多其它目标,最终就形成了设备闲置、价格内卷的现象。
雷峰网:现在也已经有一系列政策对这种现象进行干预,在你看来,这种情况有在好转吗?
孟健雄:长期看好,但可能短期内不会改善。虽然国家出台了相应窗口文件,但其影响还需要一段时间来沉淀出结果。民间也有逐渐兴起GPU服务器二手市场,也能对这种情况有改善,但具体改善多少,有待时间验证。
雷峰网:结构性过剩毕竟也是一种“过剩”,这意味着现在智算市场可能对大多数厂商来说,已经饱和了吗?
孟健雄:市场是有周期性的。具身智能(包括自动驾驶)的iphoness时刻已经到来,关键在于核心技术突破在什么时候发生,比如AI生成多模态训练数据的能力、电机和电池的革新。小周期应该是从当前供大于求,向供需平衡、直至供小于求发展。
雷峰网:这个周期预计会多久?
孟健雄:我认为未-10年内,算力市场会呈现出一个向长期卖方市场变化的趋势。
03
炜烨与商汤“联姻”背后:获取技术与KA客户资源的双赢
雷峰网:目前算力市场很多厂商是在贴着成本价去做,那么成立至今只有一年多的炜烨智算,利润如何?
孟健雄:炜烨智算作为商汤科技智算业务板块的载体,处于智算大厂阵营,天然有些技术优势和规模成本优势,这部分溢价让炜烨智算的毛利率水平能保持在行业高位。
历史上,百团大战最后就剩下美团和饿了么,百模大战迅速就只剩下头部几个基模,未来智算行业大概率也只会聚焦于经营效率最优化的头部玩家,发展慢就会被动下牌桌,这是客观发展规律。
雷峰网:但现在智算领域仍有许多创业公司存在。
孟健雄:创业公司要发展独特性,或说细分市场,如果没有差异化,就会败给效率更高的平台。大厂为了追求平台效率最高,会优先满足客户的共性需求,牺牲定制化。跟大厂竞争的事情交给运营商去做。
雷峰网:你们强调自己在做的是“智算中心的全生命周期管理”,这是否是你们的差异化?要做到这一点,主要困难会在哪里?
孟健雄:现在市面上许多玩家都只负责数据中心建设其中某个环节,但我们是从规划、建设、供应链、运维运营到资本退出,整个穿透。
我们团队年底开始沉淀供应链、技术、项目建设与运营相关的资源,做这件事的主要难点就在于每个层级就都要有积累,不能为了一个项目临时攒局。
雷峰网:你们吸引到投资者,主要就是你们选择的这条路线吗?
孟健雄:还有我们的背景。炜烨智算创始团队年,将英伟达DGX A100 SuperPOD集群引入中国落地的团队,做成了当时中国最大的单体成建制高性能GPU集群,是第一个做成这件事的人。后来我们成为英伟达在中国唯一的AI创新赋能中心,最早开始经营英伟达生态建设,我们认为自己是智算行业早期的拓荒者。
商汤科技也是看中了我们的背景,在炜烨智算团队独立创业后投资了我们,并把智算业务交给炜烨来做。
雷峰网:团队出来创业时,市场上投炜烨智算的人多吗?为什么选择了商汤呢?
孟健雄:当时我们还挺抢手的,也和其他资方包括大厂谈过,但最后选择了商汤,是因为商汤是非常技术驱动的公司,他们的技术加上炜烨智算自己的经验和商业化能力,是一个很好的合作契机,能让商汤的技术能力在市场中得到最大化的回报。
雷峰网:具体来说,商汤什么方面的技术对你们非常重要?
孟健雄:商汤在AI上的全链路技术全栈都有,但最贴近炜烨业务的是商汤大装置的平台软件能力。
目前市面上经历过长期生产环境检验、支持异构混训的这种真正能打的GPU云服务平台不多,商汤可以说是国内最早一批做异构的企业,从成立的第一天就开始。
异构混推本来就很难,混训对技术要求更高,因为混训后如果效率拉低就没有生产意义了。早先商汤没有那么多卡的时候,就只能“被迫”混训。在人工智能还没现在这么火的时候,他们已经开始做积累。
雷峰网:那商汤投资了炜烨智算后,是否会给炜烨提供客户入口,相当于会帮助解决消纳?
孟健雄:商汤自身的算力刚需很大,确实在必要时可以提供消纳方面的支持。不过更准确说,是炜烨为商汤提供更多样化的客户入口,尤其是顶级AI客户和头部行业客户。
雷峰网:不过你们和商汤自身大装置团队之间的客源如何区分呢?
孟健雄:商汤的大装置平台商务团队人多,集团化作战效率很高,炜烨相比起来团队规模小,但打的都是top级KA客户,单个客户ARPU值(每用户平均收入)极高,形象一点说是“特种部队”。
雷峰网:那么现在炜烨智算在算力上的布局情况和主要业务方向如何?整体出租率如何?
孟健雄:目前实控算.3万P,年底可达近 2.6万P,主要集中在商汤自营临港机房及各地纳管智算中心。现在主要是围绕国央企需求,选择与合适的地方政府合作整体智算项目。
我们的算力部署,主要在经济相对发达、基础设施完善的区域,出租率稳定在接近满租的状态。
雷峰网:那接下来发展策略是什么样的?
孟健雄:我们在为踩下一个引爆点做准备。目前来说,炜烨的策略已经从硬件层向软件和商务模式方向进化,例如利用商汤大装置平台软件的技术优势,实现训练by token计费的方法,在算力销售环节探索引入合规金融衍生品,相关尝试正在合规推进中。
专题介绍
2023 年来,智算产业迎来爆发式增长。但两年过去,国内智算企业的生存状态如何?在技术突破与场景落地中做了哪些新探索、又面临什么新挑战?智算行业的未来还有什么想象空间?本专题与一众智算领域的先锋从业者对话,回顾近年智算行业在技术与商业上的拓展实践历程,并展望未来发展方向。即便身处行业气候更迭之际,从业者们凭借智慧与韧性、怀揣对智算未来的坚信,开辟多样化发展路径。对此专题感兴趣的从业者,欢迎添加微信 Ericazhao23 共同参与讨论。
- 辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常丨辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常
- 辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常丨辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常
- 辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常丨辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常
- 辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常丨辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常
- 辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常丨辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常
- 辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常丨辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常
- 辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常丨辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常
- 辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常丨辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常
- 辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常丨辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常
- 辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常丨辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常
- 辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常丨辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常
- 辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常丨辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常
- 辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常丨辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常
- 辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常丨辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常
- 辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常丨辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常
- 辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常丨辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常
- 辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常丨辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常
- 辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常丨辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常
- 辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常丨辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常
- 辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常丨辛芷蕾获得威尼斯影后,直接从85花中脱颖而出,张颂文反应很正常