商汤科技联合创始人、大装置事业群总裁 杨帆

出品|搜狐科技

作者|郑松毅

今年WAIC展会逛下来,风向变了。以前大家盯着“人工智能”、“具身智能”看,现在冒出来一个分量极重的词——Token工厂。

这概念其实不复杂。AI推理和交互,每一环都在烧Token。Token就是AI时代最底层的生产力单元。而所谓Token工厂,本质上是把算力和推理能力规模化、低成本生产出来的核心底座。

随着Agent智能体开始大规模落地,全网Token消耗量直接炸裂。中国信通院副院长魏亮给了一组数据:国内AI日均Token调用量,从2024年初的1000亿,猛增到2026年3月的140万亿。两年时间,涨幅超过千倍。这意味着,Token经济已经实打实地成型了。

中国工程院院士郑纬民也指出,跑一套单Agent任务消耗的Token,是传统聊天模型的百倍甚至千倍。眼下国内高端算力不够用,需求暴涨更是让供需失衡雪上加霜。行业卡在中间,低端算力闲置,高端产能紧缺,挺尴尬。

就在行业经历阵痛期时,2026WAAC期间,商汤大装置在上海办了场“算创·无限——Agentic时代AI基础设施创新发展论坛”,专门聊国产算力怎么规模化落地。

会后,商汤科技联合创始人、大装置事业群总裁杨帆,大装置事业群CTO宣善明,首席科学家张行程等高管,跟搜狐科技等媒体聊了不少大众关心的话题,比如国产算力怎么差异化破局,还有太空算力这种前瞻布局。

以下是对话精编:

媒体:商汤大装置为啥要死磕国产异构混合算力?

杨帆:单卡性能硬碰硬,性价比太低。国产芯片跟海外高端产品比,确实还有差距。

所以我们换了更务实的路子,搞PD分离异构混合推理。不指望单张国产卡能追平海外高端芯片,而是把AI推理拆成两截分工协作:吃算力、适合国产芯片发挥的上下文读取,交给国产卡;吃显存、对低延迟要求高的Token生成,交给高端芯片。大家各展所长,互相补位。

媒体:这套打法实际效果咋样?怎么证明不是纸上谈兵?

杨帆:在我们自建的上海临港智算中心,这套混搭方案能把国产芯片利用率最高拉高152%。跟纯国产同构方案比,推理性价比能达到NVIDIA H系列的1.25倍,现在已经实现正毛利了。

媒体:今年WAIC上不少人在推“Token工厂”,很多创始人说这块已经红海了。你们怎么看?

宣善明:做Token工厂的企业真不少,类型五花八门。有老牌的传统企业转型,也有新玩家,哪怕就一二十个人也能拉起一个Token工厂,情况各不相同。

媒体:怕不怕自家策略被复制?商汤的技术壁垒到底在哪?

杨帆:商汤的优势不止于技术,我们搭的是“技术-生态-商业”闭环。从“性价比、适配性、能效比”三个维度系统性地解题,推动国产算力从能用变成规模盈利。

媒体:之前Kimi发了K3大参数模型,但自己也喊算力短缺。模型越来越大还是趋势吗?这对Token工厂有啥挑战?

张行程:我们跟头部模型厂商交流密切,目前看,模型越来越大,万亿甚至几万亿参数的模型,依然是主流趋势。

大参数旗舰模型给算力服务出了新考题:参数总量巨大,但单次计算只激活少量专家,计算量增加有限。可巨量参数叠加大幅拉长的上下文,对存储要求极高。不仅要有显存、内存、高速存储组成的大规模KV Cache,还得配大显存GPU搭建PD分离分布式推理系统。

另外,供应链约束摆在那儿,高端算力芯片紧俏。上下游得深度绑定,从技术到供应链全链路把控,才能响应得了需求。

媒体:不少企业对国产算力还不放心,你们怎么一步步打消顾虑?

杨帆:客户顾虑主要在三层:硬件性能、综合成本、使用信任。

硬件短板没法一口吃成胖子,得联动整条软硬件产业链,慢慢缩小国产芯片与海外产品的差距。成本方面,Token需求暴涨带来规模化集中采购,加上异构调度把硬件利用率提上去了,Token生产成本一直在降。全国一体化算力网落地后,跨区域协同调度还能进一步摊薄运营开销。

过去半年,我们跑出了日均万亿级Token服务能力,正在扭转行业对国产算力的刻板印象。愿意主动尝试的客户明显多了起来。

媒体:商汤这次官宣布局太空算力,算是卷进马斯克的领域了。短期没收益的前沿领域,为啥要提前布局?

杨帆:太空算力和量子计算属于长期战略储备。真正商业化最快也得三年后。我们现在提前入场,一是抢技术先发优势,二是抢稀缺的低轨太空资源。

未来有两个主要落地场景:一是配合自身遥感业务,比如为东南亚国家提供服务,解决应急救灾问题;二是覆盖地面网络够不着的偏远地区,通过星上算力直接输出Token和各种AI应用服务。

媒体:长远看,AI基础设施赛道终局拼什么?Token工厂未来会怎么变?

杨帆:短期行业还在拼硬件规模的内卷。但长期拉开差距的,一定是系统整合与全链路优化能力,这需要构建相当复杂的体系。

算力、AI基础设施,大家都当成未来智能时代的水电煤,是个长周期、持续高增长的大行业。但也正因为需求太大、增长太快,参与者的专业度参差不齐。大量没有持续经营能力的低效厂商扎堆进来,最终会在竞争中被出清淘汰。

眼下产业链上下游还在快速迭代,所以基础设施服务商很难拿出稳定成熟的方案。行业改善有两条路:一是等国产算力体系经过三至五年发展逐步成熟,产业链迭代波动会明显收窄;二是随着头部专业厂商市场份额提升,低效落后产能会被持续挤出,行业供给结构进一步优化。