这是中国日均Token调用量的增长规模。2024年初,这一调用量还是1000亿;到2026年6月时,已达到约500万亿。

由于众所周知的外部环境,非国产先进算力供应的不确定性持续存在,国产芯片正加速走向主场。市场研究机构TrendForce预测,2026年中国高端AI芯片市场中,国产方案的出货份额将 接近90% 。

毋庸置疑的一点是, 国芯国模,正在从重要的技术选择,成为中国AI产业必须掌握的基础能力 。

但这条主线上依然布满障碍。不同厂商的芯片对应不同的软件栈,模型适配与开发者生态仍在完善;设备上架后难以匹配真实流量,算力利用率不足……

更深层的矛盾在于,供给侧按卡数、机柜和峰值算力衡量资源,需求侧却按照有效Token产出、响应速度和服务质量采购。

11月17日,清昴联合华为昇腾生态及多家产业伙伴,正式发起 昇腾950DT万卡级Token工厂联合运营计划 。

按照计划,清昴将以打造 国内规模最大的独立国产Token工厂为目标 ,将分散、异构的国产算力组织起来,通过RSI驱动的软件技术和运营体系,转化为 可计量、可验收、稳定交付的Token产能 。

未来五年,清昴还会进一步建设覆盖多地域、多芯片的十万卡级Token工厂网络,让国产芯片真正成为支撑大模型与Agent持续运行的生产力。

建设万卡级算力集群,解决的是 计算资源的规模问题 。而要让这些算力成为一座持续生产、稳定交付Token的工厂,还需要更完整的技术与运营体系。

除了芯片、机房和电力,Token的生产还涉及 模型适配、资源调度和真实业务需求 。这些能力和资源,通常分散在产业链上的不同企业手中。

按照最新公布的路线图,清昴计划于 2027年 推进昇腾950DT万卡级联合运营,建设 国内领先的独立国产Token工厂 。

他们还计划,未来五年,将这套体系扩展为 十万卡级别 自主可控的Token工厂网络,实现多地域、多芯片的统一调度与全国产算力供需匹配。

四方围绕真实Token产出建立合作机制,通过服务质量协议(SLA)和统一计量体系,明确各自的投入、运营责任与收益分配。

芯片、机房和模型需求来自不同企业,但最终交付的是符合统一标准的Token服务。各方的合作,也由设备和资源的供给,进一步深入到生产与运营环节。

清昴公布的首批运营合作方,包括 北京智源人工智能研究院、上海数据港、中国电信湖北分公司、湖北大数据集团和北京国际算力服务有限公司 等。

截至目前,清昴已联合 20余家算力中心 开展运营,积累近 2万张国产卡 的调度经验,完成了15款以上国产芯片的适配优化,并推进了近10套昇腾910C超节点落地。

新一代硬件也有了落地进展。作为 华为首批950DT超节点合作伙伴 ,清昴披露,多套昇腾950算力已经落地武汉、芜湖等地机房,相关全栈适配与运营能力正在建设中。

这些跨芯片、跨中心的实践经验,也让清昴有机会通过昇腾950DT平台,将Token生产能力铺向更大的算力网络。

传统智算中心的扩张,往往伴随着大量芯片采购、机房建设和配套投资。企业投入多少资本,很大程度上决定了能够掌握多少计算资源。

清昴则通过联合运营参与Token生产,让算力服务的扩张不再完全依赖自有设备数量, 技术效率、资源组织和客户交付能力 的重要性随之提高。

不过,万卡规模只是基础。同样是一万张卡,模型适配效率不同、资源调度水平不同,最终能够交付的Token产量与质量往往相去甚远。

清昴智能创始人、首席执行官关超宇,提出了衡量Token工厂实力的核心验收标准: 多、快、好、省。

这四项标准最终指向同一个目标——在既定的服务质量下, 让有限的计算资源持续产出更多高质量Token 。

而在国产算力快速扩张的当下,要让一座万卡工厂真正高效运转,实际还有大量的工程难题横亘其间。

模型一日千里,硬件却有自己的生长周期。一款芯片从规划、研发到发布,可能需要三年左右。但短短一年多,模型规模、上下文长度、推理方式及客户对响应速度的要求,就可能发生巨大变化。

更何况,国产算力正呈现多元化发展格局。不同芯片拥有不同的架构和软件栈,新模型投入使用,往往还需要经过兼容、算子调优和性能验证。

北京智源人工智能研究院副院长兼总工程师林咏华认为,国内已经拥有不少优秀的芯片团队,产业更需要完善的是 让不同硬件共享技术成果、协同发展的软件体系 。

真实业务里,长短请求大多混杂,并发量不断波动,Agent还会在复杂任务中反复调用模型,产生大量长上下文和缓存需求。

固定的模型部署与调度方案,很难始终匹配这样的负载变化。芯片即便完成部署,仍需要持续优化并行策略、缓存管理和资源分配,才能充分释放计算能力。

芯片厂商关注计算性能,算力中心关注卡数和资源利用率;真正购买模型服务的客户,却更加关心Token吞吐量、响应时延、服务稳定性和实际成本。

尤其是Agent应用,单次任务可能涉及多轮推理与工具调用,中间某个环节发生故障,就会影响整个流程。

模型适配决定芯片能否高效运行,资源调度影响已有算力能够释放多少性能,服务质量则关系到Token能否真正进入企业生产。

一座成熟的Token工厂,需要将这些原本分散的工程能力组织起来,让每一张芯片产生的计算能力,最终变成稳定、可预期的Token产出。

大型云厂商已经将Token服务纳入AI基础设施布局。它们拥有庞大的算力资源、客户网络和成熟的服务体系,部分企业还将自研芯片、基础模型与应用流量组织在同一生态内。

另一边,很多独立企业也在围绕高性能推理、异构算力调度和模型服务拓展市场,依靠底层效率与跨平台能力参与竞争。

而要在这场竞争中立足,清昴必须凭借软件优化与专业化运营,让分散在不同企业手中的国产算力创造更高的实际产出。

关超宇在清华大学研究自动机器学习,曾带队研发自动图学习开源项目AutoGL;姚航曾在华为担任资深工程师,带队研发IC硬件,长期专注国产芯片适配。

清昴的创始团队成员也大多来自 清华大学计算机系 ,在自动机器学习、模型压缩和边缘计算等方向拥有技术积累。

最初,清昴致力于提高AI模型在不同芯片上的运行效率。国产芯片与大模型加速发展后,这项研究逐渐扩展到更大规模的算力集群。2024年,华为旗下哈勃投资入股清昴,公司业务也进一步向国产算力优化延伸。

但随着集群规模的扩大,整体效能和稳定交付又成了新的挑战。清昴的技术体系随之扩展,逐渐形成两套核心软件。