芯片名字叫 X7 Ultra ,只看算力数值,在2026年底已经不能算“极致”了—— 700 TOPS 。
它想表达的是:X7 Ultra的确有更高的推理效率,但没有放任量化误差无限扩大,而是要求量化后的模型输出尽可能贴近FP32模型。
因为大模型实在太能吃算力、内存和功耗了,把模型权重和计算精度压下来的主要途径,就是减少存储与计算开销。但压得太狠,输出也可能出现偏差。
第二个指标,是 NPU计算利用率达到98.7% ,意味着芯片里的AI计算单元,在运行测试任务时,绝大部分时间都在执行有效的计算工作,闲置时间很少。
这通常也意味着芯片架构、数据传输和软件调度之间配合得比较好,计算单元不容易因为等数据、等指令而空转。
过去谈TOPS,多用稠密算力或稀疏算力,这些概念可以说明芯片的理论计算能力,却很难单独回答一个更贴近实际体验的问题:把真正用于智能驾驶的模型放上去,究竟能跑多快、跑得有多稳?
但真实智驾大模型涉及复杂的网络结构、不同类型的算子、频繁的数据读写,以及多种计算任务之间的调度;只追求某个环节跑得很快意义有限,因为其他环节却因为等待数据、内存带宽不足或调度效率不高而拖慢整体速度。
“大模型算力”的评测思路,是直接使用真实量产智驾模型测试芯片 ,而不是只依赖实验室基准测试。
这套评测还有另外几项明确约束:模型结构不能随意改变,计算精度必须得到保证,最终驾驶体验也不能打折,芯片需要在这些条件都成立的情况下,尽可能提高模型运行效率。
这就是“大模型算力”想要衡量的东西:在真实量产模型和严格部署约束下,芯片究竟能提供多少的计算能力,让性能数字更准确描述智驾系统实际要完成的工作 。
新芯航途 —— XHEART ,两家公司没有直接的股权隶属关系,只是Momenta创始团队成员曹旭东、夏炎通过控股股东间接持有新芯航途股份。
和Momenta属于“姐妹公司”,第一款量产产品X7其实已经在上汽大众的新车上量产,但这次的X7 Ultra发布是新芯航途第一次正式对外亮相。
摄像头和激光雷达把数据送进来,模型开始一层层计算,最后形成感知与驾驶决策所需的信息,整套流程必须在有限时间里跑完。
问题是,芯片内部很容易出现一种尴尬局面:计算单元明明很强,却在等数据;某些算子算得飞快,另一些操作却拖住了整条链路;以及传感器数据越来越多,前端处理又排起了长队。
模型规模扩大后,大量计算任务需要组织起来执行,计算单元之间也会交换数据 ,超大核能配合更高效的互连,减少协作过程中的损耗,让计算资源更连贯地工作。
但矩阵计算快了,还不等于整个模型就快了,因为神经网络里还有不少“配角”算子,例如LayerNorm、Softmax和Transpose等等。
它们未必贡献最多的计算量,却可能反复出现在模型执行路径上,一个算子处理得慢,后续计算就得等着“接棒”。
X7 Ultra为这类操作配置了专用计算引擎 ,相当于把模型里的高频任务单独安排了工位,减少通用计算资源被这些操作占住的时间。
模型在芯片上运行,需要经过编译和调度,但如果每个操作都独立执行,中间结果不断写回外部内存,再重新读出来,计算单元会白白浪费大量时间等数据。
X7 Ultra,或者说新芯航途为所有芯片构建了统一解决方案——AI工具链 ,通过计算图融合、并行执行和任务调度,把能够合并的计算尽可能连起来,减少中间数据来回搬运。
体现在这一款产品上,X7 Ultra的内存带宽消耗对比常见产品下降80%,能效提升100%——这两项数据对应的,正是减少数据搬运、提高计算资源利用效率的设计目标。
拿激光雷达来说,线数增加之后,同一场景会产生更密集的点云,细节更丰富,处理量也跟着涨;再比如,摄像头链路还有一个容易被忽略的问题:时延抖动。
X7 Ultra上针对性给出了方案,比如处理子系统中加入专用激光雷达加速器,每秒可处理2000万点,能够支持千线级激光雷达的点云处理需求。
针对摄像头处理链路,则优化了本地多核处理和流水线控制,处理稳定性相比传统方案提高100%。
相比上一代,内核性能提升20%、能效提升10%,并优化了向量处理、多核协同和L3缓存访问。
最后一关是安全 ,X7 Ultra的SoC达到ASIL-B标准,集成MCU达到ASIL-D,承担不同层级的功能安全任务,为故障监测、控制和异常处理提供硬件基础。
把这几项设计连起来看,X7 Ultra并不是只盯着NPU往上堆算力,是把计算、数据搬运、传感器处理和系统调度一起安排好:
早在自动驾驶还处于“刀耕火种”,也就是依赖高精地图+规则的年代、行业把“开城”作为黄金指标的年代,Momenta的CEO 曹旭东 就一直在行业里反复布道:数据飞轮、两条腿走路……
而他当年和大部队“格格不入”的认知,现在变成了公认的技术共识:端到端、无图、数据驱动、强化学习、世界模型……
这也能直接解释为何Momenta能在英雄辈出的自动驾驶江湖脱颖而出,合作车企广度、车型数量、方案搭载量上都一枝独秀。
核心定义是 智驾模型的能力持续增长,计算架构也需要跟着模型一起演进 ,由此,智驾摩尔定律也需要重新评估。
这样的认知成型于2022年,并且在2023年由新芯航途开始实践,时间点对应的,是自动驾驶技术体系经历的快速深刻底层重构。
硬件层面,量产L2规模效应开始起作用,传感器、芯片成本快速下降,“超大杯”配置的智能方案,有了上车量产的基础。
模型层面,数据驱动的范式快速取代传统方法,不但是Transformer架构,模型本身迭代优化,也由人工调参和规则约束,变成了大规模、有特定分布特征的数据回灌,驱动强化学习。
而基于Transformer的端到端智驾模型,本质是通过海量数据学习环境表征、时序关系和驾驶决策。模型需要处理的内容越来越复杂,既要理解当前道路环境,也要结合连续时刻的信息判断车辆、行人和其他交通参与者的行为,最终形成驾驶动作。
世界模型则进一步强调对物理世界状态及其未来变化的预测,让系统具备更强的环境理解与未来推演能力。
曹旭东认为,自动驾驶的规模化落地,对应的端侧模型,可能需要达到至少10B、甚至100B参数级别,这样的才有可能让真正的L4落地部署规模百万级起步。
模型参数规模只是其中一个维度,算子类型、数据访问方式、计算任务的并行关系,也会影响模型能否在车端实时运行。
这就把芯片需要面对的计算需求摆到了更大的量级上——同时满足功耗、车规可靠性和成本约束,细化到哪些算子值得做专用加速,哪些数据需要减少重复搬运,哪些计算任务适合并行处理……都必须在芯片设计阶段与模型架构协同考虑。
如果能把数据飞轮、两条腿走路、原生架构的芯片三者结合起来,模型进步就不再只依赖算法团队单点优化,底层硬件也开始围绕模型的实际需求共同演进。
正在加载评论…