跳转到主要内容

芯擎X7 Ultra:700TOPS算力,为端到端大模型量身定做

芯擎科技发布X7 Ultra:为端到端大模型而生的智驾芯片

10月29日,芯擎科技(XHEART)正式亮出了新一代智能驾驶大模型芯片——X7 Ultra。当整个行业还在从传统小模型向“端到端大模型”艰难转身时,芯擎科技直接喊出了“大模型定义芯片”的口号。

这可不是随便说说。从公司成立那天起,他们就决定从真实量产模型的底层需求出发,倒推芯片设计——计算架构、内存方案、数据流,全部重新来过,同时为未来模型的持续进化预留了充足空间。

700 TOPS,99.99%对齐度

先看硬指标。X7 Ultra的大模型算力达到700 TOPS,针对量产模型的实测对齐度高达99.99%。这意味着什么?简单说,芯片跑大模型时几乎不丢精度,模型说啥就是啥。

架构上,它采用超大核NPU设计,核内数据交互速度比传统核间交互提升了TB/s级别。再加上多级缓存架构,大容量和高并发兼得,推理时的延迟和功耗都被有效压了下来。

Image

为什么是“为端到端大模型量身定做”?

传统智驾芯片往往是为多个小模型拼凑的方案设计的,而端到端大模型需要的是完全不同的底层支撑。芯擎科技的做法是:先看模型需要什么,再决定芯片长什么样。这种“倒推”思路,让X7 Ultra在应对大模型推理时更加游刃有余。

当然,芯片只是起点。随着模型不断迭代,X7 Ultra预留的扩展空间能否真正兑现,还需要市场和时间的检验。但至少,芯擎科技迈出了大胆的一步。

关键点:

  • 芯擎科技发布X7 Ultra智驾芯片,算力700 TOPS,量产模型对齐度99.99%
  • 采用超大核NPU架构,核内交互速度提升至TB/s级别,多级缓存降低延迟和功耗
  • 核心理念“大模型定义芯片”,从底层需求倒推设计,为未来模型进化留足空间
  • 能否在端到端大模型时代站稳脚跟,拭目以待