8月14日晚间,晚点Auto援引多个信源消息称,理想汽车正在探索自研云端推理芯片,将采用与智驾芯片相同的数据流架构,项目仍处早期阶段。
业内人士指出,云端推理芯片可承接部分原本在GPU上运行的推理任务,包括智驾模型的数据处理、测试、仿真,以及大语言模型的请求处理。模型训练中涉及参数更新的部分,仍需训练芯片。
技术路径上,可复用车端NPU计算设计,将多个AI计算晶粒封装在一起,配套高带宽内存和高速互联,组成规模更大的推理芯片,从而车端和云端复用部分设计和软件工具,分摊研发成本。
今年早些时候,理想汽车亮相ISCA 2026,发表题为《马赫M100:面向通用AI计算的编排式数据流架构》的主题演讲。马赫M100是全球首款基于数据流架构的大算力端侧推理芯片,采用5nm车规级工艺,单芯片算力1280TOPS。
