京东广告联合华为鲲鹏 端到端推理时延降低15%

据钛媒体2026年10月26日报道，京东广告与华为鲲鹏合作，通过灵衢互联将四级缓存压成两级，建成300TB共享内存池，并重构RPC通信，使端到端推理时延降低15%。

京东广告面临生成式推荐带来的千倍算力需求与300毫秒时延红线之间的矛盾，其判断真正瓶颈在通算侧而非GPU。

该合作方案经618大促核心场景5%流量验证，KV Cache和RPC性能大幅提升；双方合作正从广告向搜推等场景外溢，并布局SuperCache、Agent沙箱等方向。