10 月 28 日-29 日，以 “存力筑基・共启 AI 新机遇” 为主题的 2026 数据存储产业大会在郑州举行，大会由中国电子工业标准化技术协会主办、中电标协数据存储专委会协办。会上，XSKY 星辰天合 “AI 推理 KV Cache 存储加速实践” 入选 2026 年度数据存储行业创新实践案例，同时作为参编单位，参与《数据存储产业发展研究报告（2026 年）》十大核心趋势研判及《人工智能存储系统能力要求》《大模型推理存储系统技术要求》两项 AI 存储团体标准的编制。

创新驱动，破解推理“内存墙”

大模型从训练走向推理，长上下文正在成为企业 AI 应用的主要形态。从 AI 编码、知识库问答到多轮 Agent 工作流，KV Cache 随上下文长度急剧膨胀，持续挤占 NPU 显存与主机内存 —— 算力空等数据、推理成本高企，“算力够不够” 的矛盾，正在变成 “数据能不能喂饱”。

XSKY 本次入选的案例，直面长上下文推理的核心痛点，通过缓存解耦与共享存储池，为 AI 推理基础设施提供了一条可落地的生产路径。方案已形成从规划到上线的可复制交付方法，支持 GPU、昇腾 NPU 及其他异构算力环境。

以存代算，把KV Cache交给存储，把算力还给推理

XSKY 的解法，是把 KV Cache 从 NPU 显存中解耦释放，下沉至国产 910C 算力节点的 NVMe 共享存储池。在国产算力集群上完成生产级 KV Cache 卸载，也是这个案例最直接的自主可控实践。

架构设计｜从 “缓存跟算力走” 到 “缓存进存储池”

MeshFusion 以自研的 KV Cache 管理引擎与存储池协同，将缓存异步卸载至 910C 节点的 NVMe 共享池：多个推理节点复用同一份缓存、避免重复 Prefill；扩容只需增加存储节点、无需改造计算节点；节点故障或容量不足时，缓存自动转为全局共享访问 —— 推理节点不再为缓存容量 “买单”。

技术实现｜为推理缓存定制的数据路径

存储侧以原生 Chunk 语义与用户态零拷贝 I/O 缩短数据路径；本地亲和调度与智能选路兼顾 “本地 SSD 低时延” 与 “跨节点共享”；针对 KV Cache 高频写删的特性，采用顺序追加写与 Chunk 级整块 TRIM，保护 SSD 寿命。

工程保障｜三层容错，分层兜底

可靠性上，KV Cache 是推理过程中可重算的派生数据，容错不必按业务数据标准：常态本地亲和，本地盘或节点异常时秒级切换至全局 EC 4+2 降级写入，缓存读取失败由推理引擎重算兜底——缓存故障不阻塞在线请求，存储恢复后自动补齐。

生产环境按 9 节点集群规划，其中 8 个节点加入 KV Cache 存储池；上线前完成了完整的故障切换验证。这也是方案能够在电信运营商生产环境完成上线的原因。

数据验证，上下文越长，收益越明显

测试数据显示，128K 长文本场景下，首字时延（TTFT）从 163.5 秒降至 12.7 秒，推理吞吐（TPS）达到不卸载方案的 4.22 倍；32K、64K 上下文下，吞吐分别达到 2.71 倍、3.44 倍——上下文越长，提速越明显。

对用户而言，首字等待从“两分四十三秒”缩短到“十二秒”。原本难以成立的长文档理解、代码助手与多轮 Agent 应用，由此具备可用性。

以实践赋能产业，共筑 AI 存储新基线

案例之外，XSKY 同时作为参编单位，参与《数据存储产业发展研究报告（2026 年）》十大核心趋势研判及《人工智能存储系统能力要求》《大模型推理存储系统技术要求》两项 AI 存储团体标准的编制。KV Cache 卸载落地要回答的问题——缓存卸到哪里、性能怎么测、故障怎么兜底——正是这些标准正在定义的核心议题：实践者写标准，标准来自实践。

面向未来，XSKY 星辰天合将持续深耕 AI 推理存力与国产化存储生态，依托 AIMesh“数据与内存网”的战略布局，让更多推理场景以更低的成本获得更高的吞吐与更短的首字时延，与产业伙伴一道，共启 AI 存储新机遇。