Scality 借助 RDMA 从对象存储直供键值缓存，AI 推理速度较重新计算提升 14 倍

推理瓶颈转移：键值缓存成为焦点

Scality AI 推理工厂公布了一项与对象存储相关的新进展：通过 RDMA 从对象存储提供键值缓存，其速度比重新计算快 14 倍。这一消息由 StorageReview.com 于 2026 年 10 月 8 日发布，属于本次新闻中已确认的核心信息。它指向一个正在成形的产业共识——当 AI 推理从实验室走向规模化部署，瓶颈不再只是 GPU 的峰值算力，而是数据在存储与计算之间的搬运效率。 在大模型推理中，键值缓存用于保存已计算的注意力状态，避免对相同上下文重复计算。随着上下文窗口不断拉长，键值缓存体积快速膨胀，挤占宝贵的显存资源。若将其卸载到外部存储并借助 RDMA 高速取回，理论上可以在不牺牲响应速度的前提下缓解显存压力。Scality 所宣称的“快 14 倍”，正是这一思路的量化体现。 需要说明的是，本次新闻未披露具体的 GPU 型号、网络带宽、键值缓存容量或测试环境细节，因此暂缺可核验数据，相关性能表现仍有待第三方复现与进一步确认。

对象存储与 GPU 直连的产业含义

将键值缓存放在对象存储而非本地显存或内存，意味着推理架构的层次正在重构。对象存储具备高扩展性和成本优势，但传统访问路径延迟较高，难以满足推理对时延的敏感需求。RDMA 的价值在于绕过 CPU 与内核协议栈，让数据在存储与加速卡之间直接传输，从而压缩延迟。这一组合如果成熟，可能改变 AI 推理集群中存储与算力的配比逻辑。 从产业背景看，AI 服务器与加速卡市场正处于高速扩张期。IDC 在 2024 年的全球 AI 服务器市场追踪中估算，AI 服务器支出持续保持高速增长，并预计到 2027 年前后仍将维持较高复合增长率。与此同时，Gartner 在 2024 年的半导体预测中指出，AI 相关芯片是拉动行业增长的主要品类。这些趋势为键值缓存优化类技术提供了需求土壤。 对存储厂商而言，切入 AI 推理数据路径，可能意味着从“冷数据仓库”向“推理数据平面”的角色升级。但这一转变能否带来可观的收入增量，取决于客户是否愿意为降低显存占用和提升吞吐而改造现有存储栈，目前尚无公开的规模化部署数据可供验证。

对算力成本与架构设计的影响

推理成本是当前 AI 商业化的核心变量之一。若键值缓存可以从对象存储高效取回，单卡可服务的并发请求数或上下文长度有望提升，从而摊薄单位推理成本。这对于需要在长上下文场景中运营的厂商尤其值得关注。不过，14 倍这一数字是相对于“重新计算”而言，并非相对于本地显存缓存，二者基准不同，不能简单解读为端到端推理性能提升 14 倍。 从半导体与加速卡视角看，此类技术可能间接影响 GPU 的显存配置策略。若外部存储可以承担部分缓存职责，加速卡对超大显存的刚性依赖可能边际减弱；但另一方面，高带宽 RDMA 网卡与高速交换机的需求可能上升。这种此消彼长，值得在下一代 AI 集群设计中持续观察。 根据 SEMI 在 2024 年发布的行业报告，全球半导体制造产能持续向先进制程与高带宽存储倾斜，反映的正是算力与数据搬运协同升级的产业方向。Scality 的进展是否会被主流推理框架与云厂商采纳，目前尚无明确信息，其生态整合能力有待进一步确认。

数据参考

• 本次新闻已确认数据：Scality AI 推理工厂通过 RDMA 从对象存储提供键值缓存，速度比重新计算快 14 倍；来源为 StorageReview.com，发布时间 2026 年 10 月 8 日。本次新闻未提供 GPU 型号、网络带宽、缓存容量等参数，暂缺可核验数据。
• 行业背景参考数据：IDC 全球 AI 服务器市场追踪（2024 年）估算 AI 服务器支出保持高速增长，并预计到 2027 年前后维持较高复合增长率。
• 行业背景参考数据：Gartner 半导体预测（2024 年）指出 AI 相关芯片是拉动行业增长的主要品类。
• 行业背景参考数据：SEMI 行业报告（2024 年）显示全球半导体制造产能持续向先进制程与高带宽存储倾斜。 #Scality #RDMA #键值缓存 #AI推理