电子行业AI的进击时刻22:MRDIMM和CXL增加AI服务器内存-251026-广发证券

2025-10AI大模型12📊 张大伟并非香港证券及期货免费

报告维度

📄 文件全名
电子行业AI的进击时刻22:MRDIMM和CXL增加AI服务器内存-251026-广发证券-12页.pdf
🎯 适合读者
战略规划行业研究员
📊 核心数据
  1. AI 的进击时刻 19:AI 推理驱动存储需求增长,SPD&VPD 芯片空间广阔
  2. 载至 CXL 可使 batch size 提高 30%、GPU 需求降低 87%、prefill 阶段 GPU 利用率提升 7.5 倍;
  3. 间做内存池化,将部分 KV Cache 从昂贵的 GPU 显存弹性卸载到 CXL 设备,在不增加 GPU 成本前提下扩大
  4. (3)解耦式 KV Cache 架构:在字节跳动 LLM 服务栈中,将 KV Cache 卸
  5. 数据来源:Wind、广发证券发展研究中心
🏷️ 核心议题
#大模型#LLM
📦 本报告属于月份合集
购买后将获得「2025 年 10 月报告合集 · 共 3892 份报告打包下载链接
点击获取云盘下载链接

报告摘要

MRDIMM 和 CXL 增加 AI 服务器内存。 如何同时提升并平衡 AI 服务器的内存容量扩展与性能成为当前架构演 (2)不同应用与负载的内存需求差异明显,

📋 核心要点(部分)

  1. 2025 年 10 月 26 日
  2. 分析师:
  3. 1 / 12
  4. 重点公司估值和财务分析表

❓ 常见问题

《电子行业AI的进击时刻22:MRDIMM和CXL增加AI服务器内存-251026-广发证券》主要包含哪些内容?

MRDIMM 和 CXL 增加 AI 服务器内存。 如何同时提升并平衡 AI 服务器的内存容量扩展与性能成为当前架构演 (2)不同应用与负载的内存需求差异明显,核心数据:AI 的进击时刻 19:AI 推理驱动存储需求增长,SPD&VPD 芯片空间广阔;载至 CXL 可使 batch size 提高 30%、GPU 需求降低 87%、prefill 阶段 GPU 利用率提升 7.5 倍;;间做内存池化,将部分 KV Cache 从昂贵的 GPU 显存弹性卸载到 CXL 设备,在不增加 GPU 成本前提下扩大。

这份报告由哪家机构发布?

本报告由张大伟并非香港证券及期货发布,发布于 2025 年。

这份报告覆盖哪一年、篇幅多大?

覆盖 2025 年,全文约 12。

这份报告是免费的吗?如何获取?

本报告免费查阅,登录资料宝后即可在线获取完整内容。

这份报告适合哪些读者?

适合战略规划、行业研究员等读者参考。

报告涉及哪些关键议题?

重点分析了大模型、LLM等议题。

同分类推荐

📱 登录