电子行业AI的进击时刻22:MRDIMM和CXL增加AI服务器内存-251026-广发证券
2025-10AI大模型12📊 张大伟并非香港证券及期货免费
报告维度
- 📄 文件全名
- 《电子行业AI的进击时刻22:MRDIMM和CXL增加AI服务器内存-251026-广发证券-12页.pdf》
- 🎯 适合读者
- 战略规划行业研究员
- 📊 核心数据
- AI 的进击时刻 19:AI 推理驱动存储需求增长,SPD&VPD 芯片空间广阔
- 载至 CXL 可使 batch size 提高 30%、GPU 需求降低 87%、prefill 阶段 GPU 利用率提升 7.5 倍;
- 间做内存池化,将部分 KV Cache 从昂贵的 GPU 显存弹性卸载到 CXL 设备,在不增加 GPU 成本前提下扩大
- (3)解耦式 KV Cache 架构:在字节跳动 LLM 服务栈中,将 KV Cache 卸
- 数据来源:Wind、广发证券发展研究中心
- 🏷️ 核心议题
- #大模型#LLM