电子行业AI的进击时刻24:AI推理上下文存储平台利好SSD
聚焦电子行业AI的进击时刻24:AI推理上下文存储平台利好SSD。该平台基于 BlueField-4 与 Spectrum-X Ethernet 加速,与 NVIDIA Dynamo 和 NVLink 紧密耦合,实现内存、存储、网络之间的协同上下文调度,该平台将上下文作为一等数据类型处理,可实现 5 倍的推理性能、5 倍的更优能效。根据我们外发的报告《AI 的进击时刻 21:AI&存储服务器用 eSSD 空间广阔》,根据 Nvidia NVL72 by HPE 白皮书,每个计算 tray 的缓存盘总容量为 30TB(由 8 块 3.84TB NVMe SSD 组成),操作系统盘为 1 块 1.92TB NVMe SSD,即单 GPU 对应 2 个本地 SSD 卡槽。