计算机行业动态报告:ARM产业链为何是GPU与CPU协同关键受益者
聚焦计算机行业动态报告:ARM产业链为何是GPU与CPU协同关键受益者。2)吞吐量提升遭遇双重瓶颈:系统效率上限一方面受 GPU 显存容量限制——批大小提升到一定阈值后 KV Cache 占用显存过高,吞吐量进入饱和区间;另一方面受 CPU 调度瓶颈限制——多核 CPU 常出现核心未完全占满时吞吐量提前饱和的情况,批大小从 64 提升到 128 时,LangChain 负载的 CPU 端摘要任务时延可从 2.9 秒上升到 6.3 秒,核心超分导致上下文切换开销大幅增加。3)能耗结构失衡:大批次场景下 CPU 能耗占比显著提升,批大小为 128 的LangChain 负载中,CPU 动态能耗占总动态能耗比例可达 44%,单纯依赖 CPU多进程并行提升吞吐量会拉低整体投资回报率。