计算机行业动态报告:再谈ARM为何受益GPU与CPU协同
聚焦计算机行业动态报告:再谈ARM为何受益GPU与CPU协同。Ampere AI 推理优化框架(AIO)专为 AmpereOne 云原生处理器设计,通过与 AmpereOne 平台的深度协同优化,在 SLM 和 MoE 模型推理场景中实现低成本与高能效的双重突破。Fedimoss AITHER 跨环境推理云已实现 ARM CPU 与 GPU 异构协同:MoE 模型中 Attention+共享专家常驻 GPU、路由专家卸载至 CPU 内存;三级协同使 KV Cache 内存消耗增长显著慢于上下文长度增长;"GPU Prefill + CPU Decode"架构进一步提升异构集群整体资源利用率,降低 LLM 服务长期 TCO。建议重点关注集智股份、中国长城、禾盛新材、广合科技等。