计算机行业动态研究:CPU,AI推理时代的核心器件,涨价或是必然
聚焦计算机行业动态研究:CPU,AI推理时代的核心器件,涨价或是必然。MoE 解决了“ 如何高效计算 ”的问题,Engra m架构试图解决 “如何高效存储与提取知识 ”的难题:(1 )模型性能突破 :DeepSeek 设计实体模块 Engram 来实现字典检索 ,将自然语言处理( NLP )领域经典的 N-gram(N 元语法)模型转化为一种可学习的、基于哈希( Hash )的向量检索系统,该模块被嵌 入Transformer 的主干网络中,与 MoE 层并行或交替工作。报告认为, “ 查算分离” 架构或将提升 CPU 在推理过程的协同与调度价值。目前超节点架构中 ,CPU 与 GP U的数量比普遍是 1:4 或者 1:2 ,报告认为未来该比例有望进一步加大 。