电子行业AI的Memory时刻7:SRAM提升AI推理速度
聚焦电子行业AI的Memory时刻7:SRAM提升AI推理速度。根据Cerebras 官网,其晶圆级引擎 3(WSE-3)芯片集成 44GB SRAM,片上存储带宽达 21 PB/s,在OpenAI GPT OSS 120B 推理任务中实现>3000 tokens/s 的输出速度,较主流 GPU 云推理快约 15×。根据 Groq 官网、半导体行业观察公众号数据,2025 年 12 月,英伟达斥资 200 亿美元获得 Groq 的知识产权的非独家授权,其中包括其语言处理单元(LPU)和配套软件库,并引入 Groq 核心工程团队。AI 的 Memory 时刻,AI 记忆持续扩展模型能力边界,AI Agent 等应用加速落地。