互联网传媒行业·英伟达GTC点评:推理效率革新与agent共振,打开万亿市场空间
聚焦互联网传媒行业·英伟达GTC点评:推理效率革新与agent共振,打开万亿市场空间。德勤预计全球推理负载占 AI 算力比例将从2023 年的约 1/3 提升至 2026 年的约 2/3,长期有望超过 80%。模型API价格持续下降,主流模型推理成本较2023 年下降超过一个数量级,成本效率与响应速度正成为 AI 应用落地的关键竞争要素。Vera Rubin 计算平台集成 Vera CPU、Rubin GPU 与 NVLink-72 互联等 7 款芯片,通过系统级协同设计显著提升推理效率,推理性能较上一代提升约 35倍,token 生成速率实现 350 倍增长。