电子行业“AI的裂变时刻”系列报告3：为什么H20的推理性价比高？-240317-广发证券

2024-03AI大模型14📊 任思儒并非香港证券及期货免费

📄 文件全名: 《电子行业“AI的裂变时刻”系列报告3：为什么H20的推理性价比高？-240317-广发证券-14页.pdf》
🎯 适合读者: 战略规划行业研究员
📊 核心数据: 持有人角度，由于 H20 在推理全程平均 Throughput（Tokens/s）高，使得每 Token 平摊的系统硬件成本下降；
无论是 H20 的用户体验、还是持有性价比，都会出现明显下降。
NVIDIA H20 和 L20 是 NVIDIA 为中国市场定
制的算力芯片产品，为满足美国出口管制条例要求，两款产品的核心算力参数均大幅阉割；
INT8 等主要算力参数仅为 A100 的不足 1/2，更是仅为 H100 的约 1/7；
🏷️ 核心议题: #大模型#大语言模型#语言模型

📦 本报告属于月份合集

购买后将获得「2024 年 3 月报告合集」 · 共 3061 份报告打包下载链接

点击获取云盘下载链接

报告摘要

⚫ 根据推算，H20 推理性能超过 H100，L20 推理性能比肩 L40S。 NVIDIA H20 和 L20 是 NVIDIA 为中国市场定制的算力芯片产品，为满足美国出口管制条例要求，两款产品的核心算力参数均大幅阉割；

📋 核心要点(部分)

1 / 14
分析师：王亮分析师：耿正分析师：任思儒
2 / 14
3 / 14
四、H20 在多数推理场景中性能优异、性价比高，但也存在特殊情况 .............................. 8

❓ 常见问题

《电子行业“AI的裂变时刻”系列报告3：为什么H20的推理性价比高？-240317-广发证券》主要包含哪些内容?

⚫ 根据推算，H20 推理性能超过 H100，L20 推理性能比肩 L40S。 NVIDIA H20 和 L20 是 NVIDIA 为中国市场定制的算力芯片产品，为满足美国出口管制条例要求，两款产品的核心算力参数均大幅阉割；核心数据:持有人角度，由于 H20 在推理全程平均 Throughput（Tokens/s）高，使得每 Token 平摊的系统硬件成本下降；;无论是 H20 的用户体验、还是持有性价比，都会出现明显下降。;NVIDIA H20 和 L20 是 NVIDIA 为中国市场定。

这份报告由哪家机构发布?

本报告由任思儒并非香港证券及期货发布,发布于 2024 年。

这份报告覆盖哪一年、篇幅多大?

覆盖 2024 年,全文约 14。

这份报告是免费的吗?如何获取?

本报告免费查阅,登录资料宝后即可在线获取完整内容。

这份报告适合哪些读者?

适合战略规划、行业研究员等读者参考。

报告涉及哪些关键议题?

重点分析了大模型、大语言模型、语言模型等议题。