计算机行业专题研究:国产大模型“凭”什么降价?-240610-华泰证券
2024-06AI大模型21免费
报告维度
- 📄 文件全名
- 《计算机行业专题研究:国产大模型“凭”什么降价?-240610-华泰证券-21页.pdf》
- 🎯 适合读者
- 战略规划行业研究员
- 📊 核心数据
- 将占用 HBM 相当大的空间,导致用户并发性下降,且解码耗时更长。
- 并发性下降,还将带来新的问题,即需要从 HBM 上“卸载”暂时不用的 KV
- 比,KV cache 可以减少 90%以上。
- 此外,还可以发现,降价幅度较大(80%以
- 🏷️ 核心议题
- #大模型