汽车行业深度报告:AI系列深度16期,语言智能为何从RNN转向Transformer?
聚焦汽车行业深度报告:AI系列深度16期,语言智能为何从RNN转向Transformer?。RNN 通过隐藏状态沿时间步传递上下文,适合文本、语音等顺序数据,并在 LSTM/GRU、Seq2Seq 和 Attention-RNN 推动下,于 2014—2016 年达到机器翻译等任务的工程高峰;但其串行计算、长距离依赖衰减和固定向量瓶颈,决定了递归范式很难继续承载大模型时代的规模化路线。报告认为,数字 AI 底座模型发展路径已逐渐清晰、价值在于确定性,但其难以实现物理世界的建模闭环;报告认为物理 AI 将成为物理世界的AI 解决方案,从而在 AI 的当前发展阶段成为增量更大的方向,智能驾驶作为最先跑通闭环的代表场景,报告认为应重点关注。