从统计机器学习视角理解深度学习：算法、理论与可扩展计算（2018）

报告摘要

本报告由Petuum Inc与卡内基梅隆大学联合推出，从统计机器学习视角系统梳理深度学习的核心算法、理论基础与可扩展计算框架。内容涵盖图形模型、大间隔方法、稀疏编码、贝叶斯非参数等经典模型，以及随机梯度下降、坐标下降、L-BFGS、吉布斯采样等优化算法，并对比了深度学习与传统机器学习的异同。报告还涉及分布式系统实现（如Hadoop、Spark、TensorFlow）和硬件平台（GPU、FPGA、TPU）。适合机器学习研究员、深度学习工程师、数据科学家及AI系统架构师，帮助建立从统计学习到现代深度学习的完整知识图谱。

📋 报告目录

1. 任务与模型概述
2. 算法（SGD、坐标下降、L-BFGS等）
3. 系统实现（MapReduce、BSP、Async）
4. 硬件平台（GPU、FPGA、TPU）
5. ML vs DL对比