前向与反向传播 前向传播 指对神经网络沿着从输入层到输出层的顺序，依次计算并存储模型的中间变量 反向传播 指计算神经网络参数梯度的方法 一句微积分中的链式法则，沿输出层到输入层的顺序，以此计算并存储目标函数有关神经网络各层的中间变量及参数的梯度 参考视频：【官方双语】深度学习之反向传播算法 上/下 Part 3 ver 0.9 beta_哔哩哔哩_bilibili