核心原理似乎是一道编程题：在无环有向图(Directed Graph)中， 每个节点记录了所有前向节点。自动梯度相当于：从叶子结点出发，使用拓扑排序遍历所有父节点，每个节点上存有一个函数，当遍历该节点时，调用函数更新节点上的一个数值。 题中提到的“一个函数”是反向求导函数，“一个数值”即梯度。 原理大概就是这个，下面展开讲一下。 先看两个基本问题： ...