自动微分

机器学习常常转换为最优化问题。最优化问题往往没有闭式解,一般使用梯度下降法求解。梯度下降法需要用微分求梯度,自动微分是各个机器学习框架都支持的。

,
#add by kangyabing