最优化理论（一）梯度直观理解

参考：https://www.zhihu.com/question/26966355/answer/154857139，直接看后面的评论，前面的太复杂了，有能力的可以看看！！

参考：https://blog.csdn.net/lanchunhui/article/details/51371444 ----------理解，自己看书吧。

引出 梯度：是一个矢量，其方向上的方向导数最大，其大小正好是此最大方向导数。

例子引出：

数学定义： 注：因为这里举的例子是水滴往下滑，所以要说多说明一下，往下滑是梯度的反方向。因为梯度指的是增长最快的方向，而往下滑是减少最快的方向。

这个最大值的方向我们就取名为梯度方向。最大方向导数的值是多少这个问题，我没有找到特别直观的方法来说明。我也不想给出计算步骤，要不看起来和数学书也没啥区别。大家自己去查找计算过程吧。

方向导数是各个方向上的导数； 偏导数连续才有梯度存在； 梯度的方向是方向导数中取到最大值的方向，梯度的值是方向导数的最大值

参考链接：https://www.matongxue.com/madocs/222/