梯度与导数的关系

   梯度可谓是多元函数中一个基本的名词。它的物理意义我们都很清楚或者教材也都会介绍：方向指向数值增长最快的方向，大小为变化率。通过这个性质也说明梯度是有方向和大小的矢量。通过梯度的定义我们发现，梯度的求解其实就是求函数偏导的问题，而我们高中所学的导数在非严格意义上来说也就是一元的“偏导”。通过这一点我们自然而然地想到梯度应该是导数向更高维数的推广。然而一我一直想不明白的是：

  梯度是矢量而某点的导数是个常量，两者应该有本质的区别，而导数的正负也反映了函数值的大小变化，而不是一直指向数值增大的方向。

 在此我们通过一张图来说明解释一下两者的关系：



其实一元函数肯定也有梯度，我们经常不提及的原因其实很简单：一元函数的梯度方向自变量轴（x）！而导数值的正负号决定了这个方向是正方向还是反方向。如图所示，A点右＂领域＂的导数为正值，则梯度的方向跟x轴正方向一致，梯度方向指向数值增大的方向；相反在B点右＂领域＂，导数为负值，则梯度的方向为x轴的负方向，梯度方向也是指向数值增大的方向。通过这个例子向多维函数推广，梯度从数值小指向数值大的物理意义也就容易理解了。而一元函数的大小自然也就是导数的绝对值。