您的位置：首页 > 其它

向量求导公式

2016-12-15 16:00 302 查看

最近在看吴恩达的视频啊、LDA啊、PCA啊，觉得很有必要将向量求导公式复习一下，要不感觉算的时候怪怪的~

矩阵Ｙ对标量ｘ求导：对每个元素求导后转置一下，M*N矩阵求导后变成N*M

$Y = [y_{ij}] \to dY/dx = [dy_{ij}/dx]$

标量y对列向量X求导：求偏导，不转置，对N*1向量求导后还是N*1向量

$y = f(x1,x2,...,xn) \to dy/dX = [dy/dx1,dy/dx2,...,dy/dxn]'$

行向量Y’对列向量X求导：将Y的每一列对X求偏导，1*M向量对N*1向量求导后是N*M矩阵

重要结论：

$dX'/dX = I_{N*N}$

$d(AX)'/dX = A'$

列向量Y对行向量X’求导：行向量Y’对列向量X的导数，然后转置；M*1向量对1*N向量求导结果为M*N矩阵

$dY/dX' = (dY'/dX)'$

向量积对列向量X求导运算法则：

$d(UV')/dX = (dU/dX)V' + U(dV'/dX)$

$d(U'V)/dX = (dU'/dX)V + (dV'/dX)U'$

重要结论：

$d(X'A)/dX = (dX'/dX)A + (dA/dX)X' = IA + 0X' = A$

$d(AX)/dX' = (d(X'A')/dX)' = (A')' = A$

$d(X'AX)/dX = (dX'/dX)AX + (d(AX)'/dX)X = AX + A'X$

矩阵Y对列向量X求导：将Ｙ对Ｘ的每一个分量求偏导，构成一个超向量，注意该向量的每一个元素都是一个矩阵

矩阵积对列向量求导法则：

$d(uV)/dX = (du/dX)V + u(dV/dX)$

$d(UV)/dX = (dU/dX)V + U(dV/dX)$

重要结论：

$d(X'A)/dX = (dX'/dX)A + X'(dA/dX) = A$

标量y对矩阵X的导数：把y对每个X的元素求偏导，不用转置

$dy/dX = [dy/dx_{ij}]$

重要结论：

$y = U'XV = \sum\sum u_i x_{ij} v_j /to dy/dX = UV'$

$y = U'X'XU /to dy/dX = 2XUU'$

$y = (XU-V)'(XU-V) /to dy/dX = d(U'X'XU - 2V'XU + V'V)/dX = 2XUU' - 2VU' = 2(XU-V)U'$

矩阵Ｙ对矩阵Ｘ的导数：将Y的每个元素对X求导

内容来自用户分享和网络整理，不保证内容的准确性，如有侵权内容，可联系管理员处理

标签： 向量求导

相关文章推荐

新的分享

章节导航