PCA、最小平方差等中用拉格朗日求极值时对常见的一个f(x)=X'A'AX求导的证明
2012-11-29 13:30
183 查看
在PCA以及其它地方我们在求解极值的时候我们总是会遇到一个对形如X’A’AX的函数对X的求导,之前总是看到别人给出结果,今天认真的推导了下还真推导出来,我在这里把这个推到过程记录一下。
下面来证明一下,证明的过程中需要用到标量对列向量的求导公式,我这里给出一下:
证明:
则由公式(1)可以得到:
证毕!
其实按照定义来证明一点都不难,难在了不要上来把X的转置看成是X复合函数,这样就根本找不到这个复合函数的求导公式。想办法变成一个数对向量的求导,进而应用求导公式即可。
下面来证明一下,证明的过程中需要用到标量对列向量的求导公式,我这里给出一下:
证明:
则由公式(1)可以得到:
证毕!
其实按照定义来证明一点都不难,难在了不要上来把X的转置看成是X复合函数,这样就根本找不到这个复合函数的求导公式。想办法变成一个数对向量的求导,进而应用求导公式即可。
相关文章推荐
- 关于一个求最小交换次数的算法的一个严格证明,是严格证明,不是想当然
- 输入一个一维数组,最大的与第一个元素交换,最小的与最后一个元素交换,输出数组
- 设计、实现一个全国大城市间的交通咨询程序,为旅客提供三种最优决策方案:(1)飞行时间最短(2)总用时最短(3)费用最小(4)中转次数最少。
- 求序列最大/最小值出现的一个疏忽
- 使用Unity制作的一个望远镜特效,在狙击手游戏中很常见
- acdream 1031 Component(树中一个大小为k的节点集最小权值)
- Problem Description 求n个数的最小公倍数。 Input 输入包含多个测试实例,每个测试实例的开始是一个正整数n,然后是n个正整数。 Output 为每组测试数据输出它们的最小公倍数,每个测试实例的输出占一行。你可以假设最后的输出是一个32位的整数。 Sample
- 阿里14笔试题-求一个二叉树最大值和最小值的差值绝对值
- C#中用ILMerge将所有引用的DLL和exe文件打成一个exe文件(图解)
- Chapter 3 | Stacks and Queues--实现一个函数返回栈中的最小值,时间复杂度为O(1)
- 【 51NOD 1434 素数筛 】【数论+思维+筛素数】区间LCM【找到一个最小整数M,满足M>N,LCM(N+1,N+2,..,M-1,M)是LCM(1,2,3,4,.,N-1,N) 的倍数】
- 两个数组分别取出一个来相加,找出和最小的k个
- 防止连续读time出错的处理---------后来证明不需要。(硬件上同一个总线)
- VS2005的一个常见编译错误的解决方法
- Leo 的内核精简笔记(1) 写一个最小的内核模块
- Rayleigh-Ritzs比的极值证明
- PHP浮点数的一个常见问题
- 将一个字符串放到另一个字符串最小字符的后面
- 开源IOT——一个最小的物联网系统设计方案及源码
- 多最小支持度关联规则挖掘头项目问题证明