协方差中的正相关与负相关

先看下面这幅图，图片来自http://www.cnblogs.com/nsnow/p/4758202.html



协方差一般表示为：



矩阵主对角线上是各维度的方差，体现的分别是x和y相对E(x)和E(y)的偏离程度的度量；

矩阵次对角线上是不同维度的协方差，体现的是x与y之间的相关性，两者相等；

上图中协方差为4说明x和y之间是正相关，即当一个点的x值较大时，其y值也较大

协方差为-4说明x和y之间是负相关，即当一个点的x值较大时，其y值变小

协方差为0说明x和y之间不线性相关

至于为啥协方差为正是正相关，协方差为负是负相关，以完全线性相关为例。

完全线性相关时，y可以表示为x的线性函数，即y=a+bx;



由于D(X)>=0,因此协方差与b同号，当协方差为正时，b为正，y随x增长而增长；反之亦然。