Non parametric density estimate and knn 非参数化概率密度估计与KNN
2010-12-13 17:05
495 查看
简介：
主要参考<<introduction to statistical pattern recognation>>第六章，做简单笔记。1. 参数化与非参数化
参数化是指我们对于概率预先做出了分布形式假设，我们要做的只是估算参数值，比如我们假定是高斯分布，二项式分布等等。非参数化直接从观察数据估计概率密度，不依赖任何对分布形式的假设。
2. 如何非参数化估计？
可以采用Parzen密度估计方法。可以采用KNN方法。
区别是Parzen方法是固定v，不固定k,而KNN方法是固定k，不固定v。
3. 结论
贝叶斯分类器是最小化分类误差的理论上的最优分类器参数化和非参数化分类器
非参数化分类器不对密度函数做任何假设
一个分类器将成为贝叶斯分类器，如果密度估算与实际的密度函数完全一致
当sample data 无限多的时候
结果误差就是贝叶斯误差，理论上的最优误差
内容来自用户分享和网络整理，不保证内容的准确性，如有侵权内容，可联系管理员处理 
相关文章推荐
- PRML 第二章 非参数化概率密度估计
- 人群密度估计--CNN-based Cascaded Multi-task Learning of High-level Prior and Density Estimation for Crowd
- 机器学习中的概率模型和概率密度估计方法及VAE生成式模型详解之五（第3章 之 EM算法）
- Parzen window 概率密度估计
- 概率密度估计的Parzen窗方法
- 机器学习中的概率模型和概率密度估计方法及VAE生成式模型详解之六（第3章 之 VI/VB算法）
- Perzen窗概率密度估计
- （转）非参数概率密度估计的方法
- parzen窗方法和k近邻方法估计概率密度
- 机器学习中的概率模型和概率密度估计方法及VAE生成式模型详解之七（第4章 之 梯度估算）
- 样本概率密度(pdf)估计的Matlab实现%用来画网络延时数据
- 机器学习中的概率模型和概率密度估计方法及VAE生成式模型详解之八（第4章 之 AEVB和VAE）
- Nonparametric Density Estimation Methods
- 机器学习中的概率模型和概率密度估计方法及VAE生成式模型详解之九（第5章 总结）
- 密度聚类。Clustering by fast search and find of density peaksd
- 车辆密度估计--Understanding Traffic Density from Large-Scale Web Camera Data
- ML之01-核密度估计Kernel Density Estimation(KDE)
- 图像处理基础知识系列之二：核概率密度估计简介
- 核概率密度估计介绍
- 车辆密度估计--Understanding Traffic Density from Large-Scale Web Camera Data