[置顶] 贝叶斯网络(又称贝叶斯信念网络或信念网络)
2017-07-01 20:57
246 查看
朴素贝叶斯分类有一个限制条件,就是特征属性必须有条件独立或基本独立(实际上在现实应用中几乎不可能做到完全独立)
一个贝叶斯网络定义包括一个有向无环图(DAG)和一个条件概率表集合。DAG中每一个节点表示一个随机变量,可以是可直接观测变量或隐藏变量,而有向边表示随机变量间的条件依赖;条件概率表中的每一个元素对应DAG中唯一的节点,存储此节点对于其所有直接前驱节点的联合条件概率。
一般情况,多变量非独立联合条件概率分布有如下求取公式:
![](https://oscdn.geek-share.com/Uploads/Images/Content/202012/14/f9e0dede97d1f5c82cf604af1f12003b)
而在贝叶斯网络中,由于存在前述性质,任意随机变量组合的联合条件概率分布被化简成
![](https://oscdn.geek-share.com/Uploads/Images/Content/202012/14/16f6ffd78a28ae45c78b4f9d12233300)
其中Parents表示xi的直接前驱节点的联合,概率值可以从相应条件概率表中查到。
构造与训练贝叶斯网络分为以下两步:
1、确定随机变量间的拓扑关系,形成DAG。这一步通常需要领域专家完成,而想要建立一个好的拓扑结构,通常需要不断迭代和改进才可以。
2、训练贝叶斯网络。这一步也就是要完成条件概率表的构造,如果每个随机变量的值都是可以直接观察的,像我们上面的例子,那么这一步的训练是直观的,方法类似于朴素贝叶斯分类。但是通常贝叶斯网络的中存在隐藏变量节点,那么训练方法就是比较复杂,例如使用梯度下降法。由于这些内容过于晦涩以及牵扯到较深入的数学知识,在此不再赘述,有兴趣的朋友可以查阅相关文献。
一个贝叶斯网络定义包括一个有向无环图(DAG)和一个条件概率表集合。DAG中每一个节点表示一个随机变量,可以是可直接观测变量或隐藏变量,而有向边表示随机变量间的条件依赖;条件概率表中的每一个元素对应DAG中唯一的节点,存储此节点对于其所有直接前驱节点的联合条件概率。
一般情况,多变量非独立联合条件概率分布有如下求取公式:
而在贝叶斯网络中,由于存在前述性质,任意随机变量组合的联合条件概率分布被化简成
其中Parents表示xi的直接前驱节点的联合,概率值可以从相应条件概率表中查到。
构造与训练贝叶斯网络分为以下两步:
1、确定随机变量间的拓扑关系,形成DAG。这一步通常需要领域专家完成,而想要建立一个好的拓扑结构,通常需要不断迭代和改进才可以。
2、训练贝叶斯网络。这一步也就是要完成条件概率表的构造,如果每个随机变量的值都是可以直接观察的,像我们上面的例子,那么这一步的训练是直观的,方法类似于朴素贝叶斯分类。但是通常贝叶斯网络的中存在隐藏变量节点,那么训练方法就是比较复杂,例如使用梯度下降法。由于这些内容过于晦涩以及牵扯到较深入的数学知识,在此不再赘述,有兴趣的朋友可以查阅相关文献。
相关文章推荐
- 贝叶斯信念网络
- 贝叶斯信念网络 ——转
- 朴素贝叶斯与贝叶斯信念网络
- 贝叶斯信念网络
- 第九章 贝叶斯信念网络分类
- 第九章 贝叶斯信念网络分类
- CB,朴素贝叶斯和贝叶斯信念网络
- 贝叶斯信念网络和马尔科夫链有什么区别
- 贝叶斯信念网络
- 再学贝叶斯网络--TAN树型朴素贝叶斯算法
- [置顶] linux网络编程之:获取指定网卡网络数据包并分析(附C语言源码)
- [置顶] 使用struts拦截器+注解实现网络安全要求中的日志审计功能
- 深度学习--深度信念网络(Deep Belief Network)
- [置顶] TCP网络协议编程——close()和shutdown()比较
- 斯坦福 CS228 概率图模型中文讲义 四、贝叶斯网络
- [置顶] 网络框架分析-全是套路
- 贝叶斯网络
- 深度信念网络
- [置顶] 网络传输中文编码问题
- [置顶] 用Python+numpy实现单隐层神经网络