神经网络和贝叶斯网络关系
2017-04-03 22:47
211 查看
人工神经网络和贝叶斯网络的共同点:
1、他们都是有向图,每一个节点的取值只取决于前一级的节点,而与更前面的节点无关,也就是说遵从马尔科夫假设
2、他们的训练方式都相似
3、对于很多模式分类问题,这两种方法在效果上相似,也就是说很多用人工神经网络解决的问题,也能用贝叶斯网络解决,反之亦然,但是他们的效率可能会不同。都可以说是统计模型,在准确性上类似
4、训练的计算量都特别的大
不同点:
1、贝叶斯是生成模型(联合概率),神经网络是判别模型(已知模型,训练参数)
2、人工神经网络在结构上是完全标准化的,而贝叶斯网络更灵活
3、虽然神经元函数为非线性函数,但是各个变量只能先进行线性组合,最后对一个变量(即前面组合出来的结果)进行非线性变换,因此用计算机实现起来比较容易。而在贝叶斯网络中,变量可以组合成任意的函数,毫无限制,在获得灵活性的同时,也增加了复杂性。
4、贝叶斯网络更容易上下文前后的相关性,因此可以解码一个输入的序列,比如将一段语音识别成文字,或者将一个英语句子翻译成中文。而人工神经网络的输出是独立,它可以识别一个个字,但很难处理一个序列,因此它主要的应用常常是估计一个概率模型的参数,比如语音识别中声学模型参数的训练、机器翻译中语音模型参数的训练,等等,而不是作为解码器。
5、贝叶斯网络是白盒,神经网络是黑盒!
1、他们都是有向图,每一个节点的取值只取决于前一级的节点,而与更前面的节点无关,也就是说遵从马尔科夫假设
2、他们的训练方式都相似
3、对于很多模式分类问题,这两种方法在效果上相似,也就是说很多用人工神经网络解决的问题,也能用贝叶斯网络解决,反之亦然,但是他们的效率可能会不同。都可以说是统计模型,在准确性上类似
4、训练的计算量都特别的大
不同点:
1、贝叶斯是生成模型(联合概率),神经网络是判别模型(已知模型,训练参数)
2、人工神经网络在结构上是完全标准化的,而贝叶斯网络更灵活
3、虽然神经元函数为非线性函数,但是各个变量只能先进行线性组合,最后对一个变量(即前面组合出来的结果)进行非线性变换,因此用计算机实现起来比较容易。而在贝叶斯网络中,变量可以组合成任意的函数,毫无限制,在获得灵活性的同时,也增加了复杂性。
4、贝叶斯网络更容易上下文前后的相关性,因此可以解码一个输入的序列,比如将一段语音识别成文字,或者将一个英语句子翻译成中文。而人工神经网络的输出是独立,它可以识别一个个字,但很难处理一个序列,因此它主要的应用常常是估计一个概率模型的参数,比如语音识别中声学模型参数的训练、机器翻译中语音模型参数的训练,等等,而不是作为解码器。
5、贝叶斯网络是白盒,神经网络是黑盒!
相关文章推荐
- 机器学习、统计分析、数据挖掘、神经网络、人工智能、模式识别之间的关系是什么?
- 神经网络四:Softmax以及与Sigmoid的关系
- 神经网络在关系抽取中的应用
- 简单神经网络预测结构化数据关系___测试集(改良)
- 简单神经网络预测结构化数据关系___训练集(1)
- NNPR-Chap10 贝叶斯技术(1)利用贝叶斯方法学习神经网络权重
- 【知识图谱】基于神经网络的实体识别和关系抽取联合学习
- 基于神经网络的实体识别和关系抽取联合学习
- 神经网络在关系抽取中的应用
- 神经网络1.训练和测试(train&test)以及相关关系解释--神经网络开篇
- DeepMind AI 关系推理超越人类:深度神经网络模块即插即用
- 神经网络在关系抽取中的应用
- 神经张量网络:探索文本实体之间的关系
- 基于神经网络的实体识别和关系抽取联合学习
- 机器学习/CNN系列小问题(1):逻辑回归和神经网络之间有什么关系?
- PyMC3 - 贝叶斯神经网络
- 神经网络—性能学习与线性分类器之间的关系探讨
- 简单神经网络预测结构化数据关系
- 简单神经网络预测结构化数据关系___训练集(调参实验)
- 基于神经网络的实体识别和关系抽取联合学习 | PaperWeekly #54