关于周志华《机器学习》绪论中“没有免费的午餐”定理
2017-06-05 00:00
323 查看
先来回顾下,原书第8-9页的没有“免费的午餐定理”的在二分类问题上的一个实例:
![](https://static.oschina.net/uploads/space/2017/0605/202023_LoBN_3180573.png)
![](https://static.oschina.net/uploads/space/2017/0605/202204_n8C8_3180573.png)
在网上看到两个人来试图解释这里的证明,但是觉得他们写的页并没有什么道理。
这里有个很大的问题就是
![](https://static.oschina.net/uploads/space/2017/0605/202331_5WH5_3180573.png)
等于了
![](https://static.oschina.net/uploads/space/2017/0605/202354_qULS_3180573.png)
,这里是怎么成立的?
虽然书里试图给了下面的解释,说:
![](https://static.oschina.net/uploads/space/2017/0605/202630_Q5MV_3180573.png)
f均匀分布,h(x)的预测结果是什么,我们不得而知,所以这里我不太明白一半的f的是什么意思?
还有定义函数空间是
![](https://static.oschina.net/uploads/space/2017/0605/203439_UN4S_3180573.png)
,这里给的是什么空间?样本空间肯定不是吧?那么解空间?|x|维的?
把自己的疑问放在这里,希望大家来讨论下,把这个证明的逻辑给理清了。
![](https://static.oschina.net/uploads/space/2017/0605/202023_LoBN_3180573.png)
![](https://static.oschina.net/uploads/space/2017/0605/202204_n8C8_3180573.png)
在网上看到两个人来试图解释这里的证明,但是觉得他们写的页并没有什么道理。
这里有个很大的问题就是
![](https://static.oschina.net/uploads/space/2017/0605/202331_5WH5_3180573.png)
等于了
![](https://static.oschina.net/uploads/space/2017/0605/202354_qULS_3180573.png)
,这里是怎么成立的?
虽然书里试图给了下面的解释,说:
![](https://static.oschina.net/uploads/space/2017/0605/202630_Q5MV_3180573.png)
f均匀分布,h(x)的预测结果是什么,我们不得而知,所以这里我不太明白一半的f的是什么意思?
还有定义函数空间是
![](https://static.oschina.net/uploads/space/2017/0605/203439_UN4S_3180573.png)
,这里给的是什么空间?样本空间肯定不是吧?那么解空间?|x|维的?
把自己的疑问放在这里,希望大家来讨论下,把这个证明的逻辑给理清了。
相关文章推荐
- 机器学习周志华--没有免费的午餐定理
- 机器学习笔记(2)----“没有免费的午餐”定理
- 机器学习---“没有免费的午餐”(no free lunch)定理简单易懂的解释
- 机器学习:归纳偏好-“没有免费的午餐”定理
- 没有免费的午餐定理 NFL:(No Free Lunch Theorem)
- 没有免费的午餐定理
- 机器学习笔记 - 奥卡姆剃刀和没有免费的午餐理论
- 从“没有免费的午餐”理论看机器学习模型
- 没有免费的午餐定理&丑小鸭定理
- 没有免费的午餐定理和丑小鸭定理
- 没有免费的午餐定理和丑小鸭定理
- 周志华《机器学习》笔记:第1章 绪论
- 《机器学习》-周志华 第一章 绪论 习题1.2
- 第一章 绪论-机器学习(周志华)参考答案
- 程序员故事:没有免费的午餐
- 周志华《机器学习》第 1 章 绪论
- 没有免费的午餐,OEM激活的Win7中的木马
- 也谈TDD,以及三层架构、设计模式、ORM……没有免费的午餐,选择了,必付出代价
- 机器学习(周志华)_第一章绪论
- 天下没有免费的午餐