关于迁移学习的high level理解
2018-03-07 23:15
274 查看
文章原址:
https://www.zybuluo.com/liuhui0803/note/644770
是以上迁移学习是为了解决,在训练每个案例是缺少大量的数据,但是同类的一些问题已经有通过大量的数据训练好模型。那么借助于这个模型构建一个新的模型。从这个角度说,更像是通过数据得到了一个learning system,非常有效的避免了过拟合;
具体的操作是,从可用的模型中找到输出结果可用的层。用这些层的输出结果作为输入,构建一个参数数量和规模都更加小的网络模型;这样可以学习到更加底层,通用化的规则,能够看到不同类型的数据,而且通过原有的模型,已经很好的掌握了数据背后的“规则”
但是对于文中的迁移学习训练所需的参数数量计算方式如下:
参数的数量 = [规模(输入) + 1] * [规模(输出) + 1]
= [2048+1]*[1+1]~ 4098 个参数
并不是特别的理解
https://www.zybuluo.com/liuhui0803/note/644770
是以上迁移学习是为了解决,在训练每个案例是缺少大量的数据,但是同类的一些问题已经有通过大量的数据训练好模型。那么借助于这个模型构建一个新的模型。从这个角度说,更像是通过数据得到了一个learning system,非常有效的避免了过拟合;
具体的操作是,从可用的模型中找到输出结果可用的层。用这些层的输出结果作为输入,构建一个参数数量和规模都更加小的网络模型;这样可以学习到更加底层,通用化的规则,能够看到不同类型的数据,而且通过原有的模型,已经很好的掌握了数据背后的“规则”
但是对于文中的迁移学习训练所需的参数数量计算方式如下:
参数的数量 = [规模(输入) + 1] * [规模(输出) + 1]
= [2048+1]*[1+1]~ 4098 个参数
并不是特别的理解
相关文章推荐
- java学习,关于接口理解,实例分析
- 关于闭包的理解(JS学习小结)
- jsp学习之——关于请求转发和重定向的形象理解
- 关于学习Linux的经典书籍 (深入理解Linux内核、Linux设备驱动程序等) .
- 关于学习Linux的经典书籍 (深入理解Linux内核、Linux设备驱动程序等)
- 关于深度学习自编码器理解
- 关于SharedPreferences共享参数的学习与理解
- 关于Laravel数据库迁移的理解
- Java中关于Arrays.asList方法的深入学习与理解
- 特征学习“Building High-level Features Using Large Scale Unsupervised Learning”
- 迁移学习-PixelDA-Unsupervised Pixel–Level Domain Adaptation with Generative Adversarial Networks
- 关于线性基的学习与理解
- C语言学习笔记——关于 .obj 文件的理解
- 关于学习Linux的经典书籍 (深入理解Linux内核、Linux设备驱动程序等)
- Swift学习笔记--关于swift中In-Out关键字的理解
- Java中关于Arrays.asList方法的深入学习与理解
- 关于事务日志的再学习理解~!!!!
- 关于如何学习编程序。如何理解程序。
- 关于学习Linux的经典书籍 (深入理解Linux内核、Linux设备驱动程序等)
- 关于C++ 学习的几点 理解 之 c++关键字详解(volatile,mutable,explicit,dynamic_cast<T>(expression))等