【迁移学习】domain adaptation and metric learning基础知识及博客整理
2018-03-15 21:40
691 查看
定义
Metric learningsupervised method
the basic idea is to find a metric under which the data from the same classes are close while from different ones far apart.[1]
unsupervised metric learning methods
the basic idea is to discover a space or metric in a low-dimensional space which preserves the geometric relationships of the data in the original space.[1]
domain adaptation approaches
adapt auxiliary data or classifiers to a new domain to optimize the learning objective in the target domain.[1]
metric
在数学中,一个度量(或距离函数)是一个定义集合中元素之间距离的函数。一个具有度量的集合被称为度量空间[2]
metric learning
aims to improve the classification accuracy by capturing the spatial structure of the training set
为了处理各种各样的特征相似度,我们可以在特定的任务通过选择合适的特征并手动构建距离函数。然而这种方法会需要很大的人工投入,也可能对数据的改变非常不鲁棒。度量学习作为一个理想的替代,可以根据不同的任务来自主学习出针对某个特定任务的度量距离函数。[2]
domain adaptation metric learning
The DAML utilize all labeled samples in source domain to obtain an optimal transformation. Therefore, the discriminative metric information of the source domain can be adapted to the target domain.[1]
数学基础
MMD(maximum mean discrepancy, 最大均值差异)用来度量两个分布的相似度。
比较好的解释:
https://blog.csdn.net/a1154761720/article/details/51516273
相关知识
再生核希尔伯特空间(Reproducing Kernel Hilbert Space, RKHS)
https://blog.csdn.net/haolexiao/article/details/72171523?utm_source=itdadao&utm_medium=referral
MMD和再生核希尔伯特空间的关系
https://zhuanlan.zhihu.com/p/25418364
Triplet Loss(三元损失)
比起传统的softmax,三元损失加入了对差异性的度量,这有助于细节区分.
blog - https://blog.csdn.net/tangwei2014/article/details/46788025
参考资料
[1] Geng, B., Tao, D., & Xu, C. (2011). Daml: domain adaptation metric learning. IEEE Transactions on Image Processing A Publication of the IEEE Signal Processing Society, 20(10), 2980.[2]http://blog.csdn.net/nehemiah_li/article/details/44230053
相关文章推荐
- 深度学习FPGA实现基础知识5(网友一致认可的----Deep Learning(深度学习)学习笔记整理及完整版下载)
- Elasticsearch学习整理(1):ES面试基础知识要点
- 去学习基础知识的博客空间
- 汇编基础知识学习整理(一)
- 深度学习基础知识整理
- shell学习一基础知识的整理
- Linux学习笔记:基础知识学习整理【图】
- 深度学习基础知识整理-
- JAVA学习【10】JVM基础知识整理
- Sparsity and Some Basics of L1 Regularization (学习Free Mind知识整理)
- C#学习笔记一 基础知识点整理
- JAVA学习笔记整理一(基础知识)
- python基础学习整理——基础知识
- 韩天峰博客 php基础知识学习记录
- C++基础知识学习整理一
- 信息论学习总结(一)基础知识 博客分类: Machine Learning information theory信息论机器学习 我们考虑一下一个离散的随机变量x,当我们观察到它的一个值,能给我们带来
- 通过plsql 测试存储过程遇到的问题和学习到的一些基础知识整理
- 深度学习/机器学习入门基础数学知识整理(三):凸优化,Hessian,牛顿法
- 根据w3cSchool学习javascript整理js的一些基础知识
- 深度学习FPGA实现基础知识6(Deep Learning(深度学习)学习资料大全及CSDN大牛博客推荐)