NVIDIA DIGITS 学习笔记(参数)
2016-01-26 15:34
295 查看
本文主要记录了NVIDIA DIGITS的参数设置方法及其与Caffe中的参数的对应关系。
数据集
模型参数
DIGITS中的错误
数据集
模型参数
DIGITS中的错误
数据集
手写体MNIST数据集的原始数据格式为:png,每幅图像大小为:28×28,包含70K个手写体数字,共10类,其中60K为训练用样本(train+val),10K的测试样本(test)。本例中,从训练样本中随机抽取25%的数据作为验证集(val),使用digits生成的数据信息如下:数据集属性 | 值 |
---|---|
Image Type | Grayscale |
Image Encoding | png |
Image Dimensions | 28×28 |
Number of Categories | 10 |
Number of Training Images | 45002 |
Number of Validation Images | 14998(25% of 60000) |
Number of test Images | 10000 |
模型参数
模型选择LeNet(Original Paper 1998)Solver Options | 意义 | 示例值 | solver.prototxt | 计算 |
---|---|---|---|---|
Training epochs | 训练代数:将训练用数据反复送入网络训练的次数 | 30 | max_iter | (Training epochs)×(numtrainsamples/batchsizetrain)),如30*(45002/64)=21120 |
Snapshot interval (in epochs) | 快照间隔:是指训练多少代后进行一次快照记录 | 1 | snapshot | (numtrainsamples/batchsizetrain)×(Snapshotinterval),如:(45002/64)*1=704 |
Validation interval (in epochs) | 验证间隔 | 1 | test_interval | (numvalsamples/batchsizetest)∗(Validationinterval),如:(14998/100)*1=150 |
Random seed | 权重随机初始化种子 | [none] | - | - |
Batch size | 批处理大小 | [network defaults],网络默认值,训练:64,测试100 | - | - |
Solver type | 优化方法 | Stochastic Gradient Descent (SGD) | solver_type | SGD |
Base Learning Rate | 学习率 | 0.01 | base_lr | 0.01 |
Policy | 学习率策略 | Step Size | lr_policy | “step” |
Step Size | 步长 | 33% | stepsize | max_iter*Step Size,如:21120×33%=6970 |
Gamma | Gamma参数 | 0.1 | gamma | 0.1 |
DIGITS中的错误
在模型中,对于 LeNet模型,其网络参数有一个小错误,就是Softmax前面的那一层的输出为10而不是0,可以点击Customize修改,下图左是直接可视化的DIGITS的LeNet,右图是将Caffe中MNIST例子中的LeNet.prototxt文件内容直接复制到DIGITS的Customize中可视化后的结果:相关文章推荐
- Java 6 JVM参数选项大全(中文版)
- autoit 命令行参数说明
- 给IE加个参数 永远不怕IE主页被修改
- 写批处理必备的一些命令参数使用技巧
- ASP 调用带参数输出的COM接口
- PowerShell实现参数互斥示例
- C#从命令行读取参数的方法
- DIV+CSS经常用到的属性、参数及说明
- asp获取URL参数的几种方法分析总结[原创]_应用技巧_脚本之家
- C#读取命令行参数的方法
- 关于C语言中参数的传值问题
- c# 方法可变数量的参数
- MySQL slave_net_timeout参数解决的一个集群问题案例
- 用PHP连接MySQL代码的参数说明
- php setcookie(name, value, expires, path, domain, secure) 参数详解
- 基于命令行执行带参数的php脚本并取得参数的方法
- php定义一个参数带有默认值的函数实例分析
- JavaScritp添加url参数并将参数加入到url中及更改url参数的方法
- js的参数有长度限制吗?发现不能超过2083个字符
- asp中提示至少一个参数没有被指定值 解决方法