深度学习 - 相关名词概念

Neural Network

神经网络

Weights

权重

Bias

偏移

Activation Function

激活函数, 用于调整每个神经的输出, 有如下几个常用的函数种类

ReLU

Sigmoid

Optimizer

优化器

Adam

Input Layer, Hidden Layer, Output Layer

输入层, 隐藏层, 输出层

Loss

损失, 离Learning Target的差距

Gradient Descent

梯度下降, 一种算法

Batch

Epoch

Training的次数

Dropout

训练时, 随机使p%比例的神经不工作

Convolutional Neural Network(CNN)

卷积神经网络

Recurrent Neural Network(RNN)

Long Short-term Memory (LSTM)

Pooling

池化

Flatten