神经网络初步认识(一)
2018-02-14 13:37
309 查看
Q1:Neural Network 是如何Learning的?Q2:Neural Network来自于人类大脑的神经结构,所以它的神经元是什么?它的神经元又是如何被连接起来的?Q3:为什么这种层状结构可以做到智能判断?我们想通过这种层状结构达到什么目的?(一)从多层感知器(MLP)开始“神经元”是一个用来装数字的容器,装着一个0到1之间的数字
对于一个像素28x28的手写数字来说,即含有784个神经元,每个神经元中的数字代表数字的灰度值,0代表纯黑,1代表纯白。神经元中的数称之为激活值(Activation),这784个神经元组成了神经网络的第一层,中间有两层隐含层(Hidden layers)负责图像转化为数字的具体操作,最后层的十个神经元分别代表0到9这十个数字,其中的激活值表示系统认为输入的图像对应着哪个数字的可能性。
当人类在识别图像时其实是在组合不同的部件,在理想的情况下我们希望倒数第二层的每个神经元都能恰好对应上一个部件,这样神经网络的最后一层只要学习如何将笔画组合成部件即可。
而每一个笔画部件又可以拆分成更小的边的组合
设计一个第二层神经元来识别出图像中的某块区域是否存在一条边,现在就需要知道这个网络的参数。给第一层和这个神经元相接的每一条线上都赋一个权重值,当你想确认一个地方有没有笔画时,只需要讲周围的权重列为负数,这样当中间的像素亮周围的像素暗时,加权和就能达到最大。把加权和输入线性整流函数ReLU或sigmoid函数
加上一个偏置值(Bias),保证神经元不能随便被激发
对于一个像素28x28的手写数字来说,即含有784个神经元,每个神经元中的数字代表数字的灰度值,0代表纯黑,1代表纯白。神经元中的数称之为激活值(Activation),这784个神经元组成了神经网络的第一层,中间有两层隐含层(Hidden layers)负责图像转化为数字的具体操作,最后层的十个神经元分别代表0到9这十个数字,其中的激活值表示系统认为输入的图像对应着哪个数字的可能性。
当人类在识别图像时其实是在组合不同的部件,在理想的情况下我们希望倒数第二层的每个神经元都能恰好对应上一个部件,这样神经网络的最后一层只要学习如何将笔画组合成部件即可。
而每一个笔画部件又可以拆分成更小的边的组合
设计一个第二层神经元来识别出图像中的某块区域是否存在一条边,现在就需要知道这个网络的参数。给第一层和这个神经元相接的每一条线上都赋一个权重值,当你想确认一个地方有没有笔画时,只需要讲周围的权重列为负数,这样当中间的像素亮周围的像素暗时,加权和就能达到最大。把加权和输入线性整流函数ReLU或sigmoid函数
加上一个偏置值(Bias),保证神经元不能随便被激发
相关文章推荐
- 深度学习笔记之神经网络、激活函数、目标函数和深度的初步认识
- 网络初步认识 === 硬件设备
- 初步认识网络架构(Network Architecture)
- 初步认识网络之精华篇
- 修改caffe输出multilabel,并自己训练完成了一个神经网络,初步达到目标检测的效果
- 神经网络与推荐系统初步简介
- 认识神经网络
- 神经记忆网络、神经机器翻译和神经图灵机的初步探讨
- java网络编程的初步认识,服务器端编程
- 7.朴素贝叶斯的多项式事件模型,SVM初步,神经网络初步
- 神经网络 初步
- Stanford大学机器学习公开课(六):朴素贝叶斯多项式模型、神经网络、SVM初步
- 网络编程初步认识(一)
- 神经网络的具体的认识-TensorFlow的好玩的神经网络
- Python网络爬虫(一):初步认识网络爬虫
- 斯坦福cs231n学习笔记(6)------神经网络初步
- NB多项式模型、神经网络、SVM初步—斯坦福ML公开课笔记6
- 神经网络初步学习手记
- 神经网络与推荐系统初步简介
- Machine Learning(五—1)神经网络初步