线性神经元模型
2014-05-23 12:35
197 查看
原文地址:http://redwood.berkeley.edu/bruno/npb163/linear-neuron/linear-neuron-models.html
线性系统的定义:
~一个线性系统的输入和输出可以被描述为一个线性函数。
~什么是线性函数?--服从叠加和缩放规则。
~举例:一个一维的线性系统,输入为x,输出为y,可以被表征为:y=kx。
~线性代数为复杂的、多变量系统的分析提供了一个强有力的工具。
~虽然大多数系统在本质上是非线性的,但我们仍然可以利用 对线性系统分析所获得的直觉和洞察力 增加对他们的了解。
神经元(可以百度一下)
线性神经原:
~尽管上面提到了非线性,但是建立一个简化的,线性的神经元模型仍然是有可能的,该模型能为神经元在大脑中的功能提供有用的见解。
~线性神经元模型的示意图如下所示:
每个输入xi乘以相应的权重wi,然后相加,得到输出y。因此,输入、权重、输出的关系可以用下面的等式表示:
或者,用向量的方式为:y=w·x or y=w’·x。(w’表示为w的转置)
~线性神经元模型中,输入xi可以被看作是 来自其他神经元的动作电位,该动作电位引起突触的兴奋。权重
wi 可以认为是对突触的影响系数。wi 的值越大,输入xi对神经元输出的影响程度就越大。在一个真正的神经元中,某些因素能够决定 wi可以是突触vescicles中的突触前末梢的数量,或配体门控通道在突触后膜的数量。(Some
of the factors in a real neuron that would determine
are
the number of synaptic vescicles in the presynaptic terminal, or the number of ligand-gated channels in the post-synaptic membrane.)符号 wi 反映它对突触具有兴奋作用还是抑制作用。
~对于上面提到的的线性神经元,一个微小但十分有用的修正是:在输出端添加一个非线性阈值函数,作为由神经元产生的全部或无动作电位的粗模型。在这种情况下,给出的输出为:
。
线性系统的定义:
~一个线性系统的输入和输出可以被描述为一个线性函数。
~什么是线性函数?--服从叠加和缩放规则。
~举例:一个一维的线性系统,输入为x,输出为y,可以被表征为:y=kx。
~线性代数为复杂的、多变量系统的分析提供了一个强有力的工具。
~虽然大多数系统在本质上是非线性的,但我们仍然可以利用 对线性系统分析所获得的直觉和洞察力 增加对他们的了解。
神经元(可以百度一下)
线性神经原:
~尽管上面提到了非线性,但是建立一个简化的,线性的神经元模型仍然是有可能的,该模型能为神经元在大脑中的功能提供有用的见解。
~线性神经元模型的示意图如下所示:
每个输入xi乘以相应的权重wi,然后相加,得到输出y。因此,输入、权重、输出的关系可以用下面的等式表示:
或者,用向量的方式为:y=w·x or y=w’·x。(w’表示为w的转置)
~线性神经元模型中,输入xi可以被看作是 来自其他神经元的动作电位,该动作电位引起突触的兴奋。权重
wi 可以认为是对突触的影响系数。wi 的值越大,输入xi对神经元输出的影响程度就越大。在一个真正的神经元中,某些因素能够决定 wi可以是突触vescicles中的突触前末梢的数量,或配体门控通道在突触后膜的数量。(Some
of the factors in a real neuron that would determine
are
the number of synaptic vescicles in the presynaptic terminal, or the number of ligand-gated channels in the post-synaptic membrane.)符号 wi 反映它对突触具有兴奋作用还是抑制作用。
~对于上面提到的的线性神经元,一个微小但十分有用的修正是:在输出端添加一个非线性阈值函数,作为由神经元产生的全部或无动作电位的粗模型。在这种情况下,给出的输出为:
。
相关文章推荐
- 台大林轩田《机器学习基石》学习笔记5:线性模型一(PLA/pocket、Linearregression )
- Holt 线性趋势模型,指数趋势模型和阻尼形式
- 初学ML笔记N0.1——线性回归,分类与逻辑斯蒂回归,通用线性模型
- 大数据:“人工特征工程+线性模型”的尽头
- Spark.MLlib之线性分类模型学习笔记
- 回归的线性模型(2)
- spark下线性模型 spark.mllib
- 线性模型
- 小数据分析师学 Python 之 Seaborn(二):定量数据的线性模型(谁知道原文出处告诉我一下谢谢)
- 加州理工大学公开课:机器学习与数据挖掘_线性模型(第三个教训)
- 使用最大似然法来求解线性模型(3)-求解似然函数
- 48、tensorflow入门二,线性模型的拟合
- 「ML」chapter3:线性模型
- 机器学习之理论篇—线性模型
- L0,L1,L2正则化--广义线性模型
- 量价线性模型假设-基于Adaboost和线性回归弱分类器
- 11-分类的线性模型
- Lasso and Elastic Net for Sparse Signals:线性模型之套索和弹性网稀疏信号对比
- 回归的线性模型