tensorflow16《TensorFlow实战Google深度学习框架》笔记-08-01 RNN前向传播 code
2017-04-10 20:44
387 查看
# 《TensorFlow实战Google深度学习框架》08 循环神经网络 # win10 Tensorflow1.0.1 python3.5.3 # CUDA v8.0 cudnn-8.0-windows10-x64-v5.1 # filename:ts08.01.py # RNN前向传播 # rnn 每一层都有输出,每一次还有一个输出状态 # rnn每一层需要两组权重和偏执,一组用于该层输出,一组用于该层状态输出 import numpy as np # 1. 定义RNN的参数 X = [1,2] state = [0.0, 0.0] w_cell_state = np.asarray([[0.1, 0.2], [0.3, 0.4]]) w_cell_input = np.asarray([0.5, 0.6]) b_cell = np.asarray([0.1, -0.1]) w_output = np.asarray([[1.0], [2.0]]) b_output = 0.1 # 2. 执行前向传播过程 for i in range(len(X)): before_activation = np.dot(state, w_cell_state) + X[i] * w_cell_input + b_cell state = np.tanh(before_activation) final_output = np.dot(state, w_output) + b_output print("before activation: ", before_activation) print("state: ", state) print("output: ", final_output) ''' before activation: [ 0.6 0.5] state: [ 0.53704957 0.46211716] output: [ 1.56128388] before activation: [ 1.2923401 1.39225678] state: [ 0.85973818 0.88366641] output: [ 2.72707101] '''
相关文章推荐
- tensorflow40《TensorFlow实战》笔记-08-01 TensorFlow实现深度强化学习-策略网络 code
- 马哥笔记08_01~~~08_04
- (原创)c#学习笔记08--面向对象编程简介01--面向对象编程的含义01--对象的含义01--属性和字段
- C#学习笔记 08/01/18
- tensorflow42《TensorFlow实战》笔记-09-01 TensorBoard code
- tensorflow41《TensorFlow实战》笔记-08-02 TensorFlow实现深度强化学习-估值网络 code
- (原创)c#学习笔记08--面向对象编程简介01--面向对象编程的含义01--对象的含义02--方法
- tensorflow12《TensorFlow实战Google深度学习框架》笔记-06-01卷积层、池化层样例code
- (原创)c#学习笔记08--面向对象编程简介02--OOP技术01--接口
- tensorflow20《TensorFlow实战Google深度学习框架》笔记-09-01 TensorBoard可视化测试 code
- 马哥笔记09_01~~~08_04
- (原创)c#学习笔记08--面向对象编程简介01--面向对象编程的含义03--静态和实例类成员
- tensorflow18《TensorFlow实战Google深度学习框架》笔记-08-03 SKlearn封装例子 code
- (原创)c#学习笔记08--面向对象编程简介01--面向对象编程的含义03--对象的生命周期--构造函数和析构函数
- tensorflow19《TensorFlow实战Google深度学习框架》笔记-08-04 预测正弦函数 code
- C#学习笔记和年轻真好 08/01/19
- (原创)c#学习笔记08--面向对象编程简介01--面向对象编程的含义02--一切皆对象
- tensorflow24《TensorFlow实战Google深度学习框架》笔记-10-01 GPU基本操作 code
- tensorflow17《TensorFlow实战Google深度学习框架》笔记-08-02 使用循环神经网络实现语言模型 code
- Note 07/08/01 a mistake about ref