标准RNN结构:

image.png


LSTM结构:

image.png


LSTM图标的含义:

image.png


遗忘门:

image.png


更新信息:

image.png


更新细胞状态:

image.png


输出信息:

image.png


参考

http://www.csdn.net/article/2015-11-25/2826323

http://www.jianshu.com/p/9dc9f41f0b29