Merge pull request #455 from WeiYangBin/master
Update 第六章_循环神经网络(RNN).md
This commit is contained in:
commit
aa5c90bcbc
|
|
@ -248,7 +248,7 @@ sigmoid函数的函数及导数图如下所示:
|
|||
|
||||

|
||||
|
||||
从上图观察可知,sigmoid函数的导数范围是(0,0.25],tach函数的导数范围是(0,1],他们的导数最大都不大于1。
|
||||
从上图观察可知,sigmoid函数的导数范围是(0,0.25],tanh函数的导数范围是(0,1],他们的导数最大都不大于1。
|
||||
|
||||
基于6.8中式(9-10)中的推导,RNN的激活函数是嵌套在里面的,如果选择激活函数为$tanh$或$sigmoid$,把激活函数放进去,拿出中间累乘的那部分可得:
|
||||
$$
|
||||
|
|
|
|||
Loading…
Reference in New Issue