parent
ab25d99766
commit
467a967e6a
|
|
@ -248,7 +248,7 @@ sigmoid函数的函数及导数图如下所示:
|
||||||
|
|
||||||

|

|
||||||
|
|
||||||
从上图观察可知,sigmoid函数的导数范围是(0,0.25],tach函数的导数范围是(0,1],他们的导数最大都不大于1。
|
从上图观察可知,sigmoid函数的导数范围是(0,0.25],tanh函数的导数范围是(0,1],他们的导数最大都不大于1。
|
||||||
|
|
||||||
基于6.8中式(9-10)中的推导,RNN的激活函数是嵌套在里面的,如果选择激活函数为$tanh$或$sigmoid$,把激活函数放进去,拿出中间累乘的那部分可得:
|
基于6.8中式(9-10)中的推导,RNN的激活函数是嵌套在里面的,如果选择激活函数为$tanh$或$sigmoid$,把激活函数放进去,拿出中间累乘的那部分可得:
|
||||||
$$
|
$$
|
||||||
|
|
|
||||||
Loading…
Reference in New Issue