本站原创文章,转载请说明来自《老饼讲解-BP神经网络》www.bbbdata.com
对于BP神经网络,最基本、最常用的传递函数有tansig、logsig和purelin函数
BP神经网络的传递函数也称为激活函数,本文介绍这三个传递函数的一些性质
通过本文,可以具体了解tansig、logsig和purelin激活函数的表达式,以及相关特性
01. tansig函数
本节介绍tansig函数的表达式、图象、特性和导数等等
tansig函数的表达式与图像
tansig函数的表达式为: tansig是一个s型函数,tansig的函数图象如下 : ✍️ tansig函数的特性 可以知道,当tansig自变量为一维时,它是一条S形曲线 ● 它的取值区间为 (-1,1) ● tansig非线性部分主要集中在【-1.7,1.7】之间 ● 在【-1.7,1.7】外,tansig逐渐趋向饱和 相对地,在二维时,tansig就是一个S形曲面,更高维时,就是S形超曲面
tansig函数的导数
tansig的导数为: tansig的导数可以用自身表示,这是一个非常重要的特性,它使tansig的导数计算更加方便tansig的导数图象如下:
02. logsig函数
本节介绍logsig激活函数的表达式、图象、特性和导数等等
logsig函数的表达式
logsig函数的表达式为: logsig也是一个s型函数,logsig的函数图象如下 : ✍️ logsig函数的特性 可以知道,当logsig自变量为一维时,它是一条S形曲线 ● 它的取值区间为 (0,1) ● logsig非线性部分主要集中在【-1.7,1.7】之间 ● 在【-1.7,1.7】外,logsig逐渐趋向饱和 相对地,在二维时,logsig就是一个S形曲面,更高维时,就是S形超曲面
logsig函数的导数
logsig函数的导数为: logsig的导数可以用自身表示,这是一个非常重要的特性,它使tansig的导数计算更加方便 logsig的导数图象如下:
03. purelin函数
本节介绍BP神经网络中的purelin激活函数的表达式
purelin函数的表达式
purelin的表达式为: 可以看到,purelin就是恒等映射,BP神经网络的传递函数设为purelin时,跟没有传递函数是一样的
tansig、logsig、purelin函数总结
tansig 和 logsig激活函数tansig和logsig这两个激活函数都是S形函数,它们的非饱和区间都在比较特殊的是,这两个激活函数的导数都可以用自身表示 tansig和logsig最大区别在于它们的取值范围:tansig的取值范围为(-1,1),而logsig的取值范围为(0,1) 本质上来说,两个激活函数没有太大的区别 purelin激活函数 purelin是恒等映射函数,即激活前与激活后的值相等当激活函数设为purelin时,相当于直接把神经元值作为激活值传递给下一层 为了不让输出值受限制,往往在输出层都是用purelin作为激活函数
以上就是BP神经网络的三个常用传递函数tansig、logsig、purelin的介绍了
End