❶ 人工神经网络常用的激活函数有哪些
人工神经网络（Artificial Neural Network，即ANN ），是20世纪80 年代以来人工智能领域兴起的研究热点。它从信息处理角度对人脑神经元网络进行抽象， 建立某种简单模型，按不同的连接方式组成不同的网络。在工程与学术界也常直接简称为神经网络或类神经网络。神经网络是一种运算模型，由大量的节点（或称神经元）之间相互联接构成。每个节点代表一种特定的输出函数，称为激励函数（activation function）。每两个节点间的连接都代表一个对于通过该连接信号的加权值，称之为权重，这相当于人工神经网络的记忆。网络的输出则依网络的连接方式，权重值和激励函数的不同而不同。而网络自身通常都是对自然界某种算法或者函数的逼近，也可能是对一种逻辑策略的表达。
❷ 卷积神经网络每一层都需要激活函数吗
convolution layer需要激活函数
pooling layer需要激活函数
normalization layer不需要激活函数
fully-connected layer需要激活函数
cost layer不需要激活函数
❸ 神经网络的激活函数都采用非线性函数，如阈值型或S型，为何不采用线性激活函数
非线性激活函数可以拓展神经网络的表达能力。如果用线性激活函数，多层的神经网络和单层的就没有区别，只能表达线性逻辑。
❹ 人工神经网络常用的4个激活函数是哪些
何止3个（类）？
深度的大多ReLU以及类似的，softplus是reLu软化的产物； RBF的话Gaussian很常见；Sigmoif类里tanh和logistic等也很常用；实在不济，step function也可以用。
某些regression问题直接在最后层用identity function，也算是激活函数。
❺ 神经网络中ReLU是线性还是非线性函数如果是线性的话为什么还说它做激活函数比较好
1、严格来说的话 ReLU算是分段线性函数。中间隐层激活函数采用线性函数（例如恒等变换）不好是因为，最后算下来多层网络跟单层网络一个效果。其实 激活函数的存在是为了神经网络更好的拟合目标函数而已。
2、ReLU比sigmoid和tanh好是因为它的收敛速度快（sigmoid、tanh函数在自变量比较大的时候 导数很小，采用梯度下降法 变化缓慢，特别是多层网络 就更慢了）,计算量比较小（只需要一个阈值进行比较 而不需要做函数运算）。
❻ 神经网络算法为什么要用激活函数
楼主你好！根据你的描述，让我来给你回答！
翻译为激活函数（activation function）会更好。
激活函数是用来加入非线性因素的，因为线性模型的表达能力不够。
希望能帮到你，如果满意，请记得采纳哦~~~
❼ 神经网络为什么要有激活函数，为什么relu 能够防止梯度消失
神经元的广泛互联与并行工作必然使整个网络呈现出高度的非线性特点。在客观世界中，许多系统的输入与输出之间存在着复杂的非线性关系，对于这类系统，往往很难用传统的数理方法建立其数学模型。设计合理地神经网络通过对系统输入输出样本对进行自动学习，能够以任意精度逼近任何复杂的非线性映射。神经网络的这一优点能使其可以作为多维非线性函数的通用数学模型。该模型的表达式非解析的，输入输出数据之间的映射规则由神经网络在学习阶段自动抽取并分布式存储在网络的所有连接中。具有非线性映射功能的神经网络应用十分广阔，几乎涉及所有领域。
❽ 在多层神经网络中,激活函数通常选择为s形函数。为什么
摘要 亲亲，您好，为您查询到:
❾ 神经网络中的激活函数是用来干什么的
不同的激活函数是用来实现不同的信息处理能力，神经元的变换函数反映了神经元输出与其激活状态之间的关系。
❿ bp神经网络选择激活sigmoid函数，还有tansig函数的优缺点求告知
（1）对于深度神经网络，中间的隐层的输出必须有一个激活函数。否则多个隐层的作用和没有隐层相同。这个激活函数不一定是sigmoid，常见的有sigmoid、tanh、relu等。
（2）对于二分类问题，输出层是sigmoid函数。这是因为sigmoid函数可以把实数域光滑的映射到[0,1]空间。函数值恰好可以解释为属于正类的概率（概率的取值范围是0~1）。另外，sigmoid函数单调递增，连续可导，导数形式非常简单，是一个比较合适的函数
（3）对于多分类问题，输出层就必须是softmax函数了。softmax函数是sigmoid函数的推广