¿Qué función es mejor para usar en redes neuronales de retropropagación, sigmoide (x) o tanh (x)?

La función sigmoidea (x) se utiliza mejor en redes neuronales de retropropagación. Se utiliza una función sigmoidea (x) en una red neuronal de retropropagación con el fin de introducir la no linealidad en el modelo y / o con el fin de asegurarse de que ciertas señales permanezcan dentro de un rango que se ha especificado.

Un elemento de red neuronal popular es un elemento de red neuronal que calcula una combinación lineal de señales de entrada. Aplica una función sigmoidea ligada (x) al resultado. Este modelo puede verse como una variante más suave de lo que se conoce como la neurona umbral clásica.

Hay una razón fundamental por la que una función sigmoidea (x) es más popular en una red neuronal de retropropagación. La razón por la que una función sigmoidea (x) es más popular en una red neuronal de retropropagación es porque la función sigmoidea (x) es la única función que satisface la siguiente propiedad: d / dt sig (t) = sig (t) [1- sig (t)]. La relación polinomial simple entre la derivada y él mismo es muy fácil de calcular.