Сигмоид

Сигмоид

Сигмоид — это гладкая монотонная нелинейная S-образная функция, которая часто применяется для “сглаживания“ значений некоторой величины.

Часто под сигмоидом понимают логистическую кривую

\sigma(x) = \frac{1}{1 + e^{-x}}

Семейство функций класса сигмоид[]

В семейство функций класса сигмоид также входят такие функции как арктангенс, гиперболический тангенс и другие функции подобного вида.

Функция Ферми (экспоненциальная сигмоида): $f(s)= \frac{1}{1+e^{-2 \alpha s}}$

Рациональная сигмоида: $f(s)= \frac{s}{|s|+ \alpha}$

Гиперболический тангенс: ${\displaystyle f(s)= th \frac{s}{\alpha} = \frac{ e^{ \frac{s}{\alpha} } - e^{ - \frac{s}{\alpha}} } {e^{ \frac{s}{\alpha} } + e^{ - \frac{s}{\alpha}}} }$

Применение[]

Сигмоид применяется в нейронных сетях для того, чтобы ввести некоторую нелинейность в работу сети, но при этом не слишком сильно изменить результат ее работы.

Одна из причин, по которой сигмоид используется в нейронных сетях, это простое выражение его производной через саму функцию (которое и позволило существенно сократить вычислительную сложность метода обратного распространения ошибки, сделав его применимым на практике):

\sigma'(x) = \sigma(x) \cdot (1 - \sigma(x))

Не менее важной причиной введения нелинейности является математически доказанная возможность получить сколь угодно точное приближение любой непрерывной функции многих переменных, используя операции сложения и умножения на число, суперпозицию функций, линейные функции а также одну произвольную непрерывную нелинейную функцию одной переменной (Обобщенная аппроксимационная теорема)

См. также[]

Эта страница использует содержимое раздела Википедии на русском языке. Оригинальная статья находится по адресу: Сигмоид. Список первоначальных авторов статьи можно посмотреть в истории правок. Эта статья так же, как и статья, размещённая в Википедии, доступна на условиях CC-BY-SA .