Меню сайта
Статистика
Онлайн всего: 1
Гостей: 1
Пользователей: 0
Поиск
Календарь
| « Ноябрь 2012 » | ||||||
| Пн | Вт | Ср | Чт | Пт | Сб | Вс |
| 1 | 2 | 3 | 4 | |||
| 5 | 6 | 7 | 8 | 9 | 10 | 11 |
| 12 | 13 | 14 | 15 | 16 | 17 | 18 |
| 19 | 20 | 21 | 22 | 23 | 24 | 25 |
| 26 | 27 | 28 | 29 | 30 | ||
Архив записей
Главная » 2012 Ноябрь 19 » Функции активации в нейронных сетях 2
00:07 Функции активации в нейронных сетях 2 |
3. Сигмоидальная функция или сигмоид
Монотонно возрастающая всюду дифференцируемая
 -образная
нелинейная функция с насыщением. Сигмоид позволяет усиливать слабые
сигналы и не насыщаться от сильных сигналов. Гроссберг (1973 год)
обнаружил, что подобная нелинейная функция активации решает поставленную
им дилемму шумового насыщения.Слабые
сигналы нуждаются в большом сетевом усилении, чтобы дать пригодный к
использованию выходной сигнал. Однако усилительные каскады с большими
коэффициентами усиления могут привести к насыщению выхода шумами
усилителей, которые присутствуют в любой физически реализованной сети.
Сильные входные сигналы в свою очередь также будут приводить к насыщению
усилительных каскадов, исключая возможность полезного использования
выхода. Каким образом одна и та же сеть может обрабатывать как слабые,
так и сильные сигналы?
Примером сигмоидальной функции активации может служить логистическая функция, задаваемая следующим выражением:
 где
 – параметр наклона сигмоидальной функции активации. Изменяя этот параметр, можно построить функции с различной крутизной. Примером сигмоидальной функции активации является гиперболический тангенс, задаваемая следующим выражением:
 где
– это также параметр, влияющий на наклон сигмоидальной функции. В заключение отметим, что функции активации типа единичного скачка и
линейного порога встречаются очень редко и, как правило, используются на
учебных примерах. В практических задач почти всегда применяется
сигмоидальная функция активации.
|
|
|
| Всего комментариев: 0 | |
