Концепция искусственной нейронной сети

Согласно определению, данному в [23], искусственная нейронная сеть (ИНС) – это существенно параллельно распределенный процессор, обладающий способностью к приобретению, сохранению и репрезентации опытного знания и сходный с мозгом в двух аспектах:

· знание приобретается сетью в процессе обучения;

· для сохранения знания используются силы межнейронных связей (синаптические веса).

Составными элементами ИНС являются спецпроцессоры двух видов:

· искусственные нейроны (или просто нейроны), суммирующие поступающие на их входы сигналы и преобразующие смещенную на величину порога сумму в соответствии с заданной активационной функцией нейрона;

· связи между нейронами, реализующие межнейронные взаимодействия в виде сигналов, умножаемых на синаптические веса связей.

Схематическое представление модели нейрона с входными связями изображено на рис. 11, где использованы следующие обозначения:

— сигналы, поступающие на входные связи нейрона;

— синаптические веса входных связей;

— порог срабатывания нейрона;

;

— активационная функция нейрона, реализующая тот или иной вид преобразования суммы взвешенных входных сигналов, смещенной на величину порога активационной функции .

Графические зависимости некоторых из возможных видов активационных функций приведены на рис. 12.

 

Рис. 12а представляет линейную активационную функцию

.

На рис. 12б изображена линейная с насыщением активационная функция

,

имеющая настроечный параметр .

На рис. 12в представлена ступенчатая активационная функция (ее часто обозначают )

.

 

	Рис. 12 (продолжение). Некоторые из возможных видов активационных функций

Сигмоидальная активационная функция, описываемая выражением ,

изображена на рис. 12 г. При малых значениях настроечного параметра функция является более пологой, нежели при больших, приближающих ее к единичной ступеньке.

 

Рис. 12 д представляет радиально-симметричную активационную функцию

,

с настроечным параметром .

 

На рис. 12 е приведена пороговая активационная функция

 

,

имеющая два настроечных параметра: и .

В нейронной сети между нейронами и могут быть установлены направленные связи и , каждой из которых присваиваются, соответственно, веса и (синаптические веса) (рис. 13).

 

 

Таким образом, объединяя нейроны между собой направленными связями, можно строить различные топологии (структуры) нейронных сетей и обучать их решению конкретных задач. Обучить ИНС – это значит подобрать такие значения синаптических весов ее межнейронных связей и, возможно, порогов и параметров активационных функций нейронов, при которых сеть приобретает способность выполнять желаемый вид преобразования.