Модель искусственного нейрона

Искусственная нейронная сеть (ИНС) — это упрощенная мо­дель биологического мозга, точнее нервной ткани. Ес­тественная нервная клетка (нейрон) состоит из тела (сомы), со­держащего ядро, и отростков — дендритов, по которым в нейрон поступают входные сигналы.

Сеть ИНС представляет собой совокупность простых вычис­лительных элементов — искусственных нейронов, каждый из ко­торых обладает определенным количеством входов (дендритов) и единственным выходом (аксоном), разветвления которого под­ходят к синапсам, связывающим его с другими нейронами. На входы нейрона поступает информация извне или от других ней­ронов. Каждый нейрон характеризуется функцией преобразова­ния входных сигналов в выходной (функция возбуждения нейро­на). Нейроны в сети могут иметь одинаковые или разные функ­ции возбуждения. Сигналы, поступающие на вход нейрона, неравнозначны в том смысле, что информация из одного источни­ка может быть более важной, чем из другого. Приоритеты входов задаются с помощью вектора весовых коэффициентов, модели­рующих синаптическую силу биологических нейронов.

Модель искусственного нейрона представляет со­бой дискретно-непрерывный преобразователь информации. Ин­формация, поступающая на вход нейрона, суммируется с учетом весовых коэффициентовсигналовгде п — размерность пространства входных сигналов. Потенциал нейрона опре­деляется по формуле

Взвешенная сумма поступивших сигналов (потенциал) пре­образуется с помощью передаточной функциив выходной сигнал нейрона Y, который передается другим нейронам сети, т.е.Вид передаточной (активационной) функции является важнейшей характеристикой нейрона. В общем случае эта функция может быть ступенчатой (пороговой), линейной или не­линейной. Пороговая функция пропускает информа­цию только в том случае, если алгебраическая сумма входных сигналов превышает некоторую постоянную величинуна­пример:

Рис. 1.1. Схема кибернетической модели нейрона

Пороговая функция не обеспечивает достаточной гибкости ИНС при обучении. Если значение вычисленного потенциала не достигает заданного порога, то выходной сигнал не формируется и нейрон «не срабатывает». Это приводит к снижению интенсив­ности выходного сигнала нейрона и, как следствие, к формиро­ванию невысокого значения потенциала взвешенных входов в следующем слое нейронов.

Линейная функция Y=kP дифференцируема и легко вычисля­ется, что в ряде случаев позволяет уменьшить ошибки выходных сигналов в сети, так как передаточная функция сети также явля­ется линейной. Однако она не универсальна и не обеспечивает решения многих задач.

Определенным компромиссом между линейной и ступенча­той функциями является сигмоидальная функция переноса  которая удачно моделирует передаточную харак­теристику биологического нейрона (рис. 1.2, в).

Рис. 1.2. Функции переноса искусственных нейронов: а — линейная; б- ступенчатая; в — сигмоидальная

Коэффициент к определяет крутизну нелинейной функции: чем больше к, тем ближе сигмоидальная функция к пороговой; чем меньше к, тем она ближе к линейной.

Тип функции переноса выбирается с учетом конкретной зада­чи, решаемой с применением нейронных сетей. Например, в за­дачах аппроксимации и классификации предпочтение отдают ло­гистической (сигмоидальной) кривой. Нейронная сеть представ­ляет собой совокупность искусственных нейронов, организован­ных слоями. При этом выходы нейронов одного слоя соединяют­ся с входами нейронов другого. В зависимости от топологии со­единений нейронов ИНС подразделяются на одноуровневые и многоуровневые, с обратными связями и без них. Связи между слоями могут иметь различную структуру. В однолинейных сетях каждый нейрон (узел) нижнего слоя связан с одним нейроном верхнего слоя. Если каждый нейрон нижнего слоя соединен с не­сколькими нейронами следующего слоя, то получается пирами­дальная сеть. Воронкообразная схема соединений предполагает связь каждого узла верхнего слоя со всеми узлами нижнего уров­ня. Существуют также древовидные и рекуррентные сети, содер­жащие обратные связи с произвольной структурой межнейрон­ных соединений. Чтобы построить ИНС для решения конкретной задачи, нужно выбрать тип соединения нейронов, опреде­лить вид передаточных функций элементов и подобрать весовые коэффициенты межнейронных связей [1, 2,5 — 1, 12].

При всем многообразии возможных конфигураций ИНС на практике получили распространение лишь некоторые из них. Классические модели нейронных сетей рассмотрены ниже.