Искусственные нейронные сети (НС)

2. Двухслойный персептрон
Двухслойный персептрон с двумя входами и одним выходом представлен на рис. .

Пусть функция активации — жесткая ступенька с двумя возможными значениями. Решающая поверхность является пересечением, объединением, инверсией или их комбинацией от областей, создаваемых тремя нейронами в первом слое. Вид функции (пересечение, объединение, инверсия или их комбинация) определяется параметрами нейрона второго слоя (порогом и весами). Если моделируется пересечение, то такая двухслойная сеть может сформировать произвольную выпуклую многоугольную односвязную решающую область. Число сторон в многоугольнике совпадает с количеством нейронов в слое 1. В зависимости от вида комбинирования областей, а также от положения гиперплоскостей область может быть открытой или закрытой. Если область закрытая, то она всегда имеет вид выпуклого многоугольника. Пример открытой области, полученной объединением областей первого слоя — на рис.

Первый слой содержит 4 нейрона, их выходы обозначены y₁, ..., y₄. Выход сети получается объединением выходов первого слоя операцией "ИЛИ". Серым цветом показана область, в которой выход сети равен единице.




Рис. . Открытая область, сформированная двухслойным персептроном.
Для гладкой непрерывной функции активации результаты аналогичные, но нет четких линий, отделяющих области друг от друга. Картина "расплывается".
3. Трехслойный персептрон
Трехслойный персептрон является наиболее общим в своем классе сетей и способен формировать произвольные многоугольные невыпуклые многосвязные области. Нейроны первых двух слоев создают произвольные независимые многоугольные решающие области в нужном количестве и в нужных измерениях входного пространства X. Эти области объединяются нейронами третьего слоя в нужной комбинации. Как и для двухслойного персептрона, допускаются операции пересечения и объединения. Весовые коэффициенты могут быть отрицательными, и соответствующая область может входить со знаком минус, что реализует операцию инверсии. Результирующая область может быть открытой.
Пример решающей области для жесткой нелинейности в нейронах показан на рис. . Первый и второй слой формируют независимые подобласти S₁, S₂, S₃. Единственный нейрон третьего слоя объединяет их по закону S₁  S₃  S₂. Весовой коэффициент нейрона в третьем слое, соответствующий подобласти S₂, имеет знак " – ", и поэтому перед областью S₂ стоит знак отрицания.


Решающая область для трехслойного персептрона с жесткой нелинейностью