Нейрокомпьютинг и его применения в экономике и бизнесе

Скачать в pdf «Нейрокомпьютинг и его применения в экономике и бизнесе»


Нейронные сети и статистическая физика


Данная тема заслуживает не одной книги и ей действительно посвящена обширнейшая литература. В настоящем курсе лекций мы не можем хоть сколько-нибудь подробно остановится на ней. Рассмотрим кратко лишь применение соответствующих идей к анализу сети Хопфилда. Демонстрация тесной аналогии, существующей между спиновыми стеклами и нейронными сетями, определила массированное и плодотворное вторжение методов статистической физики в теорию нейронных сетей в начале восьмидесятых годов. Сеть Хопфилда со стохастическими нейронами и явилась главной моделью, в которой применение этих методов оказалось наиболее значительным. Это чрезвычайно плодотворное обобщение модели, в некотором смысле эквивалентное переходу к сетям с градуальными нейронами. В нем нейроны являются стохастическими элементами и это обстоятельство открывает путь использованию методов статистической физики для анализа свойств ассоциативной памяти.


Стохастические нейроны


Стохастический нейрон, как и в оригинальной модели Хопфилда, является бинарным — его состояние л’, принимает значения ± 1. Однако то, в какое состояние перейдет нейрон, связано со значением потенциала ht не однозначно, а случайным образом. Именно, вероятность перехода нейрона в состояния    ± 1:    Pr(.v (/ +1) = l) = / (u),


Pr(s;(^ +1) = — l) = /(-hi) = 1 — /(hi) , или иначе


Pr @ (t+1)) = /( и ),






условиям 0 < f (h) < 1; f(h) + f (-h) 1, и f3 = T 1    — обратная температура. В


низкотемпературном пределе Т —» 0 распределение Ферми переходит в пороговую функцию, и поведение сети из стохастических нейронов становится аналогичным поведению сети Хопфилда, составленной из обычных бинарных нейронов.

Скачать в pdf «Нейрокомпьютинг и его применения в экономике и бизнесе»