Нейрокомпьютинг и его применения в экономике и бизнесе

Скачать в pdf «Нейрокомпьютинг и его применения в экономике и бизнесе»


Сеть Хопфихща с Хеббовскими связями


Рассмотрим интересующий нас случай сети, в которой связи вычислены по Хеббовскому правилу, исходя из вида Р запоминаемых векторов. В этом случае уравнения среднего поля принимают вид





Если сеть работает как ассоциативная память, то разумно предположить, что каждому запоминаемому вектору ак должно соответствовать некоторое решение системы, совпадающего с ним с точностью до постоянного множителя


(s) = так.


Подставляя это выражение в уравнения среднего поля и используя предположение, что все векторы памяти не коррелированы и значения их компонент с равной вероятностью принимают значения ± 1, получим:


Рт ак + РтЫ 1 ^ а» ^ а» ак


ПФк    j


i


I


tanh


Рта + РтО


I

В пределе N —» со, Р « N получаем знакомое уравнение для множителя т: т = tanh(P т).


Вновь при высокой температуре (Г > 1) это уравнение имеет только тривиальное решение и усредненная по времени конфигурация состояний нейронов не имеет ничего общего с запоминаемыми образами. При (Г < 1) уравнение имеет два решения т = 0, для которых


средняя конфигурация активностей указывает на одно из запоминаемых состояний ак, или на его “зеркального двойника” — ак. Из этих состояний однозначно восстанавливаются образы памяти. Однако, если сделать моментальный снимок состояния сети, то в силу флуктуаций она практически никогда не находится ни в одном из состояний памяти, всегда воспроизводя их с некоторой ошибкой. Теоретически было показано, что загрузка памяти, а = P/N, оказывает на поведение системы такое же влияние, как температурный параметр в распределении Ферми. Когда этот параметр мал, каждому из запоминаемых некоррелированных образов соответствует стационарное состояние сети. Однако, при приближении его к критической емкости ас = 0.138 , сеть внезапно теряет все свойства памяти. В плоскости координат (а. Т) области памяти и неупорядоченного поведения сети разделены границей, при пересечении которой происходит соответствующий фазовый переход. Более детальный анализ выявляет на фазовой диаграмме следующие 4 области: парамагнитную (Р) фазу, в которой любой порядок разрушается высокой температурой; фазу спинового стекла (SG), в которой состояние сети не может эволюционировать к запомненным образам; смешанную (F+SG) — в ней запомненные образы метастабильны; и ферромагнитную (F) — в ней всем запоминаемым образам соответствуют глобальные минимумы энергии.

Скачать в pdf «Нейрокомпьютинг и его применения в экономике и бизнесе»