Нейрокомпьютинг и его применения в экономике и бизнесе

Скачать в pdf «Нейрокомпьютинг и его применения в экономике и бизнесе»


Кластеризация или квантование требуют настройки гораздо большего количества весов — из-за неэффективного способа кодирования. Зато такое избыточное кодирование упрощает алгоритм обучения. Действительно, квадратичная функция ошибки в этом случае диагональна, и в принципе достижение минимума возможно за 0(1) шагов (например в пакетном режиме), что в данном случае потребует ~ PW операций. Число весов, как и прежде, равно W ~ dm , но степень сжатия информации в данном случае определяется по-другому: К = db/log, т .


Сложность обучения как функция степени сжатия запишется в виде: С, ~ Pdm ~ Pd2Jh^K .


При одинаковом степени сжатия, отношение сложности квантования к сложности данных снижения размерности запишется в виде:


Рисунок 11 показывает области параметров, при которых выгоднее применять тот или иной способ сжатия информации.

Рисунок 11. Области, где выгоднее использовать понижение размерности или квантование.


Наибольшее сжатие возможно методом квантования, но из-за экспоненциального роста числа кластеров, при большой размерности данных выгоднее использовать понижение размерности. Максимальное сжатие при понижении размерности равно Кх max = d , тогда как квантованием


можно достичь сжатия К2 max = bd (при двух нейронах-прототипах). Область недостижимых


сжатий К> bd показана на рисунке серым.


В качестве примера рассмотрим типичные параметры сжатия изображений в формате JPEG. При этом способе сжатия изображение разбивается на квадраты со стороной 8x8 пикселей, которые и являются входными векторами, подлежащими сжатию. Следовательно, в данном


случае d = 8 х 8 = 64 . Предположим, что картинка содержит 28 = 256 градаций серого цвета, т.е. точность представления данных b = 8 . Тогда координата абсциссы на приведенном выше графике будет d/b2 = 1. Как следует из графика при любых допустимых степенях сжатия в данном случае оптимальным с точки зрения вычислительных затрат является снижение размерности.19

Скачать в pdf «Нейрокомпьютинг и его применения в экономике и бизнесе»