Рефераты. Сравнительный анализ нейросетевых реализаций алгоритмов распознавания образов

объясняет феномен обучения сети.

В процессе релаксации к одному из устойчивых состояний, сети с

обратными связями иллюстрируют ряд свойств, которые могут быть

интерпретированы как релаксация стимула, выработка прототипа,

бистабильность восприятия , которые показаны в данной работе на

реализованной модели.

Все программы созданы в DELPHI и работают в операционной среде Windows.

3. Методика и результаты экспериментальных исследований.

1 Проблема функции ИСКЛЮЧАЮЩЕЕ ИЛИ.

Как было сказано, один из самых пессимистических результатов Минского

показывает, что однослойный персептрон не может воспроизвести такую простую

функцию как ИСКЛЮЧАЮЩЕЕ ИЛИ.

Для того, чтобы проиллюстрировать эту проблему, персептрону

предоставляли четыре обучающих пары. К одному классу образов относили,

подаваемое на измерительную сетчатку 5х7, шахматное поле и такое же поле,

но с инвертируемым цветом. К другому классу - буквенные символы E и F (см.

Рис.1 Приложение 1.). В результате распознавания персептрон классифицировал

первый из указанных образов как относящийся к первому классу, а второй,

третий и четвертый - ко второму. Т. е. персептрон ошибся на втором образе.

Эти же обучающие пары предоставили для обучения и распознавания модели

двухслойной сети. В результате сеть все образы классифицировала правильно.

Эти результаты согласуются с теорией представляемости персептрона и

двухслойных сетей.

2 Исследование представляемости однослойной и двухслойной нейронной

сети.

Исследование представляемости однослойной и двухслойной нейронных

сетей производились на соответствующих моделях.

Результаты эксперимента с моделью персептрона показали, что персептрон

способен моделировать функцию, разделяющую изображения цифр 1, 2, 3, 4, 5,

6, 7, 8 и 9, подаваемых на сетчатку, на два класса - четные и нечетные (см.

Рис. 2. Приложение 1.). Величина допустимой ошибки сети была равна 0.001.

Следующий эксперимент был поставлен для выяснения способности

персептрона и двухслойной сети обратного распространения классифицировать

буквенно-цифровые изображения (десять цифр и двадцать шесть букв латинского

алфавита) на два класса - цифры и буквы (см. Рис. 3. Приложение 1.). При

уровне допустимой ошибки 0.001 персептрон путал классами цифры 1, 3, 7 и

букву А. Сеть обратного распространения при том же уровне допустимой ошибки

0.001 путала классами цифры 3, 4, 5 и буквы S, I. Далее величина ошибки

уменьшалась на порядок. Персептрон путал класс цифры 1, сеть обратного

распространения - классами цифру 3 и буквы S, I. При уровне допустимой

ошибки 0.00001 персептрон путал классами цифру 1 . Сеть обратного

распространения при том же уровне допустимой ошибки 0.00001 путала класс

буквы S. При уровне допустимой ошибки 0.000001 и персептрон, и сеть

обратного распространения ошибок в классификации не допускали.

3 Релаксация стимула.

Как говорилось состояние сети Хопфилда описывается множеством текущих

значений сигналов от всех нейронов, причем на каждом шаге алгоритма

меняется состояние лишь одного нейрона, номер которого выбирается случайным

образом. Он суммирует с весами Wij сигналы, поступающие от выходов

нейронов сети по обратным связям и изменяет свое состояние в соответствии

со значением пороговой функции. Пример последовательности состояний,

которые проходит система нейронов при распознавании образов в модели

Хопфилда, приведен на рис. 4. Приложение 1, где показаны промежуточные

состояния. Левая картинка представляет собой исходный стимул, а крайняя

правая - образ, записанный в памяти системы. При такой релаксации энергия

системы уменьшается, достигая с течением времени одного из локальных

минимумов.

5 Возникновение ложного образа. Выработка прототипа.

Устойчивыми состояниями сети Хопфилда могут быть также образы, не

записанные ее память - ложные образы. На Рис. 5. Приложение 1. показан

пример устойчивого ложного образа ((), возникающий при распознавании

стимулов сетью, в матрице связей которой записаны образы a, b, c.

При увеличении числа образов, записываемых в память системы, отвечающие

им минимумы энергии могут сливаться. На рис. 6. Приложение 1. показана

группа образов (получающихся при небольших искажениях), записанные в память

сети - a, b, c. При предъявлении сети этих образов для распознавания, сеть

приходит к состоянию, соответствующего выработанному прототипу - d.

Модель демонстрирует процедуру разобучения, предназначенную для

устранения из памяти ложных образов. Разобучение состоит в предъявлении

сети образа, к которому релаксировал стимул. При этом из матрицы связи

вычитается тот член, который при обучении бы прибавлялся. В применении к

случаю прототипа с тремя записанными в памяти образами (см. Рис. 6.

Приложение 1.), разобучение приводит к исчезновению прототипа и к появлению

вместо одной потенциальной ямы, соответствующей прототипу, трех

потенциальных ям, соответствующих каждому образу, записанному в памяти

сети.

6 Бистабильность восприятия.

Эксперименты с моделью сети Хопфилда показали (см. Рис. 7. Приложение

1.), что средние стимулы последовательности могут восприниматься либо как

искаженный левый, либо как искаженный правый образы, т. е. имеет место

бистабильность восприятия. Смена устойчивого состояния происходит после

предъявления четвертой картинки.

Заключение.

В работе созданы программные модели трех нейронных сетей: персептрон,

сеть обратного распросранения и сеть Хопфилда. Модели позволяют

проиллюстрироваь основные достоинства и недостатки, а также ряд

специфических свойств реализованных моделей.

Во всех моделях для приложения внешнего стимула использовалась,

специально разработанная программно, измерительная сетчатка.

Результаты серии экспериментов, проведенных на моделях, показали,

что:

. Способность персептрона и сети обратного распространения моделировать

определенную функцию зависит от допустимой общей ошибки сети.

. Топологическая структура сети Хопфилда обуславливает ее свойства, которые

можно интерпритировать как релаксация стимула, выработка прототипа,

бистабильность восприятия.

В дальнейшем планируется разработка программных моделей более сложных

нейронных сетей и их комбинаций с целью получения наиболее эффективных

алгоритмов для задачи распознавания образов.

Литераура.

1.Горбань А.Н.,Россиев Д.А..Нейронные сети на персональном

компьюере.

2. Минский М.Л.,Пайперт С..Персепроны.М.: Мир.1971

3. Розенблатт Ф.Принципы нейродинамики.М.: Мир.1965

4. Уоссермен Ф.Нейрокомпьютерная техника.М.: Мир.1992.237С

5. Cohen M.A.,Grossberg S.G.Absoiute stability of global pattern

formation and parallel memory storage by compatitive neural

networks.1983

6. Hebb D.O.Organization of behavior.New York:Science Edition

7. Hopfield J.J.Neural networks and physical systems with emergent

collective computational abilities. Proseedings of the National

Academy of Science 79.1982

8. Parker D.B. Learning-logic. Invention Report. 1982

9. Rumelhart D.E. Hinton G.E.,Williams R.J. Learning internal

representations by error propagation. In Parallel distributed

processing, vol.1986

10. Werbos P.G. Beyond regression: New tools for prediction and analysis

in the behavioral sciences. 1974

11. Wider R.O. Single-stage logic, Paper presented at the AIEE Fall

General Meeting. 1960

12. Windrow B. The speed of adaptetion in adaptive control system. 1961

13. Windrow B. A statistical theory of adaptetion. Adaptive control

systems. 1963

14. Windrow B., Angell J.B. Reliable, trainable networks for computing and

control. 1962

15. Windrow B., Hoff N.E. Adaptive switching circuits. 1960

Приложение 1.

[pic]

[pic]

[pic]

[pic]

Рис. 1.

[pic] [pic] [pic]

[pic] [pic] [pic]

[pic] [pic] [pic]

Рис. 2.

[pic] [pic] [pic] [pic]

[pic] [pic] [pic] [pic]

[pic] [pic] [pic] [pic]

[pic] [pic] [pic] [pic]

Рис. 3.

[pic] [pic] [pic] [pic]

[pic] [pic] [pic] [pic]

[pic] [pic]

[pic]

Рис. 3.

[pic] [pic]

[pic] [pic]

[pic]

Рис. 4.

[pic]

[pic]

[pic]

[pic]

Рис. 5.

[pic]

[pic]

[pic]

[pic]

Рис. 6.

[pic] [pic] [pic]

[pic] [pic] [pic]

Страницы: 1, 2, 3, 4, 5



2012 © Все права защищены
При использовании материалов активная ссылка на источник обязательна.