Сравнительный анализ нейросетевых реализаций алгоритмов распознавания образов
Категория реферата: Рефераты по кибернетике
Теги реферата: бесплатные контрольные, рефераты по предметам
Добавил(а) на сайт: Федоренко.
Предыдущая страница реферата | 1 2 3 4 5 6 7 8 9 10 11 | Следующая страница реферата
Для исследования сети с обратными связями в работе моделируется предложенный Хопфилдом в [7] рекуррентный алгоритм анализа динамики ансамбля нейронов.
Состояние сети описывается множеством текущих значений сигналов от всех
нейронов. На каждом шаге алгоритма меняется состояние лишь одного нейрона.
Номер нейрона выбирается случайным образом. Он суммирует с весами Wij
сигналы, поступающие от выходов нейронов сети по обратным связям и
изменяет свое состояние в соответствии со значением пороговой функции.
Состояние же остальных нейронов совпадает с состоянием на предыдущем шаге.
Пороги возбуждения нейронов выбраны равными нулю. Состояние активного
нейрона на текущем шаге алгоритма равно 1, неактивного - -1. Алгоритм
использует модель обучения, предложенную Хэббом [6] (см. Приложение 2.
Программа, моделирующая сеть Хопфилда.). Это - модель обучения без учителя, в которой вес возрастает, если активированы оба нейрона, источник и
приемник. Таким образом, часто используемые пути в сети усиливаются, что
объясняет феномен обучения сети.
В процессе релаксации к одному из устойчивых состояний, сети с обратными связями иллюстрируют ряд свойств, которые могут быть интерпретированы как релаксация стимула, выработка прототипа, бистабильность восприятия , которые показаны в данной работе на реализованной модели.
Все программы созданы в DELPHI и работают в операционной среде Windows.
3. Методика и результаты экспериментальных исследований.
1 Проблема функции ИСКЛЮЧАЮЩЕЕ ИЛИ.
Как было сказано, один из самых пессимистических результатов Минского показывает, что однослойный персептрон не может воспроизвести такую простую функцию как ИСКЛЮЧАЮЩЕЕ ИЛИ.
Для того, чтобы проиллюстрировать эту проблему, персептрону
предоставляли четыре обучающих пары. К одному классу образов относили, подаваемое на измерительную сетчатку 5х7, шахматное поле и такое же поле, но с инвертируемым цветом. К другому классу - буквенные символы E и F (см.
Рис.1 Приложение 1.). В результате распознавания персептрон классифицировал
первый из указанных образов как относящийся к первому классу, а второй, третий и четвертый - ко второму. Т. е. персептрон ошибся на втором образе.
Эти же обучающие пары предоставили для обучения и распознавания модели
двухслойной сети. В результате сеть все образы классифицировала правильно.
Эти результаты согласуются с теорией представляемости персептрона и
двухслойных сетей.
2 Исследование представляемости однослойной и двухслойной нейронной сети.
Исследование представляемости однослойной и двухслойной нейронных сетей производились на соответствующих моделях.
Результаты эксперимента с моделью персептрона показали, что персептрон
способен моделировать функцию, разделяющую изображения цифр 1, 2, 3, 4, 5,
6, 7, 8 и 9, подаваемых на сетчатку, на два класса - четные и нечетные (см.
Рис. 2. Приложение 1.). Величина допустимой ошибки сети была равна 0.001.
Следующий эксперимент был поставлен для выяснения способности
персептрона и двухслойной сети обратного распространения классифицировать
буквенно-цифровые изображения (десять цифр и двадцать шесть букв латинского
алфавита) на два класса - цифры и буквы (см. Рис. 3. Приложение 1.). При
уровне допустимой ошибки 0.001 персептрон путал классами цифры 1, 3, 7 и
букву А. Сеть обратного распространения при том же уровне допустимой ошибки
0.001 путала классами цифры 3, 4, 5 и буквы S, I. Далее величина ошибки
уменьшалась на порядок. Персептрон путал класс цифры 1, сеть обратного
распространения - классами цифру 3 и буквы S, I. При уровне допустимой
ошибки 0.00001 персептрон путал классами цифру 1 . Сеть обратного
распространения при том же уровне допустимой ошибки 0.00001 путала класс
буквы S. При уровне допустимой ошибки 0.000001 и персептрон, и сеть
обратного распространения ошибок в классификации не допускали.
3 Релаксация стимула.
Как говорилось состояние сети Хопфилда описывается множеством текущих
значений сигналов от всех нейронов, причем на каждом шаге алгоритма
меняется состояние лишь одного нейрона, номер которого выбирается случайным
образом. Он суммирует с весами Wij сигналы, поступающие от выходов
нейронов сети по обратным связям и изменяет свое состояние в соответствии
со значением пороговой функции. Пример последовательности состояний, которые проходит система нейронов при распознавании образов в модели
Хопфилда, приведен на рис. 4. Приложение 1, где показаны промежуточные
состояния. Левая картинка представляет собой исходный стимул, а крайняя
правая - образ, записанный в памяти системы. При такой релаксации энергия
системы уменьшается, достигая с течением времени одного из локальных
минимумов.
5 Возникновение ложного образа. Выработка прототипа.
Устойчивыми состояниями сети Хопфилда могут быть также образы, не записанные ее память - ложные образы. На Рис. 5. Приложение 1. показан пример устойчивого ложного образа ((), возникающий при распознавании стимулов сетью, в матрице связей которой записаны образы a, b, c.
При увеличении числа образов, записываемых в память системы, отвечающие им минимумы энергии могут сливаться. На рис. 6. Приложение 1. показана группа образов (получающихся при небольших искажениях), записанные в память сети - a, b, c. При предъявлении сети этих образов для распознавания, сеть приходит к состоянию, соответствующего выработанному прототипу - d.
Модель демонстрирует процедуру разобучения, предназначенную для
устранения из памяти ложных образов. Разобучение состоит в предъявлении
сети образа, к которому релаксировал стимул. При этом из матрицы связи
вычитается тот член, который при обучении бы прибавлялся. В применении к
случаю прототипа с тремя записанными в памяти образами (см. Рис. 6.
Приложение 1.), разобучение приводит к исчезновению прототипа и к появлению
вместо одной потенциальной ямы, соответствующей прототипу, трех
потенциальных ям, соответствующих каждому образу, записанному в памяти
сети.
6 Бистабильность восприятия.
Эксперименты с моделью сети Хопфилда показали (см. Рис. 7. Приложение
1.), что средние стимулы последовательности могут восприниматься либо как
искаженный левый, либо как искаженный правый образы, т. е. имеет место
бистабильность восприятия. Смена устойчивого состояния происходит после
предъявления четвертой картинки.
Заключение.
В работе созданы программные модели трех нейронных сетей: персептрон, сеть обратного распросранения и сеть Хопфилда. Модели позволяют проиллюстрироваь основные достоинства и недостатки, а также ряд специфических свойств реализованных моделей.
Во всех моделях для приложения внешнего стимула использовалась, специально разработанная программно, измерительная сетчатка.
Результаты серии экспериментов, проведенных на моделях, показали, что:
. Способность персептрона и сети обратного распространения моделировать определенную функцию зависит от допустимой общей ошибки сети.
. Топологическая структура сети Хопфилда обуславливает ее свойства, которые можно интерпритировать как релаксация стимула, выработка прототипа, бистабильность восприятия.
Рекомендуем скачать другие рефераты по теме: тесты с ответами, реферат этикет.
Предыдущая страница реферата | 1 2 3 4 5 6 7 8 9 10 11 | Следующая страница реферата