ИНСТИТУТ ВЫЧИСЛИТЕЛЬНОГО МОДЕЛИРОВАНИЯ СО РАН
КРАСНОЯРСКИЙ ГОСУДАРСТВЕННЫЙ ТЕХНИЧЕСКИЙ УНИВЕРСИТЕТ
На правах рукописи
МИРКЕС ЕВГЕНИЙ МОИСЕЕВИЧ
Функциональные Модели универсального нейрокомпьютера
05.13.11 – Математическое и программное обеспечение вычислительных машин, комплексов и компьютерных сетей
Диссертация на соискание ученой степени
доктора технических наук
Консультант: д.ф.-м.н.,
профессор А.Н. Горбань
Красноярск 2001
Оглавление
Общая характеристика работы.. 8
Введение к диссертации.. 14
1. Функциональные компоненты... 22
1.1. Краткий обзор нейрокомпьютеров.. 22
1.2. Выделение компонентов.. 24
1.3. Запросы компонентов нейрокомпьютера.. 27
1.3.1. Запросы к задачнику. 28
1.3.2. Запрос к предобработчику. 28
1.3.3. Запрос к исполнителю.. 29
1.3.4. Запросы к учителю.. 29
1.3.5. Запрос к контрастеру. 29
1.3.6. Запрос к оценке. 29
1.3.7. Запрос к интерпретатору ответа. 29
1.3.8. Запросы к сети. 29
1.4. Запросы общие для всех компонентов.. 30
1.4.1. Стандарт типов данных. 30
1.4.2. Переменные типа цвет и операции с цветами. 33
1.4.2.1. Значение переменной типа цвет (Color) 33
1.4.2.2. Операции с переменными типа цвет (Color) 34
1.4.3. Предопределенные константы.. 35
1.4.4. Использование памяти. 37
1.4.5. Обработка ошибок. 38
1.4.5.1. Процедура обработки ошибок. 38
1.4.5.2. Установить обработчик ошибок (OnError) 38
1.4.5.3. Дать номер ошибки (GetError) 39
1.4.6. Запросы, однотипные для всех компонентов. 40
1.4.6.1. Запрос на установление текущего компонента. 41
Сделать текущей (xxSetCurrent) 41
1.4.6.2. Запросы, работающие со структурой компонента. 41
Добавление нового экземпляра (xxAdd) 41
Удаление экземпляра компонента (xxDelete) 42
Запись компонента (xxWrite) 42
Вернуть имена структурных единиц (xxGetStructNames) 43
Вернуть тип структурной единицы (xxGetType) 44
1.4.6.3. Запросы на изменение параметров. 45
Получить параметры (xxGetData) 45
Получить имена параметров (xxGetName) 45
Установить параметры (xxSetData) 46
1.4.6.4. Инициация редактора компоненты.. 47
Редактировать компонента (xxEdit) 47
2. Задачник и обучающее множество.. 48
2.1. Структуры данных задачника.. 48
2.2. Поля задачника.. 49
2.3. Состав данных задачника.. 49
2.3.1. Цвет примера и обучающая выборка. 50
2.3.2. Входные данные. 50
2.3.3. Комментарии. 50
2.3.4. Предобработанные данные. 51
2.3.5. Правильные ответы.. 51
2.3.6. Полученные ответы.. 51
2.3.7. Оценки. 51
2.3.8. Вес примера. 51
2.3.9. Достоверность ответа. 51
2.3.10. Уверенность в ответе. 52
2.4. Запросы к компоненту задачник.. 53
2.4.1. Чтение и запись задачника. 54
2.4.1.1. Прочитать задачник (tbAdd) 54
2.4.1.2. Записать задачник (tbWrite) 54
2.4.1.3. Закрыть задачник (tbDelete) 55
2.4.2. Начало и конец сеанса. 55
2.4.2.1. Начало сеанса (InitSession) 55
2.4.2.2. Конец сеанса (EndSession) 56
2.4.3. Перемещение по примерам.. 56
2.4.3.1. В начало (Home) 56
2.4.3.2. В конец (End) 57
2.4.3.3. Следующий (Next) 57
2.4.3.4. Предыдущий (Prev) 58
2.4.3.5. Конец (Last) 59
2.4.3.6. Начало (First) 60
2.4.3.7. Пример номер (Example) 60
2.4.4. Определение, получение и изменение данных. 61
2.4.4.1. Дать пример (Get) 61
2.4.4.2. Обновить данные (Put) 62
2.4.4.3. Сбросить предобработку (RemovePrepare) 62
2.4.5. Окраска примеров. 63
2.4.5.1. Дать цвет примера (GetColor) 63
2.4.5.2. Покрасить пример (PaintCurrent) 63
2.4.6. Ошибки компонента задачника. 64
3. Предобработчик.. 66
3.1. Нейрон.. 67
3.2. Различимость входных данных.. 67
3.3. Классификация компонентов входных данных.. 69
3.4. Кодирование бинарных признаков.. 70
3.5. Кодирование неупорядоченных качественных признаков.. 71
3.6. Кодирование упорядоченных качественных признаков.. 71
3.7. Числовые признаки.. 71
3.8. Простейшая предобработка числовых признаков.. 72
3.9. Оценка способности сети решить задачу.. 72
3.9.1. Оценка константы Липшица сети. 74
3.9.2. Способ вычисления константы Липшица. 74
3.9.3. Синапс. 75
3.9.4. Умножитель. 75
3.9.5. Точка ветвления. 75
3.9.6. Сумматор. 75
3.9.7. Нелинейный Паде преобразователь. 76
3.9.8. Нелинейный сигмоидный преобразователь. 76
3.9.9. Адаптивный сумматор. 76
3.9.10. Константа Липшица сигмоидной сети. 77
3.10. Предобработка, облегчающая обучение. 78
3.11. Другие способы предобработки числовых признаков.. 79
3.11.1. Модулярная предобработка. 80
3.11.2. Функциональная предобработка. 80
3.11.3. Позиционная предобработка. 82
3.12. Составной предобработчик.. 82
3.13. Запросы к компоненту предобработчик.. 83
3.13.1. Запрос на предобработку. 84
3.13.1.1. Предобработать вектор сигналов (Prepare) 84
3.13.2. Остальные запросы.. 85
3.13.3. Ошибки компонента предобработчик. 85
4. Описание нейронных сетей.. 87
4.1. Конструирование нейронных сетей.. 87
4.1.1. Элементы нейронной сети. 88
4.1.2. Составные элементы.. 89
4.1.3. Функционирование сети. 90
4.1.4. Методы построения двойственных сетей. 91
4.1.5. Элементы самодвойственных сетей. 94
4.1.5.1. Синапс. 95
4.1.5.2. Умножитель. 95
4.1.5.3. Точка ветвления. 96
4.1.5.4. Сумматор. 96
4.1.5.5. Нелинейный Паде преобразователь. 97
4.1.5.6. Нелинейный сигмоидный преобразователь. 97
4.1.5.7. Произвольный непрерывный нелинейный преобразователь. 98
4.1.5.8. Пороговый преобразователь. 98
4.1.6. Правила остановки работы сети. 99
4.1.7. Архитектуры сетей. 99
4.1.8. Модификация синаптической карты (обучение) 102
4.1.9. Контрастирование и нормализация сети. 102
4.2. Примеры сетей и алгоритмов их обучения.. 103
Страницы: 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53, 54, 55, 56, 57, 58, 59, 60, 61, 62, 63, 64, 65, 66, 67, 68, 69, 70, 71, 72, 73, 74, 75, 76
