Московский ордена Трудового Красного Знамени
Физико-Технический Институт
Факультет Управления и Прикладной Математики
Кафедра Системного Программирования
Нейросетевая реализация системы
автономного адаптивного управления
Дипломная работа студента 275 группы
Винокурова Алексея Николаевича
Научный руководитель:
д. ф.-м. н. Жданов Александр Аркадиевич
Работа выполнена в
Институте Системного Программирования РАН
Москва 1998
Сокращения и обозначения.
1. Введение.
1.1. Введение и задачи работы.
1.2. Формализация нейронных сетей.
1.3. Краткое описание метода автономного адаптивного управления.
1.4. Основные понятия и обозначения.
1.5. Алгебра образов.
2. Моделирование среды.
3. Аппарат ФРО.
3.1. Биологический нейрон.
3.2. Формальная модель нейрона.
3.3. Задача построения ФРО.
23 Распознавание пространственно-временных образов.
4. База знаний.
5. Система построения и исследования нейронных сетей (СПИНС).
5.1. Актуальность системы.
5.2. Общая коцепция системы.
5.3. Конструкторы сетей. Библиотеки шаблонов.
27 Организация вычислений в сети.
28 Анализаторы работы сети.
29 Реализация блока оценки состояния.
30 Реализация модели среды.
31 Пример работы программы.
32 Перспективы развития системы.
Заключение.
Благодарности.
Литература.
Принятые сокращения
ААУ – автономное адаптивное управление БД – блок датчиков БЗ – база знаний БОС - блок оценки состояния БПР – блок принятия решений ГИП – графический интерфейс пользователя (GUI) ИО – исполнительный орган НРС – недетерминированный автомат Рабина-Скотта НС – нейронная сеть МНРС – модифицированный недетерминированный автомат Рабина-Скотта ОУ – объект управления ПВО – пространственнно-временной образ СВ - случайная величина СПИНС – система построения и исследования нейронных сетей УС – управляющая система ФР – функция распределения ФРО – аппарат формирования и распознавания образов
Принятые обозначения
[pic]- множество неотрицательных целых чисел [pic]- граф со множеством вершин V и множеством ребер N [pic] - ребро, направленное из вершины i в вершину j [pic]- взаимнооднозначное отображение множества X на множество Y [pic] - множество конечных подмножеств множества X R[a,b] – множество вещественных чисел на [a,b] [pic] BN - пространство двоичных векторов размерности N [pic] - пустое слово из множества входных слов КА 0 – ложь в выражении трехзначной логики 1 – истина в выражении трехзначной логики [pic] - неопределенность в выражении трехзначной логики [pic] - [pic] есть подвектор (совокупность выбранных компонент) вектора
[pic] [pic] - класс Y является потомком класса X 1. Введение.
При современном уровне развития техники, когда даже бытовая техника оснащается микропроцессорными устройствами, возникла потребность в интеллектуальных адаптивных системах управления, способных приспосабливаться к очень широкому диапазону внешних условий. Более того, возникла потребность в универсальной технологии создания таких систем. Научный опыт человечества свидетельствует о том, что в природе можно найти великое множество ценных идей для науки и техники. Человеческий мозг является самым удивительным и загадочным созданием природы. Способность живых организмов, наделенных высшей нервной системой, приспосабливаться к окружающей среде может служить призывом к подражанию природе или имитации при создании технических систем.
Среди имитационных подходов выделяется класс нейросетевых методов. Нейронные сети (НС) нашли широкое применение в областях искуственного интеллекта, в основном связанных с распознаванием образов и с теорией управления. Одним из основных принципов нейросетевого подхода является принцип коннективизма. Суть его выражается в том, что рассматриваются очень простые однотипные объекты, соединенные в большую и сложную сеть. Таким образом, НС является в первую очередь графом, с которым можно связать совокупность образов, представленных как численные значения, ассоциированные с вершинами графа, алгоритм для преобразования этих численных значений посредством передачи данных между соседними вершинами и простых операций над ними. Современный уровень развития микроэлектроники позволяет создавать нейрочипы, состоящие из очень большого числа простых элементов, способных выполнять только арифметические операции. Таким образом, нейросетевые методы поддерживается аппаратно.
Математически НС можно рассматривать как класс методов статистического моделирования, который в свою очередь можно разделить на три класса: оценка плотности вероятности, классификация и регрессия [NN]. В частности, в [NN] показано, что с помощью сетей обратного распространения и обобщенного [pic]- правила решается задача оценки плотности вероятности методом смешивания гауссовских распределений.
В отделе имитационных систем Института Системного Программирования РАН разработан метод автономного адаптивного управления (ААУ). Предполагается, что система ААУ может быть полностью реализована на нейронной сети [Диссер, Жданов1-9]. В отличии от традиционного использования НС для решения только задач распознавания и формирования образов, в методе ААУ согласованно решаются задачи
. распознавания и формирования образов
. получения и хранения знаний (эмпирически найденных закономерных связей образов и воздействий на объект управления)
. оценки качественных характеристик образов
. принятия решений (выбора воздействий). Особенностями метода ААУ являются: . Избыточность нейронов в сети, необходимая для адаптации системы управления (УС) к изменяющимся условиям существования объекта управления
(ОУ). Вследствие этого для практической реализации УС необходимо создание больших НС (для сравнения человеческий мозг содержит ~1011 нейронов). . НС состоит из специфичных нейронов, являющимися более близкими аналогами биологического нейрона и приспособленными для решения задач ААУ (раздел
3.2) . Нейроны в сети соединяются специальным образом, также для решения задач
ААУ.
Особенности метода ААУ делают непригодными или малопригодными существующие системы САПР и системы моделирования традиционных НС (например, BrainMaker) для создания прототипов УС ААУ. Ввиду этого обстоятельства задачами дипломной работы были:
1. Разработка инструмента СПИНС для моделирования и исследования нейросетевых реализаций прототипов УС ААУ.
2. Разработка общей схемы нейросетевой реализации прототипов УС ААУ.
1.2. Формальная модель нейрона и нейросети.
Понятие схемы было введено для формализации вычислений на параллельных компьютерах [Итоги91]. Мы используем это понятие для формального описания нейронных сетей, т.к. оно подходит для этих целей почти без изменений. Одним из следствий такой близости схем и НС является возможность хорошего распараллеливания вычислений в моделях НС.
Определение 1.2.1. Назовем схемой c ориентированный ациклический ортграф
(допустимы ребра с общими вершинами), вершинами которого являются параметризованные операции, т.е. операции, зависящие от некоторого параметра t. Аргументами операции являются все входные вершины или входы, т.е. такие вершины, для которых есть ребра (входные ребра), исходящие из них и направленные к данной вершине, [pic]- входная арность i-ой вершины, т.е. число входных вершин, [pic]-выходная арность i-ой вершины, т.е. число выходных вершин или выходов.
Определим размер схемы s(c) как общее число вершин схемы, глубину схемы d(c) как максимальную длину ориентированного пути в графе c.
Порядок вершины определяется рекурсивно: для вершин у которых нет входов, принадлежащих сети (истоки сети), порядок равен 0, для остальных порядок есть максимум порядка входов плюс единица. Входами сети будем называть некоторое подмножество множества истоков сети.
Выходами сети будем считать просто некоторое множество вершин сети.
Определение1.2.2. Здесь и далее под нейронной сетью будем понимать схему.
По сути схема является совокупностью композиций некоторых параметризованных операций. Глубина схемы есть максимальный уровень вложенности композиций. В методологии НС важно, что эти операции являются вычислительно простыми, наподобие взвешенной суммы или булевых конъюнкции и дизъюнкции, при этом выбирается большое количество аргументов и композиций. В этом суть коннективизма. Параметр t является по сути временным параметром. Заметим, что здесь и далее полагаем время дискретным, хотя для формализации НС это не принципиально. Перенумеровав вершины схемы, можно записать общий вид параметризованной операции:
[pic], где [pic](t) - i-ая параметризованная операция, [pic]- входные вершины, [pic]- синаптическая задержка на ребре [pic]. Конкретный вид функции [pic] для предлагаемой модели нейрона будет представлен в разделе «Аппарат ФРО».
Пример 1.2.1. В качестве операции-вершины может быть любая операция трехзначной логики (разд. 1.5).
Определение1.2.3. Выходами подграфа G(V, N), где V - множество ребер, N – множество вершин. сети будем называть все ребра [pic], входами все ребра [pic].
Определение1.2.4. Определим блок как связный подграф сети с одним выходом.
Определение1.2.5. Назовем блок [pic] шаблоном некоторого блока [pic] если между этими блоками существует изоморфное отображение, т.е. такая пара отображений [pic]
Определение1.2.6. Разбиением сети на блоки с шаблоном B будем называть совокупность непересекающихся блоков [pic]такую, что для всех этих блоков B является шаблоном и объединение всех блоков и межблоковых ребер (имеется ввиду два разных объединения: множеств вершин и множеств ребер) есть вся сеть.
Определение1.3.7. Совокупность рекурсивных разбиений сети [pic], где [pic] есть разбиение шаблона [pic] будем называть конструкцией сети, а множество [pic] шаблонами конструктора.
Определение1.2.8. Таким образом, под формальной моделью нейрона будем понимать шаблон [pic] разбиения сети [pic], у которого выход есть булева операция. Под нейроном будем понимать собственно блок.
Например, на рис.1.2.1 представлена формальная модель перспептрона, где все блоки [pic] имеют один шаблон МакКаллока-Питтса [Маккалок].
Вообще говоря, состояние обученности нейрона для каждой формальной модели определяется по своему и, неформально выражаясь, это состояние, в котором считается, что нейрон уже «обучен» для решения своей задачи классификации. Отметим, что процесс обучения необратим.
Страницы: 1, 2, 3, 4, 5, 6
