Предположим, что все
входные параметры предобработаны в соответствии с формулой (1). Перенумеруем
примеры обучающего множества так, чтобы были верны следующие неравенства: , где – число примеров в обучающем
множестве. При этом, возможно, придется исключить ряд пар параметр-ответ с
совпадающими значениями параметра. Если в какой-либо из таких пар значения
ответов различаются, то это снижает возможную полезность данной процедуры.
Наиболее простой путь
– разбить диапазон -го
параметра на два. Зададимся точкой . Будем кодировать -й параметр двумя входными сигналами
в соответствии с табл. 7. При таком кодировании константа Липшица, очевидно,
уменьшится. Вопрос о выборе точки может решаться по-разному. Простейший путь –
положить . Более
сложный, но часто более эффективный – подбор исходя из требования минимальности константы
Липшица.
Приведенный выше
способ уменьшения константы Липшица не единственный. В следующем разделе
рассмотрен ряд способов предобработки, решающих ту же задачу.
В данном разделе
будет рассмотрено три вида предобработки числовых признаков – модулярный,
позиционный и функциональный. Основная идея этих методов предобработки состоит
в том, чтобы сделать значимыми малые отличия больших величин. Действительно,
пусть для ответа существенно изменение величины признака на единицу при значении
признака порядка миллиона. Очевидно, что простейшая предобработка (1) сделает отличие
в единицу неразличимым для нейронной сети при абсолютных значениях порядка
миллиона.
Все эти виды
предобработки обладают одним общим свойством – за счет кодирования входного
признака несколькими сигналами они уменьшают сложность задачи (константу Липшица).
Зададимся некоторым
набором положительных чисел . Определим сравнение по модулю для
действительных чисел следующим образом:
, (15)
где
– функция,
вычисляющая целую часть величины путем отбрасывания дробной части. Очевидно,
что величина лежит
в интервале .
Кодирование входного признака при модулярной предобработке вектором производится по следующей
формуле:
. (16)
Однако модулярная
предобработка обладает одним отрицательным свойством – во всех случаях, когда , при целом , разрушается отношение предшествования
чисел. В табл. 8 приведен пример векторов. Поэтому, модульная предобработка
пригодна при предобработке тех признаков, у которых важна не абсолютная
величина, а взаимоотношение этой величины с величинами . Примером такого признака может
служить угол между векторами, если в качестве величин выбрать .