Влияние способа разбиения выборки в алгоритмах метода группового учета аргументов на адекватность критерия внешнего дополнения

Рассмотрены способы разбиения выборки исходных данных в алгоритмах метода группового учета аргументов. Проведен анализ соответствия квазиоптимального метода разбиения подвыборок и критерия внешнего дополнения при выборе наилучшей структуры модели. Численный эксперимент показывает, что такие разбиени...

Повний опис

Збережено в:
Бібліографічні деталі
Дата:2015
Автор: Кондрашова, Н.В.
Формат: Стаття
Мова:Russian
Опубліковано: Міжнародний науково-навчальний центр інформаційних технологій і систем НАН та МОН України 2015
Назва видання:Управляющие системы и машины
Теми:
Онлайн доступ:http://dspace.nbuv.gov.ua/handle/123456789/87236
Теги: Додати тег
Немає тегів, Будьте першим, хто поставить тег для цього запису!
Назва журналу:Digital Library of Periodicals of National Academy of Sciences of Ukraine
Цитувати:Влияние способа разбиения выборки в алгоритмах метода группового учета аргументов на адекватность критерия внешнего дополнения / Н.В. Кондрашова // Управляющие системы и машины. — 2015. — № 4. — С. 21–30. — Бібліогр.: 8 назв. — рос.

Репозитарії

Digital Library of Periodicals of National Academy of Sciences of Ukraine
id irk-123456789-87236
record_format dspace
spelling irk-123456789-872362015-10-15T03:02:20Z Влияние способа разбиения выборки в алгоритмах метода группового учета аргументов на адекватность критерия внешнего дополнения Кондрашова, Н.В. Методы и средства обработки данных и знаний Рассмотрены способы разбиения выборки исходных данных в алгоритмах метода группового учета аргументов. Проведен анализ соответствия квазиоптимального метода разбиения подвыборок и критерия внешнего дополнения при выборе наилучшей структуры модели. Численный эксперимент показывает, что такие разбиения способствуют поиску «истинных» аргументов моделей в алгоритмах указанного метода с минимизацией критерия несмещенности решений. The partitioning of the initial data sample in Group Method of Data Handling algorithms is considered. The analysis of the quasioptimal partitioning method compliance and the criterion of external supplement selecting the best the model structure is made. The numerical experiment is shown that such partitioning contributes to the search of the «true» arguments in models of the stated algorithms with the minimization criterion of the unbiasedness solution. Розглянуто способи розбиття вибірки вихідних даних в алгоритмах методу групового обліку аргументів. Проведено аналіз відповідності квазіоптимального методу розбиття підвибірок і критерію зовнішнього доповнення при виборі найкращої структури моделі. Чисельний експеримент показує, що такі розбиття сприяють пошуку «істинних» аргументів моделей в алгоритмах вказаного методу з мінімізацією критерію незміщеності рішень. 2015 Article Влияние способа разбиения выборки в алгоритмах метода группового учета аргументов на адекватность критерия внешнего дополнения / Н.В. Кондрашова // Управляющие системы и машины. — 2015. — № 4. — С. 21–30. — Бібліогр.: 8 назв. — рос. 0130-5395 http://dspace.nbuv.gov.ua/handle/123456789/87236 681.513.8 ru Управляющие системы и машины Міжнародний науково-навчальний центр інформаційних технологій і систем НАН та МОН України
institution Digital Library of Periodicals of National Academy of Sciences of Ukraine
collection DSpace DC
language Russian
topic Методы и средства обработки данных и знаний
Методы и средства обработки данных и знаний
spellingShingle Методы и средства обработки данных и знаний
Методы и средства обработки данных и знаний
Кондрашова, Н.В.
Влияние способа разбиения выборки в алгоритмах метода группового учета аргументов на адекватность критерия внешнего дополнения
Управляющие системы и машины
description Рассмотрены способы разбиения выборки исходных данных в алгоритмах метода группового учета аргументов. Проведен анализ соответствия квазиоптимального метода разбиения подвыборок и критерия внешнего дополнения при выборе наилучшей структуры модели. Численный эксперимент показывает, что такие разбиения способствуют поиску «истинных» аргументов моделей в алгоритмах указанного метода с минимизацией критерия несмещенности решений.
format Article
author Кондрашова, Н.В.
author_facet Кондрашова, Н.В.
author_sort Кондрашова, Н.В.
title Влияние способа разбиения выборки в алгоритмах метода группового учета аргументов на адекватность критерия внешнего дополнения
title_short Влияние способа разбиения выборки в алгоритмах метода группового учета аргументов на адекватность критерия внешнего дополнения
title_full Влияние способа разбиения выборки в алгоритмах метода группового учета аргументов на адекватность критерия внешнего дополнения
title_fullStr Влияние способа разбиения выборки в алгоритмах метода группового учета аргументов на адекватность критерия внешнего дополнения
title_full_unstemmed Влияние способа разбиения выборки в алгоритмах метода группового учета аргументов на адекватность критерия внешнего дополнения
title_sort влияние способа разбиения выборки в алгоритмах метода группового учета аргументов на адекватность критерия внешнего дополнения
publisher Міжнародний науково-навчальний центр інформаційних технологій і систем НАН та МОН України
publishDate 2015
topic_facet Методы и средства обработки данных и знаний
url http://dspace.nbuv.gov.ua/handle/123456789/87236
citation_txt Влияние способа разбиения выборки в алгоритмах метода группового учета аргументов на адекватность критерия внешнего дополнения / Н.В. Кондрашова // Управляющие системы и машины. — 2015. — № 4. — С. 21–30. — Бібліогр.: 8 назв. — рос.
series Управляющие системы и машины
work_keys_str_mv AT kondrašovanv vliâniesposobarazbieniâvyborkivalgoritmahmetodagruppovogoučetaargumentovnaadekvatnostʹkriteriâvnešnegodopolneniâ
first_indexed 2025-07-06T14:49:56Z
last_indexed 2025-07-06T14:49:56Z
_version_ 1836909487204597760
fulltext УСиМ, 2015, № 4 21 Методы и средства обработки данных и знаний УДК 681.513.8 Н.В. Кондрашова Влияние способа разбиения выборки в алгоритмах метода группового учета аргументов на адекватность критерия внешнего дополнения Рассмотрены способы разбиения выборки исходных данных в алгоритмах метода группового учета аргументов. Проведен анализ соответствия квазиоптимального метода разбиения подвыборок и критерия внешнего дополнения при выборе наилуч- шей структуры модели. Численный эксперимент показывает, что такие разбиения способствуют поиску «истинных» аргумен- тов моделей в алгоритмах указанного метода с минимизацией критерия несмещенности решений. Розглянуто способи розбиття вибірки вихідних даних в алгоритмах методу групового обліку аргументів. Проведено аналіз від- повідності квазіоптимального методу розбиття підвибірок і критерію зовнішнього доповнення при виборі найкращої структу- ри моделі. Чисельний експеримент показує, що такі розбиття сприяють пошуку «істинних» аргументів моделей в алгоритмах вказаного методу з мінімізацією критерію незміщеності рішень. Введение. Известные алгоритмы МГУА для моделирования объектов и процессов не учи- тывают важность разбиения данных и способа формирования подвыборок при выборе крите- рия селекции. Вопрос обоснования совместно- го применения способа разбиения данных и критерия внешнего дополнения при поиске мо- делей в литературе широко не рассматривался. Помимо случайного разбиения, широко при- меняемым, есть также способ разбиения по ве- личине дисперсии выборки [1]. В [2] исследо- ван алгоритм поиска наилучшего разбиения выборки при использовании в качестве внеш- него – критерия несмещенности. Для этого в процессе перемешивания точек в подвыборках, при условии равенства их длин, отбираются для каждого разбиения модели с наибольшим зна- чением критерия несмещенности параметров, а из них выбирается модель с наименьшим его значением. В [3] максимизируется вероятность получения истинной модели при переборе мно- жества вариантов разбиения. Работа [4] в каче- стве наилучшего разбиения при минимизации критерия регулярности предлагает: в теории – квадратичное (2-пропорциональное), а на прак- тике – квазиоптимальное разбиение выборки. В [5] исследуются свойства наиболее распростра- ненных критериев внешнего дополнения при квазиоптимальном разбиении. В статье рас- смотрено:  использование критерия минимума несме- щенности решений в качестве внешнего до- полнения и различных способов разбиения;  какой вид должен иметь критерий разбие- ния при использовании того или иного способа разбиения исходной выборки. Исследуем взаимосвязь и отличительные осо- бенности известных способов разбиения вы- борки. Разбиение по дисперсии Пусть дана исходная выборка W в виде матрицы  X y . Для вычисления этого разби- ения ранжируют по величине дисперсии стро- ки матрицы входных переменных X размер- ности mnW  , где Wn – число строк (наблю- дений), m – число столбцов (входных пере- менных). Сначала определяются выборочные средние в столбцах 1 1 , Wn i ji jW x x n    1,i m , т.е. оценку математического ожидания каждой пе- ременной. После этого вычисляются величины сумм квадратов отклонений от этих средних (дисперсии) в каждой точке наблюдения: 2 2 1 ( ) , 1, , m ij j i W i x x j n      затем все полученные значения 2 j ранжируют- ся в порядке убывания. Деление 2 j на (т – 1) не, проводится, как при расчете выборочной 22 УСиМ, 2015, № 4 дисперсии, вследствие применения к членам ряда отношений « > », « < ». Кроме того, в от- личие от выборочной дисперсии здесь сумми- руются по строке квадраты отклонений каждо- го элемента матрицы от средних значений сво- его столбца. При вычислении такой дисперсии происходит абстрагирование от смыслового содержания переменных и учитывается только то, насколько в каждом конкретном наблюде- нии, зафиксированном в исходной выборке, входные переменные отклонились от своих средних значений. Для того чтобы выполня- лось условие сбалансированности подвыборок по величине, наиболее часто применяемыми отношениями размеров подвыборок nA :n B счи- таются:  1:1, которое связано с подбором подвыбо- рок A и B равного объема, при проектировании точек на прямую линию;  2:1, обеспечивающее поиск срединного (ме- дианного) расстояния между центрами мно- жеств S1, S2 и S3 при проектировании их на плоскость в виде трех равномощных множеств, где ,i jA S S  ,kB S  , , 1,2,3 ,i j k .i j k  Поэтому такие разбиения сбалансированы с точностью до геометрии представления мно- жеств разбиения. В [1] точки, ранжированные по убыванию значений дисперсии, относят в подвыборки A и B подобных или неподобных по дисперсии разбиений двумя способами:  через одну или две точки, что означает получение частей выборки, разной степени по- добия, если заданы отношения nA :n B, равные 1:1 либо 2:1;  первые 2/3 Wn  точек с бóльшей диспер- сией – в обучающую подвыборку, оставшаяся 1/3 Wn  часть точек – в проверочную, что при- водит к получению неподобных (непохожих) по дисперсии подвыборок, где · означает операцию округления. Квадратичное или 2-пропорциональное разбиение выборки получают в соответствии с отношением [4] 2T T A A B B B X X X X , 2 0B  . (1) Обозначим информационные матрицы, как A = T A AX X и B = T B BX X . Разбиение по диспер- сии в терминах 2-пропорциональной зависи- мости подвыборок можно интерпретировать так. Пусть выборка такова, что все mixi ,1,0  , тогда 2 2 2 0 1 | ( ) , i m j j jix j x       где jix – центри- рованные переменные. В этом случае модель не содержит свободного члена, т.е. 0=0. Далее легко получить, что 2 2 1 1 1 1 ( ) ( ) . W nnm m WT ii ji j i i j j tr x            X X  Следовательно, разбиение по дисперсии че- рез одну точку (подобное) при отношении nA :n B =1:1 – это попытка получить подвыбор- ки, связанные соотношением ( ) ( )A Btr tr   . Если дисперсии на обеих подвыборках при- близительно одинаковы, то ( ) ( ) 0A Btr tr    . Максимально неподобное по дисперсии раз- биение точек ряда, ранжированных по убыва- нию, получается следующим образом: 2 1,2 1,2 max | ( ) ( ) | maxT T Al Al Bl Bl ll l tr tr     X X X X , где l – вариант степени подобия. Видно, что при отношении nA :n B = 2:1 (l = 2) выражение 2 l имеет бóльшее значение, чем при nA :n B = 1:1 (l = 1), где nA первых точек ря- да имеют бóльшую дисперсию, т.е. 2 1 2 2  . Таким образом, при l = 2 множества подвыбо- рок более неподобные (несбалансированные по расстоянию между множествами), чем при l = 1 и 2 2 2 2,1 max   ll . При этом, однако, следует иметь в виду, что условие )()( B T BA T A trtr XXXX  есть необходи- мым, но не достаточным для квадратичной за- висимости информационных матриц и нахож- дения истинной модели с наименьшей диспер- сией на всей выборке. Способ разбиения ис- ходных данных по величине дисперсии следу- ет считать простым способом, когда невоз- можно применять другие (если, например, вы- числительный ресурс ограничен). Рассмотрим УСиМ, 2015, № 4 23 наилучшее разбиение, если для выбора модели применяется критерий регулярности. Постановка задачи отбора моделей с по- мощью критерия регулярности по результату оптимального разбиения выборки В [4] доказано, что для получения опти- мального разбиения выборки, при котором на подвыборках А и В обеспечивается неизмен- ность структуры s и минимум дисперсии ошибки выхода модели ,G Gs As y X  усред- ненной по всем реализациям шума, необходи- мо создать или соблюдать условие 2-пропор- циональности информационных матриц (1). Минимум матожидания дисперсии ошибки вы- хода – так называемого идеального критерия, имеет вид: 0 2( ) min MG G Gss J s    y y , ,G A B , W = AB, AB = , (2) где М[·] обозначает символ математического ожидания; 0 Gy – вектор выхода истинной мо- дели, при этом G может быть любой из под- выборок А или В; Gsy – оценка выхода для за- шумленной выборки G с использованием оце- нок, полученных методом наименьших квад- ратов (МНК) на части или на всей выборке. Оптимальная структура модели определяется как * 1, arg min ( )J Gs m s J s   . (3) Критерий регулярности AR(s) отличается от идеального критерия (2) тем, что он вместо значений 0 Gy использует реальные (зашумлен- ные) значения выхода модели 0 G G G  y y , и оценки параметров модели получаются по МНК на альтернативной части выборки, кото- рая не участвует в оценивании выходного сиг- нала и критерия. Формулировка видов критерия разбие- ния реальных данных Пусть при моделировании объекта предпо- лагается, что 1) «идеальная» модель существу- ет, т.е. 0 0 0 y X ; 2) присутствует некоррели- рованный шум  на выходе 0  y y , с нуле- вым математическим ожиданием, ограничен- ной дисперсией 2 <  и диагональной кова- риационной матрицей T  2 , I где I – еди- ничная матрица. Предполагается также некор- релированность различных реализаций шума между собой и с полезным сигналом. Пусть EJ(ℓ) – норма отклонения информа- ционных матриц, соответствующих некоторому разбиению ℓ исходной матрицы на две подвы- борки А и В. Критерий разбиения принадлежит множеству: H = f [ J ( )], , J 1,5, 1,E L    , где L – множество всех возможных разбиений данных наблюдений на А и В; множество зна- чений J = {1, 2, , 5} для различного вида норм рассогласования информационных мат- риц (нормы представлены в [6]); Ω – множе- ство видов критериев разбиения выборки; под f   понимается конкретный вид операции с нормой EJ из множества: Ξ={min( 2 ), max( 2 ), min(  ), mах(  )}, (4) где 2 – обозначение квадратичной нормы,  – какая-либо другая норма (мера), напри- мер, обобщенная мера расстояний между под- множествами наблюдений, предложенная Г. Минковским. Здесь исследуются некоторые виды норм EJ: квадратичная и частный случай меры Минковского – abs(·), J = {1, 2}. Будем искать критерий H (CR) для оптимального разбиения выборки )]([suparg ,1 *   J L Ef   , соответствующий каждому критерию внешне- го дополнения выбора лучшей модели при за- данных f  , J = 1, 2. В качестве внешнего критерия CR отбора моделей рассмотрим по- очередно два критерия: регулярности AR и не- смещенности решений 2 смn . Анализ соответствия метода разбиения и критерия регулярности Соотношение 2-пропорциональности (1) должно выполняться для формирования ин- 24 УСиМ, 2015, № 4 формационных матриц обучающей А и прове- рочной В частей выборки, при условии обес- печения минимального значения идеального критерия для того, чтобы была получена еди- ная истинная структура модели на всей выбор- ке. Поскольку в практических задачах – это совместно трудновыполнимые условия, иде- альный критерий заменяется критерием регу- лярности, а удовлетворение соотношения (1) – выполнением 2 * 2 01, arg min B T T A A B B B L    X X X X      (5). Если выполняется условие того, что оценки параметров модели определяются по данным подвыборки А, (B ≠ ), ХА есть матрицей пол- ностолбцового ранга nA  s; на выходе присут- ствует аддитивный шум с выше заданными свойствами, то значения идеального критерия J(S) и критерия регулярности AR(s) будут раз- личны. Рассмотрим четыре варианта исходных данных (вида матрицы Х и величины диспер- сии шума): 1. Все истинные аргументы присутствуют в матрице Х = Х0, и дисперсия шума  в выход- ном векторе данных не превышает некоторый критический уровень 2 кр ( 2 2 кр0     ) [7]. 2. Все «истинные» аргументы присутствуют Х = Х0, но 2 2 кр     . 3. Не все истинные аргументы присутству- ют: в матрице Х: кроме части истинных 0 parX есть ложные X , т.е. 0( ),par X X X и шум имеет дисперсию 2 2 кр0     . 4. В матрице 0( )par X X X присутствует шум с дисперсией 2 2 кр     . Тогда в первом варианте для сложности s определяемой структуры верно соотношение * * 0,J ARs s s  где * 1, argmin ( )AR s m s AR s   . Во втором, третьем и четвертом вариантах 0** sss JAR  . Утверждение 1. Если все истинные аргумен- ты присутствуют и дисперсия шума 20    2 кр  , то * * 0 J ARs s s  , но если 2 2 кр ,     тогда выполняется 0** sss JAR  . Сначала докажем отношение 0** sss ARJ  в отсутствие шума (малом шуме), а потом 0** sss JAR  при наличии шума с дисперсией выше 2 кр . Доказательство следует из записи усредненных значений критериев 20 1 0 1 | M ( ) ( )T T B A B B A A A B A A AJ          y X X X y X X X 2 20 1M ( ) )T B B A B A A A          y X X X X = b ABJ | + v ABJ | ; (6) 0 1 0 | 2 21 0 M ( ) ( ( ) ) T B A B B A A A T B B A A A B B A AR              y X X X y X X X y X + M 21( ( ) )T B B A A A       X X X = b ABAR | + v ABAR | , (7) где b ABJ | и b ABAR | – структурные, а v ABJ | и v ABAR | – шумовые составляющие, причем b ABJ | = b ABAR | . При получении данных выражений было использовано условие некоррелированности по- лезного сигнала и шума и невырожденности информационных матриц. Оптимальная струк- тура * Js находится минимизацией (3), а * ARs ).(minarg ,1 sAR ms  Если шум равен нулю, структура модели на- ходится минимизацией структурной составляю- щей, которая при увеличении s уменьшается до нуля. Структурная составляющая равна нулю, если все истинные аргументы входной матрицы включены в модель. Тогда 0 |argmin ( )b B As s AR s  |arg min ( )b B As J s или можно записать, что 0 |lim ( ) 0b B A s s AR s   и 0 |lim ( )b B A s s J s   0. Тогда для истинной модели, имеющей структуру s0, по- лученную и на А, и на В подвыборках, вы- полняются равенства ,000 AAA  Xy .000 ABB Xy Рассмотрим шумовую составляющую под- робнее. Если 0| v ABAR , то из выражения (7) можно получить УСиМ, 2015, № 4 25 2 | v A B BAR    2 ( )T A BA BAtr P P (8) и значение ее всегда больше, чем полученное из (6) v BAJ | 2 ( )T A BA BAtr P P . (9) Здесь идемпотентная матрица 1( )T T BA B A A A P X X X X (10) имеет размерность AB nn  . Покажем линей- ную зависимость (8) и (9) от сложности s на примере квадратной матрицы ХА. Если запи- сать шумовую составляющую для этого част- ного случая, то имеем v BAAR | М[ 12( )T T B B B A A B      X X 1 1( ) ( )T T A B A B A A     X X X X . v BAJ | М[ 1 1 12( ) ( ) ( )T T T B A A B A B A B A A      X X X X X X ]. При получении данных выражений были использованы условия некоррелированности различных реализаций шума между собой cov( ) 0T A B   , а также невырожденности мат- рицы 1 AX ( 0det AX ). С учетом ρ-пропор- циональности информационных матриц – ра- венства 1 1 B B A   X X при подстановке в выра- жение 1 1( ) ( ) ,T T A B A B A A   X X X X получим v BAAR | = 2 2 2( ) ,B A Btr  I v BAJ | 2 2( ) ,A Btr I где I – еди- ничная матрица. Откуда видно, что след мат- рицы ),(Itr а также составляющие v BAAR | и v BAJ | прямо пропорциональны сложности моде- ли s, 2 | v A B BAR  + 2 2 A Bs  , v BAJ | 2 2 A Bs  и, ес- ли дисперсии на обеих выборках одинаковы 2 2 2 ,A B   то 2 2 2 2 | ,v AB B BJ s n      v BAAR | 2 2 1(1 ) B s    2 2 1(1 ) B n    . Видно, что мини- мум критериев )(sJ и )(sAR при увеличении s достигается в одной точке ** ARJ ss  , причем при любых 2 и s, так как v BAAR | и v BAJ | имеют одинаковый коэффициент пропорцио- нальности при s. Аналогично для выражений (8) и (9), в ко- торых используются прямоугольные матрицы ХА и ХВ, можно получить линейные зависимо- сти от сложности s, вывод их не приводится здесь из-за громоздкости. Таким образом, при нулевой или малой шу- мовой составляющей v ABJ | или ,| v ABAR когда 2 2 кр0     , где 2 кр соответствует шуму, при котором происходит упрощение истинной структуры модели 0s , утверждение * * J ARs s  0s доказано. Поскольку след матрицы Is=n и  T BA BA s n P P  всегда положительный и с увеличением s рас- тет, шумовые составляющие v BAAR | и v BAJ | (в обоих случаях - и 2-пропорциональности данных) также растут, а структурные b ABAR | b ABJ | – падают, то минимумы ABAR | и v BAJ | достигаются всегда раньше, чем мини- мум b ABAR | , если 2 2 кр     . Так как 2 кр соответствует шуму, при котором истинная структура модели теряет свою наименее кор- релированную составляющую и становится более простой, то утверждение 0** sss ARJ  доказано. По мере дальнейшего увеличения дисперсии шума происходит потеря после- дующих наименее коррелированных состав- ляющих до тех пор, пока модель не дойдет до тривиальной, которой является константа. Третий и четвертый варианты, когда истин- ные аргументы присутствуют не в полном со- ставе и имеются «ложные», выполняется соот- ношение * * 0.ARpar Jpars s s  Доказательство оче- видное. При любом уровне некоррелированно- го аддитивного шума минимум внешнего кри- терия достигается в точке соответствующей числу присутствующих истинных аргументов * Jpars * ,ARpars с увеличением шума отношение * ARpars  * * Jpar pars s сохраняется. Если уровень шу- ма нулевой или не превышающий первый кри- тический уровень, то разница сложностей ис- 26 УСиМ, 2015, № 4 тинной структуры и полученной равна .*0 parss  С увеличением шума 2    2 кр минимум сдвигается в сторону более простых моделей, разница увеличивается, получается модель со структурой .0* sss par  В связи с этим рассмотрим множество кри- териев неточного соблюдения равенства (1) и свойства норм отклонений от равенств. Были выделены две группы норм (4), которые соот- ветствуют свойствам меры. Если известна одна из подвыборок, напри- мер обучающая, можно спланировать экспе- римент, создав проверочную выборку согласно соотношению (1). В случае пассивного экспе- римента к выполнению условия (1) можно приблизиться, минимизируя норму рассогла- сования 2T T A A B B BX X X X    путем выбора разбиения .* Поскольку среднее значение критерия регу- лярности )(AR является оценкой теоретиче- ской дисперсии ошибки модели )(sJB , то раз- биение, удовлетворяющее (1), в пределе по множеству усреднений результатов численных экспериментов справедливо и для него, с уче- том неизменности структур на множестве реа- лизаций шума в выходных данных. Тогда су- ществует структура * arg min ( , ) arg min ( , )As B B As Bs AR J X X X X , где s – оптимальная структура при разбиении, удовлетворяющем (5). Таким образом, при выборе моделей по ми- нимуму критерия регулярности следует мини- мизировать критерий нормы квазиоптимально- го разбиения либо, в силу большого перебора, применять вычислительно менее затратное по- добное по дисперсии разбиение, являющееся частным случаем квазиоптимального. Выбор модели по критерию несмещенно- сти решений при квазиоптимальном раз- биении выборки Пусть выполняется условие 2-пропорцио- нальности, и структуры моделей на различных частях выборки идентичны, т.е. sA = sB. После выбора оптимальной структуры оценки век- торов коэффициентов на различных подвыбор- ках неодинаковы, т.е. A B     . Критерий не- смещенности (смещения решения) имеет вид: 2 22 ( ) ( ) ( ) ( )см W As W Bs Ws As Bsn s       y y X      = )()( BsAsWs T Ws T BsAs   XX . Этот критерий можно представить в виде суммы структурной и шумовой составляющих 2 2 2 см см см( ) ( ) ( )b vn s n s n s  . Структурную составляющую этого крите- рия с учетом матрицы канонической формы )(sD [8] можно записать как:     2 0 0 0 0 0 0 ( ) ( ) ( ) , ( ) , Tb cм T T T T WAs WAs WAs WBs A A B T T WBs WAs WBs WBs B n s s             y D y P P P P yy y P P P P y где идемпотентная матрица Р определяется аналогично формуле (10), в которой индекс s опущен. Если использовалось условие ρ2-про- порциональности выборок и того, что матрицы AX и BX есть матрицами полностолбцового ранга, то полученный результат можно преоб- разовать к виду:   2 0 2 0 2 1 0 2 0 1( ) (1 ) [( ) ( ) ] ( ) [ ] b T T см A As B Bs T T T As As As A Bs B n s          y X y X X X X y X y   0 2 0 2 2 1 0 2 0 1 1(1 ) [ ] ( ) [ ] . T T T As A Bs B T T T Bs Bs As A Bs B          X y X y X X X y X y (11) Если в выборке W присутствует неполный набор истинных аргументов и 00 parss  и вы- полняется условие ρ2-пропорциональности при отсутствии шума (малом шуме), т.е. 2 20 кр    , то минимум внешнего критерия достигается в точке, соответствующей числу присутствующих истинных аргументов * Jpars  * 0 ARpar pars s  . Ввиду выполнения 0 0 Apar A X y 2 0 0 Bpar B  X y и присутствия ложных входных переменных оценки коэффициентов векторов УСиМ, 2015, № 4 27 неодинаковы ),( BA   так как A Bn n . При этом также предполагается, что ложные вход- ные переменные не коррелированы с выходом и между собой, т.е. являются шумом. Структурная составляющая (11) тождествен- но равна нулю при наличии:  в матрице полностолбцового ранга полно- го набора истинных аргументов, (Х = Х0) (т.к. 0 0 0 0 0 0, )B B A A   y X y X и ρ2-пропорциональ- ности данных 0 A Bs s n n    ;  всех истинных аргументов Х = Х0 и BA nns  ρ-пропорциональности данных. Тогда o B o A ssss  0* , .0  BsAs  Ко- гда в модели присутствует неполный набор ис- тинных аргументов (т.е. 0 BA  ), то с ростом числа s структурная составляющая, если не создать условия целесообразного процесса построения моделей, изменяется произвольно, и имеет несколько локальных минимумов. Рассмотрим шумовую составляющую 2 см ( )vn s после усреднения на множестве выборок при условии ρ2-пропорциональности. Рассмотрим среднее значение второй составляющей крите- рия несмещенности решений, если дисперсия на выборках А и В одинакова: 2 2 см 2 ( ) M( ( ) ) [ ( )] [ ( ) ( )] v T T T WAs WAs WBs WBs T T WAs WAs WAs WAs п s s tr tr tr            D P P P P P P P P 2 1 1 2 1 1 [ {( ) } {( ) }] {[( ) ( ) ] }. T T T T As As Ws Ws Bs Bs Ws Ws T T T As As Bs Bs Ws Ws tr tr tr            X X X X X X X X X X X X X X При условии ρ2-пропорциональности и того, что матрицы AsX и BsX являются матрицами полного ранга, результат можно преобразовать к виду 2 2 2 1 см ( ) [ {(1 )( ) }v T T B As As Ws Wsп s tr    X X X X 2 2 1(1 ) {( ) ( )}T T T B As As As As Bs Bstr    X X X X X X 2 2 2 2(1 ) /B Bs    . Шумовая составляющая с ростом сложно- сти структуры s линейно растет при одинако- вой дисперсии шума 2. Если 2 2 2 A B     , то 2 см ( )vп s 2 2 2 2(1 )( / )B B A Bs     . Если выполняются условия ρ-пропорциональ- ности и неравенства дисперсий 2 2 A B   , то шумовая составляющая 2 2 1 2 1 см ( ) {( ) } {( ) }v A A W B B Wп s tr tr    X X X X 2 1 1 2 1 1 {( ) ( ) } {( ) ( ) } A A A A B B B A B B tr tr             X X X X X X X X 2 2 2 2 1(1 ) (1 ) (1 ) ( ) A B B B B A B B B s s s              также линейно зависит при возрастании числа s. Если 2 2 2 ,A B     то 2 см ( )vп s  2 2 (1 )B B s    . Если B < 0, то шумовая составляющая поло- жительна. Тогда критерий несмещенности ре- шений будет иметь минимум в положительной области, если B < 0 – то в отрицательной облас- ти значений, когда 0XX  или 0 parXX  шум некоррелированный, а также нулевой или не- большой, т.е. 2 2 кр0     . Если данные подвыборок ρ2-пропорциональ- ны, ρ-пропорциональны или получены квази- оптимальным разбиением, то критерий не- смещенности решений в общем случае не будет адекватен шуму. Так как если присут- ствуют все истинные аргументы и некорре- лированный аддитивный шум, который рас- тет, то при минимизации 2 см ( )n s выбирается тривиальная модель минимальной (нулевой) структуры. Для того чтобы он был адекватным его следует либо вообще не применять в выше- указанных случаях, либо применять при мак- симизации квадратичной нормы рассогласо- вания информационных матриц. В рассмотренных случаях структурная со- ставляющая внешнего критерия всегда имеет минимум и этот минимум соответствует на оси сложности структур случаю равенства струк- тур и параметров моделей, полученных на вы- 28 УСиМ, 2015, № 4 борках А и В для истинной структуры, т.е. если 0XX  . Поэтому после максимизации квадра- тичной нормы рассогласования информацион- ных матриц необходимо минимизировать зна- чение критерия несмещенности. Если в данных присутствуют все истинные аргументы и малый шум с дисперсией 0  2< 2 кр  , а для разбиения выборки максимизиру- ется квадратичная норма рассогласования ин- формационных матриц, то глобальный мини- мум критерия несмещенности решений соот- ветствует частичной истинной модели, вклю- чающей все истинные аргументы из матрицы 0 parXX  . С увеличением дисперсии шума 2 2 кр     минимум будет сдвигаться в сторону все более простых моделей, но по абсолютной величине он будет изменяться произвольно. Для того, чтобы структурная составляющая имела вид ниспадающей кривой, нужно, чтобы разбиение выборки обеспечивало этот процесс изменения. В регрессионном методе включе- ния на каждом шаге в модель вводятся аргу- менты, вносящие наибольший вклад в умень- шение ошибки модели. При условии нормиро- вания данных, как правило, это – имеющие наибольшие по модулю коэффициенты. Чтобы разницы оценок коэффициентов на различных выборках – составная часть критерия несме- щенности решений, при одном и том же числе s была наибольшая, нужно, чтобы выборки были максимально неподобные. Поэтому строить модели с применением критерия не- смещенности решений предлагается по дан- ным максимально различающихся подвыборок наблюдений объекта. Например, в качестве критерия разбиения использовать не минимум нормы  B T BBA T A XXXX 2 , а ее максимум. Тогда наилучшее разбиение * будет иметь вид 2 * 2 0, 1, arg max B T T A A B B B L    X X X X         . Либо для получения разбиения * исполь- зовать неподобные по дисперсии подвыборки А и В  * 1, 1, arg max ( ) arg max ( ) ( ) , d d T T Al Al Bl Bll L T T Al Al Bl Bl l L l tr tr tr         X X X X X X X X         где для вычисления дисперсий используются диагональные элементы информационных мат- риц, элементы которых центрированы как: Wjijij nimjxxx ,1,,1,~  , а jx – средние значения аргументов, mj ,1 , вычислены по данным матрицы WX . Индекс l используется для обозначения набора строк при переборе содержания матриц ХАl и ,Bl W Al Bl X X X X . Результаты численного эксперимента Пусть имеется матрица исходных данных  yX 0 размерности )2(  mn , содержащая все истинные аргументы, где на выходе имеет- ся помеха 0y y   . Пусть шум генерируется при помощи генератора псевдослучайных чи- сел с равномерным законом [0;1] , прини- мает в процентном отношении к величине раз- маха изменения выходной величины 0 max(y  0 min )y значения 0 0 max min( 1)( ) / 200y y      , где  – уровень шума в процентах. Проведем эксперимент, заключающийся в проверке того, как изменятся критерий несмещенности реше- ний, если нужно восстановить истинную струк- туру модели 0 0 0 1 m i i i y x      , линейную по де- сяти входным переменным и одиннадцати ко- эффициентам, сгенерированным по равномер- ному случайному закону распределения на ин- тервале , 0,i i m      , содержащую m+1= = 11 коэффициентов. Сложность структуры мо- дели 110 s с ненулевыми коэффициентами и модель содержит свободный член. Перемен- ные также принимают случайные значения на интервале [0;1]. Проследим, как изменяется сложность моделей, выбираемых по минимуму критерия несмещенности решений. Исследуем результат моделирования при изменении ми- нимальных уровней шума и различных откло- нениях дисперсий в подвыборках А и В. УСиМ, 2015, № 4 29 Проанализируем результаты для двух зна- чений 10 и 20 процентов отклонений от мини- мальных значений шума одной из подвыборок, принимающих значения  = [0, 30, 50, 70] про- центов. На рисунке приведены результаты это- го численного эксперимента, где видно, как упрощаются модели, т.е. какие-то коэффици- енты обнуляются, а с ростом шума, с меньшей разницей шума это происходит менее предска- зуемо, чем с бóльшей. Чем больше разница шума в выборках, тем кривая изменения 2 смlg( )n более гладкая, а критерий – более адекватен шуму. В записи « 7/10s » первая цифра оз- начает сложность на подвыборке с меньшей дисперсией, вторая – на выборке с бóльшей. Изменение минимума критерия несмещенности реше- ний, соответствующего оптимальной модели, при уве- личении уровня шума в выборке W для двух значений разницы уровней в подвыборках А и В (неподобных по дисперсии подвыборок) Заключение. Неподобное по дисперсии раз- биение целесообразно при использовании кри- терия несмещенности, причем лучший резуль- тат, следует ожидать при отношении BA nn : = = 2:1, а не при отношении BA nn : =1:1. При выборе моделей по минимуму критерия несмещенности решений следует: – избегать квадратичной и линейной про- порциональности данных, квазиоптимального разбиения, так же, как и производить «подоб- ное по дисперсии» разбиение; – использовать максимизацию нормы раз- ности информационных матриц или «неподоб- ные по дисперсии» разбиения выборки. 1. Ивахненко А.Г. Системы эвристической самоорга- низации в технической кибернетике. – Киев: Тех- ніка, 1971. – 372 с. 2. Висоцький В.М. Про найкращий поділ вихідних даних в алгоритмах МГУА // Автоматика. – 1976. – № 3. – C. 71–74. 3. Юрачковский Ю.П., Грошков А.Н. Оптимальное раз- биение исходных данных на обучающую и прове- рочную последовательности на основе анализа функ- ции распределения критерия // Там же. – 1980. – № 2. – С. 5–9. 4. Степашко В.С. Структурная идентификация про- гнозирующих моделей в условиях планируемого эксперимента // Там же. – 1992. – № 1. – С. 26–35. 5. Степашко В.С., Кондрашова Н.В. Исследование свойств критериев разбиения выборки в алгорит- мах МГУА // АСУ і прогресивні інформаційні тех- нології. – 2005. – 3. – С. 116–123. 6. Степашко В.С., Кондрашова Н.В. Анализ пробле- мы разбиения выборки для алгоритмов МГУА // Кибернетика и вычислительная техника. – 2002. – 136. – С. 3–15. 7. Степашко В.С. Метод критических дисперсий как аналитический аппарат теории индуктивного мо- делирования // Проблемы управления и информа- тики. –2008. – № 2. – С. 8–26. 8. Юрачковский Ю.П., Грошков А.Н. Применение ка- нонических форм внешних критериев для исследо- вания их свойств // Автоматика. – 1979. – № 3. – С. 85–89. Поступила 10.11.2014 Тел. для справок: +38 044 526-3028 (Киев) E-mail: nkondrashova@ukr.net © Н.В. Кондрашова, 2015 UDC 681.513.8 Kondrashova N.V. The Influence of Data Division on the Adequacy of the External Addition Criterion in Group Method of Data Handling Algorithms The article is devoted to solving the so-called "problem of the partitioning" in the group method of handling arguments (GMDH). The article is based on the results known in literature as the criterion of regularity. It investigates the problem of partiti- oning for GMDH criteria belonging to the class criterion of minimum bias (or unbiased criteria), namely, to criterion the un- 30 УСиМ, 2015, № 4 biasedness solutions. The geometric interpretation is given of the variance partitioning of samples traditionally used in diffe- rent proportions of their volumes. Formulation of diversity of species partitioning criteria is represented. The statement of the problem of models selection using the criterion of regularity on the result of optimal partitioning samples is considered and analyzed the compliance of the method partitioning and the regularity criterion. We investigate the validity of the joint application of the method data partitioning and criterion external additions in fin- ding the most accurate models. Analysis of ρ-optimal partitionings and of their practicability analogue – quasi-optimal parti- tioning of samples is given. Conformity with the criteria of the external addition mentioned partitionings when selecting the best model structure discussed. Formulated what kind of selection criterion of models should be used with the particular method of partitioning the original sample and what view of at the same time should have criterion to partitioning. Theoretical analysis substantiates the common using of maximizing the difference of dispersions in the subsamples parti- tion and minimization of external criterion unbiasedness solutions. If the condition of proportionality of data was satisfied, the theoretical substantiation and confirmation in numerical experiments were obtained. The criterion of unbiasedness pa- rameters, is not "adequate" criterion while minimizing the criterion of the sample division, but only when it is maximized. Numerical experiment at various levels of noise in the data indicates that such method partitioning contributes to finding the "true" arguments in the models in GMDH algorithms with minimization criterion unbiasedness solutions.  << /ASCII85EncodePages false /AllowTransparency false /AutoPositionEPSFiles true /AutoRotatePages /None /Binding /Left /CalGrayProfile (Dot Gain 20%) /CalRGBProfile (sRGB IEC61966-2.1) /CalCMYKProfile (U.S. Web Coated \050SWOP\051 v2) /sRGBProfile (sRGB IEC61966-2.1) /CannotEmbedFontPolicy /Error /CompatibilityLevel 1.4 /CompressObjects /Tags /CompressPages true /ConvertImagesToIndexed true /PassThroughJPEGImages true /CreateJobTicket false /DefaultRenderingIntent /Default /DetectBlends true /DetectCurves 0.0000 /ColorConversionStrategy /CMYK /DoThumbnails false /EmbedAllFonts true /EmbedOpenType false /ParseICCProfilesInComments true /EmbedJobOptions true /DSCReportingLevel 0 /EmitDSCWarnings false /EndPage -1 /ImageMemory 1048576 /LockDistillerParams false /MaxSubsetPct 100 /Optimize true /OPM 1 /ParseDSCComments true /ParseDSCCommentsForDocInfo true /PreserveCopyPage true /PreserveDICMYKValues true /PreserveEPSInfo true /PreserveFlatness true /PreserveHalftoneInfo false /PreserveOPIComments true /PreserveOverprintSettings true /StartPage 1 /SubsetFonts true /TransferFunctionInfo /Apply /UCRandBGInfo /Preserve /UsePrologue false /ColorSettingsFile () /AlwaysEmbed [ true ] /NeverEmbed [ true ] /AntiAliasColorImages false /CropColorImages true /ColorImageMinResolution 300 /ColorImageMinResolutionPolicy /OK /DownsampleColorImages true /ColorImageDownsampleType /Bicubic /ColorImageResolution 300 /ColorImageDepth -1 /ColorImageMinDownsampleDepth 1 /ColorImageDownsampleThreshold 1.50000 /EncodeColorImages true /ColorImageFilter /DCTEncode /AutoFilterColorImages true /ColorImageAutoFilterStrategy /JPEG /ColorACSImageDict << /QFactor 0.15 /HSamples [1 1 1 1] /VSamples [1 1 1 1] >> /ColorImageDict << /QFactor 0.15 /HSamples [1 1 1 1] /VSamples [1 1 1 1] >> /JPEG2000ColorACSImageDict << /TileWidth 256 /TileHeight 256 /Quality 30 >> /JPEG2000ColorImageDict << /TileWidth 256 /TileHeight 256 /Quality 30 >> /AntiAliasGrayImages false /CropGrayImages true /GrayImageMinResolution 300 /GrayImageMinResolutionPolicy /OK /DownsampleGrayImages true /GrayImageDownsampleType /Bicubic /GrayImageResolution 300 /GrayImageDepth -1 /GrayImageMinDownsampleDepth 2 /GrayImageDownsampleThreshold 1.50000 /EncodeGrayImages true /GrayImageFilter /DCTEncode /AutoFilterGrayImages true /GrayImageAutoFilterStrategy /JPEG /GrayACSImageDict << /QFactor 0.15 /HSamples [1 1 1 1] /VSamples [1 1 1 1] >> /GrayImageDict << /QFactor 0.15 /HSamples [1 1 1 1] /VSamples [1 1 1 1] >> /JPEG2000GrayACSImageDict << /TileWidth 256 /TileHeight 256 /Quality 30 >> /JPEG2000GrayImageDict << /TileWidth 256 /TileHeight 256 /Quality 30 >> /AntiAliasMonoImages false /CropMonoImages true /MonoImageMinResolution 1200 /MonoImageMinResolutionPolicy /OK /DownsampleMonoImages true /MonoImageDownsampleType /Bicubic /MonoImageResolution 1200 /MonoImageDepth -1 /MonoImageDownsampleThreshold 1.50000 /EncodeMonoImages true /MonoImageFilter /CCITTFaxEncode /MonoImageDict << /K -1 >> /AllowPSXObjects false /CheckCompliance [ /None ] /PDFX1aCheck false /PDFX3Check false /PDFXCompliantPDFOnly false /PDFXNoTrimBoxError true /PDFXTrimBoxToMediaBoxOffset [ 0.00000 0.00000 0.00000 0.00000 ] /PDFXSetBleedBoxToMediaBox true /PDFXBleedBoxToTrimBoxOffset [ 0.00000 0.00000 0.00000 0.00000 ] /PDFXOutputIntentProfile () /PDFXOutputConditionIdentifier () /PDFXOutputCondition () /PDFXRegistryName () /PDFXTrapped /False /CreateJDFFile false /Description << /ARA <FEFF06270633062A062E062F0645002006470630064700200627064406250639062F0627062F0627062A002006440625064606340627062100200648062B062706260642002000410064006F00620065002000500044004600200645062A064806270641064206290020064406440637062806270639062900200641064A00200627064406450637062706280639002006300627062A0020062F0631062C0627062A002006270644062C0648062F0629002006270644063906270644064A0629061B0020064A06450643064600200641062A062D00200648062B0627062606420020005000440046002006270644064506460634062306290020062806270633062A062E062F062706450020004100630072006F0062006100740020064800410064006F006200650020005200650061006400650072002006250635062F0627063100200035002E0030002006480627064406250635062F062706310627062A0020062706440623062D062F062B002E0635062F0627063100200035002E0030002006480627064406250635062F062706310627062A0020062706440623062D062F062B002E> /BGR <FEFF04180437043f043e043b043704320430043904420435002004420435043704380020043d0430044104420440043e0439043a0438002c00200437043000200434043000200441044a0437043404300432043004420435002000410064006f00620065002000500044004600200434043e043a0443043c0435043d04420438002c0020043c0430043a04410438043c0430043b043d043e0020043f044004380433043e04340435043d04380020043704300020043204380441043e043a043e043a0430044704350441044204320435043d0020043f04350447043004420020043704300020043f044004350434043f0435044704300442043d04300020043f043e04340433043e0442043e0432043a0430002e002000200421044a04370434043004340435043d043804420435002000500044004600200434043e043a0443043c0435043d044204380020043c043e0433043004420020043404300020044104350020043e0442043204300440044f0442002004410020004100630072006f00620061007400200438002000410064006f00620065002000520065006100640065007200200035002e00300020043800200441043b0435043404320430044904380020043204350440044104380438002e> /CHS <FEFF4f7f75288fd94e9b8bbe5b9a521b5efa7684002000410064006f006200650020005000440046002065876863900275284e8e9ad88d2891cf76845370524d53705237300260a853ef4ee54f7f75280020004100630072006f0062006100740020548c002000410064006f00620065002000520065006100640065007200200035002e003000204ee553ca66f49ad87248672c676562535f00521b5efa768400200050004400460020658768633002> /CHT <FEFF4f7f752890194e9b8a2d7f6e5efa7acb7684002000410064006f006200650020005000440046002065874ef69069752865bc9ad854c18cea76845370524d5370523786557406300260a853ef4ee54f7f75280020004100630072006f0062006100740020548c002000410064006f00620065002000520065006100640065007200200035002e003000204ee553ca66f49ad87248672c4f86958b555f5df25efa7acb76840020005000440046002065874ef63002> /CZE <FEFF005400610074006f0020006e006100730074006100760065006e00ed00200070006f0075017e0069006a007400650020006b0020007600790074007600e101590065006e00ed00200064006f006b0075006d0065006e0074016f002000410064006f006200650020005000440046002c0020006b00740065007200e90020007300650020006e0065006a006c00e90070006500200068006f006400ed002000700072006f0020006b00760061006c00690074006e00ed0020007400690073006b00200061002000700072006500700072006500730073002e002000200056007900740076006f01590065006e00e900200064006f006b0075006d0065006e007400790020005000440046002000620075006400650020006d006f017e006e00e90020006f007400650076015900ed007400200076002000700072006f006700720061006d0065006300680020004100630072006f00620061007400200061002000410064006f00620065002000520065006100640065007200200035002e0030002000610020006e006f0076011b006a016100ed00630068002e> /DAN <FEFF004200720075006700200069006e0064007300740069006c006c0069006e006700650072006e0065002000740069006c0020006100740020006f007000720065007400740065002000410064006f006200650020005000440046002d0064006f006b0075006d0065006e007400650072002c0020006400650072002000620065006400730074002000650067006e006500720020007300690067002000740069006c002000700072006500700072006500730073002d007500640073006b007200690076006e0069006e00670020006100660020006800f8006a0020006b00760061006c0069007400650074002e0020004400650020006f007000720065007400740065006400650020005000440046002d0064006f006b0075006d0065006e0074006500720020006b0061006e002000e50062006e00650073002000690020004100630072006f00620061007400200065006c006c006500720020004100630072006f006200610074002000520065006100640065007200200035002e00300020006f00670020006e0079006500720065002e> /DEU <FEFF00560065007200770065006e00640065006e0020005300690065002000640069006500730065002000450069006e007300740065006c006c0075006e00670065006e0020007a0075006d002000450072007300740065006c006c0065006e00200076006f006e002000410064006f006200650020005000440046002d0044006f006b0075006d0065006e00740065006e002c00200076006f006e002000640065006e0065006e002000530069006500200068006f006300680077006500720074006900670065002000500072006500700072006500730073002d0044007200750063006b0065002000650072007a0065007500670065006e0020006d00f60063006800740065006e002e002000450072007300740065006c006c007400650020005000440046002d0044006f006b0075006d0065006e007400650020006b00f6006e006e0065006e0020006d006900740020004100630072006f00620061007400200075006e0064002000410064006f00620065002000520065006100640065007200200035002e00300020006f0064006500720020006800f600680065007200200067006500f600660066006e00650074002000770065007200640065006e002e> /ESP <FEFF005500740069006c0069006300650020006500730074006100200063006f006e0066006900670075007200610063006900f3006e0020007000610072006100200063007200650061007200200064006f00630075006d0065006e0074006f00730020005000440046002000640065002000410064006f0062006500200061006400650063007500610064006f00730020007000610072006100200069006d0070007200650073006900f3006e0020007000720065002d0065006400690074006f007200690061006c00200064006500200061006c00740061002000630061006c0069006400610064002e002000530065002000700075006500640065006e00200061006200720069007200200064006f00630075006d0065006e0074006f00730020005000440046002000630072006500610064006f007300200063006f006e0020004100630072006f006200610074002c002000410064006f00620065002000520065006100640065007200200035002e003000200079002000760065007200730069006f006e0065007300200070006f00730074006500720069006f007200650073002e> /ETI <FEFF004b00610073007500740061006700650020006e0065006900640020007300e4007400740065006900640020006b00760061006c006900740065006500740073006500200074007200fc006b006900650065006c007300650020007000720069006e00740069006d0069007300650020006a0061006f006b007300200073006f00620069006c0069006b0065002000410064006f006200650020005000440046002d0064006f006b0075006d0065006e00740069006400650020006c006f006f006d006900730065006b0073002e00200020004c006f006f0064007500640020005000440046002d0064006f006b0075006d0065006e00740065002000730061006100740065002000610076006100640061002000700072006f006700720061006d006d006900640065006700610020004100630072006f0062006100740020006e0069006e0067002000410064006f00620065002000520065006100640065007200200035002e00300020006a00610020007500750065006d006100740065002000760065007200730069006f006f006e00690064006500670061002e000d000a> /FRA <FEFF005500740069006c006900730065007a00200063006500730020006f007000740069006f006e00730020006100660069006e00200064006500200063007200e900650072002000640065007300200064006f00630075006d0065006e00740073002000410064006f00620065002000500044004600200070006f0075007200200075006e00650020007100750061006c0069007400e90020006400270069006d007000720065007300730069006f006e00200070007200e9007000720065007300730065002e0020004c0065007300200064006f00630075006d0065006e00740073002000500044004600200063007200e900e90073002000700065007500760065006e0074002000ea0074007200650020006f007500760065007200740073002000640061006e00730020004100630072006f006200610074002c002000610069006e00730069002000710075002700410064006f00620065002000520065006100640065007200200035002e0030002000650074002000760065007200730069006f006e007300200075006c007400e90072006900650075007200650073002e> /GRE <FEFF03a703c103b703c303b903bc03bf03c003bf03b903ae03c303c403b5002003b103c503c403ad03c2002003c403b903c2002003c103c503b803bc03af03c303b503b903c2002003b303b903b1002003bd03b1002003b403b703bc03b903bf03c503c103b303ae03c303b503c403b5002003ad03b303b303c103b103c603b1002000410064006f006200650020005000440046002003c003bf03c5002003b503af03bd03b103b9002003ba03b103c42019002003b503be03bf03c703ae03bd002003ba03b103c403ac03bb03bb03b703bb03b1002003b303b903b1002003c003c103bf002d03b503ba03c403c503c003c903c403b903ba03ad03c2002003b503c103b303b103c303af03b503c2002003c503c803b703bb03ae03c2002003c003bf03b903cc03c403b703c403b103c2002e0020002003a403b10020005000440046002003ad03b303b303c103b103c603b1002003c003bf03c5002003ad03c703b503c403b5002003b403b703bc03b903bf03c503c103b303ae03c303b503b9002003bc03c003bf03c103bf03cd03bd002003bd03b1002003b103bd03bf03b903c703c403bf03cd03bd002003bc03b5002003c403bf0020004100630072006f006200610074002c002003c403bf002000410064006f00620065002000520065006100640065007200200035002e0030002003ba03b103b9002003bc03b503c403b103b303b503bd03ad03c303c403b503c103b503c2002003b503ba03b403cc03c303b503b903c2002e> /HEB <FEFF05D405E905EA05DE05E905D5002005D105D405D205D305E805D505EA002005D005DC05D4002005DB05D305D9002005DC05D905E605D505E8002005DE05E105DE05DB05D9002000410064006F006200650020005000440046002005D405DE05D505EA05D005DE05D905DD002005DC05D405D305E405E105EA002005E705D305DD002D05D305E405D505E1002005D005D905DB05D505EA05D905EA002E002005DE05E105DE05DB05D90020005000440046002005E905E005D505E605E805D5002005E005D905EA05E005D905DD002005DC05E405EA05D905D705D4002005D105D005DE05E605E205D505EA0020004100630072006F006200610074002005D5002D00410064006F00620065002000520065006100640065007200200035002E0030002005D505D205E805E105D005D505EA002005DE05EA05E705D305DE05D505EA002005D905D505EA05E8002E05D005DE05D905DD002005DC002D005000440046002F0058002D0033002C002005E205D905D905E005D5002005D105DE05D305E805D905DA002005DC05DE05E905EA05DE05E9002005E905DC0020004100630072006F006200610074002E002005DE05E105DE05DB05D90020005000440046002005E905E005D505E605E805D5002005E005D905EA05E005D905DD002005DC05E405EA05D905D705D4002005D105D005DE05E605E205D505EA0020004100630072006F006200610074002005D5002D00410064006F00620065002000520065006100640065007200200035002E0030002005D505D205E805E105D005D505EA002005DE05EA05E705D305DE05D505EA002005D905D505EA05E8002E> /HRV (Za stvaranje Adobe PDF dokumenata najpogodnijih za visokokvalitetni ispis prije tiskanja koristite ove postavke. Stvoreni PDF dokumenti mogu se otvoriti Acrobat i Adobe Reader 5.0 i kasnijim verzijama.) /HUN <FEFF004b0069007600e1006c00f30020006d0069006e0151007300e9006701710020006e0079006f006d00640061006900200065006c0151006b00e90073007a00ed007401510020006e0079006f006d00740061007400e100730068006f007a0020006c006500670069006e006b00e1006200620020006d0065006700660065006c0065006c0151002000410064006f00620065002000500044004600200064006f006b0075006d0065006e00740075006d006f006b0061007400200065007a0065006b006b0065006c0020006100200062006500e1006c006c00ed007400e10073006f006b006b0061006c0020006b00e90073007a00ed0074006800650074002e0020002000410020006c00e90074007200650068006f007a006f00740074002000500044004600200064006f006b0075006d0065006e00740075006d006f006b00200061007a0020004100630072006f006200610074002000e9007300200061007a002000410064006f00620065002000520065006100640065007200200035002e0030002c0020007600610067007900200061007a002000610074007400f3006c0020006b00e9007301510062006200690020007600650072007a006900f3006b006b0061006c0020006e00790069007400680061007400f3006b0020006d00650067002e> /ITA <FEFF005500740069006c0069007a007a006100720065002000710075006500730074006500200069006d0070006f007300740061007a0069006f006e00690020007000650072002000630072006500610072006500200064006f00630075006d0065006e00740069002000410064006f00620065002000500044004600200070006900f900200061006400610074007400690020006100200075006e00610020007000720065007300740061006d0070006100200064006900200061006c007400610020007100750061006c0069007400e0002e0020004900200064006f00630075006d0065006e007400690020005000440046002000630072006500610074006900200070006f00730073006f006e006f0020006500730073006500720065002000610070006500720074006900200063006f006e0020004100630072006f00620061007400200065002000410064006f00620065002000520065006100640065007200200035002e003000200065002000760065007200730069006f006e006900200073007500630063006500730073006900760065002e> /JPN <FEFF9ad854c18cea306a30d730ea30d730ec30b951fa529b7528002000410064006f0062006500200050004400460020658766f8306e4f5c6210306b4f7f75283057307e305930023053306e8a2d5b9a30674f5c62103055308c305f0020005000440046002030d530a130a430eb306f3001004100630072006f0062006100740020304a30883073002000410064006f00620065002000520065006100640065007200200035002e003000204ee5964d3067958b304f30533068304c3067304d307e305930023053306e8a2d5b9a306b306f30d530a930f330c8306e57cb30818fbc307f304c5fc59808306730593002> /KOR <FEFFc7740020c124c815c7440020c0acc6a9d558c5ec0020ace0d488c9c80020c2dcd5d80020c778c1c4c5d00020ac00c7a50020c801d569d55c002000410064006f0062006500200050004400460020bb38c11cb97c0020c791c131d569b2c8b2e4002e0020c774b807ac8c0020c791c131b41c00200050004400460020bb38c11cb2940020004100630072006f0062006100740020bc0f002000410064006f00620065002000520065006100640065007200200035002e00300020c774c0c1c5d0c11c0020c5f40020c2180020c788c2b5b2c8b2e4002e> /LTH <FEFF004e006100750064006f006b0069007400650020016100690075006f007300200070006100720061006d006500740072007500730020006e006f0072011700640061006d00690020006b0075007200740069002000410064006f00620065002000500044004600200064006f006b0075006d0065006e007400750073002c0020006b00750072006900650020006c0061006200690061007500730069006100690020007000720069007400610069006b007900740069002000610075006b01610074006f00730020006b006f006b007900620117007300200070006100720065006e006700740069006e00690061006d00200073007000610075007300640069006e0069006d00750069002e0020002000530075006b0075007200740069002000500044004600200064006f006b0075006d0065006e007400610069002000670061006c006900200062016b007400690020006100740069006400610072006f006d00690020004100630072006f006200610074002000690072002000410064006f00620065002000520065006100640065007200200035002e0030002000610072002000760117006c00650073006e0117006d00690073002000760065007200730069006a006f006d00690073002e> /LVI <FEFF0049007a006d0061006e0074006f006a00690065007400200161006f00730020006900650073007400610074012b006a0075006d00750073002c0020006c0061006900200076006500690064006f00740075002000410064006f00620065002000500044004600200064006f006b0075006d0065006e007400750073002c0020006b006100730020006900720020012b00700061016100690020007000690065006d01130072006f00740069002000610075006700730074006100730020006b00760061006c0069007401010074006500730020007000690072006d007300690065007300700069006501610061006e006100730020006400720075006b00610069002e00200049007a0076006500690064006f006a006900650074002000500044004600200064006f006b0075006d0065006e007400750073002c0020006b006f002000760061007200200061007400760113007200740020006100720020004100630072006f00620061007400200075006e002000410064006f00620065002000520065006100640065007200200035002e0030002c0020006b0101002000610072012b00200074006f0020006a00610075006e0101006b0101006d002000760065007200730069006a0101006d002e> /NLD (Gebruik deze instellingen om Adobe PDF-documenten te maken die zijn geoptimaliseerd voor prepress-afdrukken van hoge kwaliteit. De gemaakte PDF-documenten kunnen worden geopend met Acrobat en Adobe Reader 5.0 en hoger.) /NOR <FEFF004200720075006b00200064006900730073006500200069006e006e007300740069006c006c0069006e00670065006e0065002000740069006c002000e50020006f0070007000720065007400740065002000410064006f006200650020005000440046002d0064006f006b0075006d0065006e00740065007200200073006f006d00200065007200200062006500730074002000650067006e0065007400200066006f00720020006600f80072007400720079006b006b0073007500740073006b00720069006600740020006100760020006800f800790020006b00760061006c0069007400650074002e0020005000440046002d0064006f006b0075006d0065006e00740065006e00650020006b0061006e002000e50070006e00650073002000690020004100630072006f00620061007400200065006c006c00650072002000410064006f00620065002000520065006100640065007200200035002e003000200065006c006c00650072002000730065006e006500720065002e> /POL <FEFF0055007300740061007700690065006e0069006100200064006f002000740077006f0072007a0065006e0069006100200064006f006b0075006d0065006e007400f300770020005000440046002000700072007a0065007a006e00610063007a006f006e00790063006800200064006f002000770079006400720075006b00f30077002000770020007700790073006f006b00690065006a0020006a0061006b006f015b00630069002e002000200044006f006b0075006d0065006e0074007900200050004400460020006d006f017c006e00610020006f007400770069006500720061010700200077002000700072006f006700720061006d006900650020004100630072006f00620061007400200069002000410064006f00620065002000520065006100640065007200200035002e0030002000690020006e006f00770073007a0079006d002e> /PTB <FEFF005500740069006c0069007a006500200065007300730061007300200063006f006e00660069006700750072006100e700f50065007300200064006500200066006f0072006d00610020006100200063007200690061007200200064006f00630075006d0065006e0074006f0073002000410064006f0062006500200050004400460020006d00610069007300200061006400650071007500610064006f00730020007000610072006100200070007200e9002d0069006d0070007200650073007300f50065007300200064006500200061006c007400610020007100750061006c00690064006100640065002e0020004f007300200064006f00630075006d0065006e0074006f00730020005000440046002000630072006900610064006f007300200070006f00640065006d0020007300650072002000610062006500720074006f007300200063006f006d0020006f0020004100630072006f006200610074002000650020006f002000410064006f00620065002000520065006100640065007200200035002e0030002000650020007600650072007300f50065007300200070006f00730074006500720069006f007200650073002e> /RUM <FEFF005500740069006c0069007a00610163006900200061006300650073007400650020007300650074010300720069002000700065006e007400720075002000610020006300720065006100200064006f00630075006d0065006e00740065002000410064006f006200650020005000440046002000610064006500630076006100740065002000700065006e0074007200750020007400690070010300720069007200650061002000700072006500700072006500730073002000640065002000630061006c006900740061007400650020007300750070006500720069006f006100720103002e002000200044006f00630075006d0065006e00740065006c00650020005000440046002000630072006500610074006500200070006f00740020006600690020006400650073006300680069007300650020006300750020004100630072006f006200610074002c002000410064006f00620065002000520065006100640065007200200035002e00300020015f00690020007600650072007300690075006e0069006c006500200075006c0074006500720069006f006100720065002e> /RUS <FEFF04180441043f043e043b044c04370443043904420435002004340430043d043d044b04350020043d0430044104420440043e0439043a043800200434043b044f00200441043e043704340430043d0438044f00200434043e043a0443043c0435043d0442043e0432002000410064006f006200650020005000440046002c0020043c0430043a04410438043c0430043b044c043d043e0020043f043e04340445043e0434044f04490438044500200434043b044f00200432044b0441043e043a043e043a0430044704350441044204320435043d043d043e0433043e00200434043e043f0435044704300442043d043e0433043e00200432044b0432043e04340430002e002000200421043e043704340430043d043d044b04350020005000440046002d0434043e043a0443043c0435043d0442044b0020043c043e0436043d043e0020043e0442043a0440044b043204300442044c002004410020043f043e043c043e0449044c044e0020004100630072006f00620061007400200438002000410064006f00620065002000520065006100640065007200200035002e00300020043800200431043e043b043504350020043f043e04370434043d043804450020043204350440044104380439002e> /SKY <FEFF0054006900650074006f0020006e006100730074006100760065006e0069006100200070006f0075017e0069007400650020006e00610020007600790074007600e100720061006e0069006500200064006f006b0075006d0065006e0074006f0076002000410064006f006200650020005000440046002c0020006b0074006f007200e90020007300610020006e0061006a006c0065007001610069006500200068006f0064006900610020006e00610020006b00760061006c00690074006e00fa00200074006c0061010d00200061002000700072006500700072006500730073002e00200056007900740076006f00720065006e00e900200064006f006b0075006d0065006e007400790020005000440046002000620075006400650020006d006f017e006e00e90020006f00740076006f00720069016500200076002000700072006f006700720061006d006f006300680020004100630072006f00620061007400200061002000410064006f00620065002000520065006100640065007200200035002e0030002000610020006e006f0076016100ed00630068002e> /SLV <FEFF005400650020006e006100730074006100760069007400760065002000750070006f0072006100620069007400650020007a00610020007500730074007600610072006a0061006e006a006500200064006f006b0075006d0065006e0074006f0076002000410064006f006200650020005000440046002c0020006b006900200073006f0020006e0061006a007000720069006d00650072006e0065006a016100690020007a00610020006b0061006b006f0076006f00730074006e006f0020007400690073006b0061006e006a00650020007300200070007200690070007200610076006f0020006e00610020007400690073006b002e00200020005500730074007600610072006a0065006e006500200064006f006b0075006d0065006e0074006500200050004400460020006a00650020006d006f0067006f010d00650020006f0064007000720065007400690020007a0020004100630072006f00620061007400200069006e002000410064006f00620065002000520065006100640065007200200035002e003000200069006e0020006e006f00760065006a01610069006d002e> /SUO <FEFF004b00e40079007400e40020006e00e40069007400e4002000610073006500740075006b007300690061002c0020006b0075006e0020006c0075006f00740020006c00e400680069006e006e00e4002000760061006100740069007600610061006e0020007000610069006e006100740075006b00730065006e002000760061006c006d0069007300740065006c00750074007900f6006800f6006e00200073006f00700069007600690061002000410064006f0062006500200050004400460020002d0064006f006b0075006d0065006e007400740065006a0061002e0020004c0075006f0064007500740020005000440046002d0064006f006b0075006d0065006e00740069007400200076006f0069006400610061006e0020006100760061007400610020004100630072006f0062006100740069006c006c00610020006a0061002000410064006f00620065002000520065006100640065007200200035002e0030003a006c006c00610020006a006100200075007500640065006d006d0069006c006c0061002e> /SVE <FEFF0041006e007600e4006e00640020006400650020006800e4007200200069006e0073007400e4006c006c006e0069006e006700610072006e00610020006f006d002000640075002000760069006c006c00200073006b006100700061002000410064006f006200650020005000440046002d0064006f006b0075006d0065006e007400200073006f006d002000e400720020006c00e4006d0070006c0069006700610020006600f60072002000700072006500700072006500730073002d007500740073006b00720069006600740020006d006500640020006800f600670020006b00760061006c0069007400650074002e002000200053006b006100700061006400650020005000440046002d0064006f006b0075006d0065006e00740020006b0061006e002000f600700070006e00610073002000690020004100630072006f0062006100740020006f00630068002000410064006f00620065002000520065006100640065007200200035002e00300020006f00630068002000730065006e006100720065002e> /TUR <FEFF005900fc006b00730065006b0020006b0061006c006900740065006c0069002000f6006e002000790061007a006401310072006d00610020006200610073006b013100730131006e006100200065006e0020006900790069002000750079006100620069006c006500630065006b002000410064006f006200650020005000440046002000620065006c00670065006c0065007200690020006f006c0075015f007400750072006d0061006b0020006900e70069006e00200062007500200061007900610072006c0061007201310020006b0075006c006c0061006e0131006e002e00200020004f006c0075015f0074007500720075006c0061006e0020005000440046002000620065006c00670065006c0065007200690020004100630072006f006200610074002000760065002000410064006f00620065002000520065006100640065007200200035002e003000200076006500200073006f006e0072006100730131006e00640061006b00690020007300fc007200fc006d006c00650072006c00650020006100e70131006c006100620069006c00690072002e> /UKR <FEFF04120438043a043e0440043804410442043e043204430439044204350020044604560020043f043004400430043c043504420440043800200434043b044f0020044104420432043e04400435043d043d044f00200434043e043a0443043c0435043d044204560432002000410064006f006200650020005000440046002c0020044f043a04560020043d04300439043a04400430044904350020043f045604340445043e0434044f0442044c00200434043b044f0020043204380441043e043a043e044f043a04560441043d043e0433043e0020043f0435044004350434043404400443043a043e0432043e0433043e0020043404400443043a0443002e00200020042104420432043e04400435043d045600200434043e043a0443043c0435043d0442043800200050004400460020043c043e0436043d04300020043204560434043a0440043804420438002004430020004100630072006f006200610074002004420430002000410064006f00620065002000520065006100640065007200200035002e0030002004300431043e0020043f04560437043d04560448043e04570020043204350440044104560457002e> /ENU (Use these settings to create Adobe PDF documents best suited for high-quality prepress printing. Created PDF documents can be opened with Acrobat and Adobe Reader 5.0 and later.) >> /Namespace [ (Adobe) (Common) (1.0) ] /OtherNamespaces [ << /AsReaderSpreads false /CropImagesToFrames true /ErrorControl /WarnAndContinue /FlattenerIgnoreSpreadOverrides false /IncludeGuidesGrids false /IncludeNonPrinting false /IncludeSlug false /Namespace [ (Adobe) (InDesign) (4.0) ] /OmitPlacedBitmaps false /OmitPlacedEPS false /OmitPlacedPDF false /SimulateOverprint /Legacy >> << /AddBleedMarks false /AddColorBars false /AddCropMarks false /AddPageInfo false /AddRegMarks false /ConvertColors /ConvertToCMYK /DestinationProfileName () /DestinationProfileSelector /DocumentCMYK /Downsample16BitImages true /FlattenerPreset << /PresetSelector /MediumResolution >> /FormElements false /GenerateStructure false /IncludeBookmarks false /IncludeHyperlinks false /IncludeInteractive false /IncludeLayers false /IncludeProfiles false /MultimediaHandling /UseObjectSettings /Namespace [ (Adobe) (CreativeSuite) (2.0) ] /PDFXOutputIntentProfileSelector /DocumentCMYK /PreserveEditing true /UntaggedCMYKHandling /LeaveUntagged /UntaggedRGBHandling /UseDocumentProfile /UseDocumentBleed false >> ] >> setdistillerparams << /HWResolution [2400 2400] /PageSize [612.000 792.000] >> setpagedevice