Обобщение информационного критерия Акаике для выбора значений непрерывных параметров в моделях данных
Применение информационного критерия Акаике (AIC) для выбора класса модели из упорядоченного множества вложенных классов моделей ограничено предположением, что классы определяются возрастающей размерностью вектора параметров. Мы распространили принцип максимума информации по Кульбаку, лежащий в основ...
Збережено в:
Дата: | 2009 |
---|---|
Автори: | , , |
Формат: | Стаття |
Мова: | Russian |
Опубліковано: |
Кримський науковий центр НАН України і МОН України
2009
|
Назва видання: | Кримський науковий центр НАН України і МОН України |
Онлайн доступ: | http://dspace.nbuv.gov.ua/handle/123456789/18216 |
Теги: |
Додати тег
Немає тегів, Будьте першим, хто поставить тег для цього запису!
|
Назва журналу: | Digital Library of Periodicals of National Academy of Sciences of Ukraine |
Цитувати: | Обобщение информационного критерия Акаике для выбора значений непрерывных параметров в моделях данных / Е.О. Ежова, В.В. Моттль, О.В. Красоткина // Таврический вестник информатики и математики. — 2009. — № 1. — С. 61-70. — Бібліогр.: 7 назв. — рос. |
Репозитарії
Digital Library of Periodicals of National Academy of Sciences of Ukraineid |
irk-123456789-18216 |
---|---|
record_format |
dspace |
spelling |
irk-123456789-182162011-03-19T12:04:18Z Обобщение информационного критерия Акаике для выбора значений непрерывных параметров в моделях данных Ежова, Е.О. Моттль, В.В. Красоткина, О.В. Применение информационного критерия Акаике (AIC) для выбора класса модели из упорядоченного множества вложенных классов моделей ограничено предположением, что классы определяются возрастающей размерностью вектора параметров. Мы распространили принцип максимума информации по Кульбаку, лежащий в основе классического информационного критерия Акаике, на более широкий класс моделей, в котором размерность вектора параметров фиксирована, но свобода выбора его значений ограничена системой непрерывно вложенных семейств априорных плотностей распределения. Мы проиллюстрировали применение обобщенного критерия Акаике на задаче анализа нестационарного сигнала, регрессионная модель которого меняется во времени. Застосування інформаційного критерія Акаике (АІС) для вибору класу моделі з упорядкованої множини вкладених класів моделей обмежено припущенням, що класи визначаються зростаючої розмірністю вектора параметрів. Ми поширили принцип максимуму інформації за Кульбаку, що лежить в основі класичного інформаційного критерію Акаике, на більш широкий клас моделей, в якому розмірність вектора параметрів фіксована, але свобода вибору його значень обмежена системою безперервних вкладених сімейств апріорних плотностей розподілу. Ми проілюстрували застосування узагальненого критерію Акаике на задачі аналізу нестаціонарного сигналу, регресійна модель якого змінюється за часом. The crucial restriction of the Akaike Information Criterion (AIC) as means of adjusting a model to the given data set within a succession of nested parametric model classes is the assumption that the classes are rigidly defined by the growing dimension of an unknown vector parameter. We extend the Kullback information maximization principle underlying the classical AIC onto a wider class of data models in which the dimension of the parameter is fixed, but the freedom of its values is softly constrained by a class of continuously nested a priori probability distributions. We illustrate theproposed continuous generalization of AIC by its application to the problem of time-varying regression estimation which implies the inevitable necessity to choose the time-variability of regression coefficients treated a nonstationary model of the given signal. 2009 Article Обобщение информационного критерия Акаике для выбора значений непрерывных параметров в моделях данных / Е.О. Ежова, В.В. Моттль, О.В. Красоткина // Таврический вестник информатики и математики. — 2009. — № 1. — С. 61-70. — Бібліогр.: 7 назв. — рос. 1729-3901 http://dspace.nbuv.gov.ua/handle/123456789/18216 004.9311 ru Кримський науковий центр НАН України і МОН України Кримський науковий центр НАН України і МОН України |
institution |
Digital Library of Periodicals of National Academy of Sciences of Ukraine |
collection |
DSpace DC |
language |
Russian |
description |
Применение информационного критерия Акаике (AIC) для выбора класса модели из упорядоченного множества вложенных классов моделей ограничено предположением, что классы определяются возрастающей размерностью вектора параметров. Мы распространили принцип максимума информации по Кульбаку, лежащий в основе классического информационного критерия Акаике, на более широкий класс моделей, в котором размерность вектора параметров фиксирована, но свобода выбора его значений ограничена системой непрерывно вложенных семейств априорных плотностей распределения. Мы проиллюстрировали применение обобщенного критерия Акаике на задаче анализа нестационарного сигнала, регрессионная модель которого меняется во времени. |
format |
Article |
author |
Ежова, Е.О. Моттль, В.В. Красоткина, О.В. |
spellingShingle |
Ежова, Е.О. Моттль, В.В. Красоткина, О.В. Обобщение информационного критерия Акаике для выбора значений непрерывных параметров в моделях данных Кримський науковий центр НАН України і МОН України |
author_facet |
Ежова, Е.О. Моттль, В.В. Красоткина, О.В. |
author_sort |
Ежова, Е.О. |
title |
Обобщение информационного критерия Акаике для выбора значений непрерывных параметров в моделях данных |
title_short |
Обобщение информационного критерия Акаике для выбора значений непрерывных параметров в моделях данных |
title_full |
Обобщение информационного критерия Акаике для выбора значений непрерывных параметров в моделях данных |
title_fullStr |
Обобщение информационного критерия Акаике для выбора значений непрерывных параметров в моделях данных |
title_full_unstemmed |
Обобщение информационного критерия Акаике для выбора значений непрерывных параметров в моделях данных |
title_sort |
обобщение информационного критерия акаике для выбора значений непрерывных параметров в моделях данных |
publisher |
Кримський науковий центр НАН України і МОН України |
publishDate |
2009 |
url |
http://dspace.nbuv.gov.ua/handle/123456789/18216 |
citation_txt |
Обобщение информационного критерия Акаике для выбора значений непрерывных параметров в моделях данных / Е.О. Ежова, В.В. Моттль, О.В. Красоткина // Таврический вестник информатики и математики. — 2009. — № 1. — С. 61-70. — Бібліогр.: 7 назв. — рос. |
series |
Кримський науковий центр НАН України і МОН України |
work_keys_str_mv |
AT ežovaeo obobŝenieinformacionnogokriteriâakaikedlâvyboraznačenijnepreryvnyhparametrovvmodelâhdannyh AT mottlʹvv obobŝenieinformacionnogokriteriâakaikedlâvyboraznačenijnepreryvnyhparametrovvmodelâhdannyh AT krasotkinaov obobŝenieinformacionnogokriteriâakaikedlâvyboraznačenijnepreryvnyhparametrovvmodelâhdannyh |
first_indexed |
2025-07-02T19:18:48Z |
last_indexed |
2025-07-02T19:18:48Z |
_version_ |
1836564012499730432 |
fulltext |
ÓÄÊ 004.9311ÎÁÎÁÙÅÍÈÅ ÈÍÔÎ�ÌÀÖÈÎÍÍÎ�Î Ê�ÈÒÅ�Èß ÀÊÀÈÊÅ ÄËßÂÛÁÎ�À ÇÍÀ×ÅÍÈÉ ÍÅÏ�Å�ÛÂÍÛÕ ÏÀ�ÀÌÅÒ�ΠÂÌÎÄÅËßÕ ÄÀÍÍÛÕ
Åæîâà E.Î., Ìîòòëü Â.Â., Êðàñîòêèíà Î.Â.Ìîñêîâñêèé Ôèçèêî-Tåõíè÷åñêèé èíñòèòóòÈíñòèòóòñêèé ïåð, 9, ã. Äîëãîïðóäíûé, 141700, �îññèÿe-mail: lena-ezhova�rambler.ruÂÖ �ÀÍóë Âàâèëîâà, 40, ã. Ìîñêâà, 117967, �îññèÿe-mail: vmottl�yandex.ruÒóë�Óïð-ò Ëåíèíà, 92, ã. Òóëà, 300600, �îññèÿe-mail: krasotkina�ui
.tula.ruAbstra
t. The
ru
ial restri
tion of the Akaike Information Criterion (AIC) as means of adjustinga model to the given data set within a su
ession of nested parametri
model
lasses is the assumptionthat the
lasses are rigidly de�ned by the growing dimension of an unknown ve
tor parameter. We extendthe Kullba
k information maximization prin
iple underlying the
lassi
al AIC onto a wider
lass of datamodels in whi
h the dimension of the parameter is �xed, but the freedom of its values is softly
onstrainedby a
lass of
ontinuously nested a priori probability distributions We illustrate the proposed
ontinuousgeneralization of AIC by its appli
ation to the problem of time-varying regression estimation whi
h impliesthe inevitable ne
essity to
hoose the time-variability of regression
oe�
ients treated a nonstationarymodel of the given signal. ÂâåäåíèåØèðîêî èñïîëüçóåìûé â ñîâðåìåííîì àíàëèçå äàííûõ èí�îðìàöèîííûé êðèòå-ðèé Àêàèêå (AIC) [1℄ ÿâëÿåòñÿ ïðîñòûì è ý��åêòèâíûì ñïîñîáîì âûáîðà íàèáîëååàäåêâàòíîãî êëàññà ìîäåëè èç óïîðÿäî÷åííîãî äèñêðåòíîãî ìíîæåñòâà âëîæåííûõêëàññîâ ìîäåëåé. êëàññè÷åñêîé ïîñòàíîâêå êðèòåðèÿ îáû÷íî ðàññìàòðèâàåòñÿ âûáîðêày = (yj; j = 1; : : : ; N) íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí ñ íåèçâåñòíîé ïëîòíîñòüþðàñïðåäåëåíèÿ '�(y), ïðèíàäëåæàùåé íåêîòîðîìó ïàðàìåòðè÷åñêîìó ñåìåéñòâó'(y j
),
2 Rm . ×àñòî ðàçìåðíîñòü âåêòîðà ïàðàìåòðîâ m îêàçûâàåòñÿ î÷åíü áîëü-øîé è ñóùåñòâåííî ïðåâîñõîäèò ðàçìåð îáó÷àþùåé âûáîðêè N , ÷òî äåëàåò áåññìûñ-ëåííûì ïðèìåíåíèå äëÿ îöåíèâàíèÿ âåêòîðà ïàðàìåòðîâ
ïðèíöèïà ìàêñèìàëüíîãîïðàâäîïîäîáèÿ.
̂(y) = argmax ln�(y j
); ln�(y j
) = NXj=1 ln'(yj j
): (1)Åñëè æå ïðåäïîëîæèòü, ÷òî ýëåìåíòû âåêòîðà
îáëàäàþò åñòåñòâåííîé óïîðÿ-äî÷åííîñòüþ ïî ñòåïåíè çíà÷èìîñòè è ïðè ýòîì
i = 0, n < i � m:
= (
n;
m�n);
n 2 Rn ;
m�n = 0 2 Rm�n : (2)
62 Åæîâà E.Î., Ìîòòëü Â.Â., Êðàñîòêèíà Î.Â.òî ýòî ïîçâîëèò íàì ðàññìîòðåòü ïàðàìåòðè÷åñêîå ñåìåéñòâî �(y j
) êàê ïîñëåäîâà-òåëüíîñòü âëîæåííûõ êëàññîâ ìîäåëåé ��y j
= (
n j0)�, Rnmin � � � � � Rnmax .Êðèòåðèé AIC â êëàññè÷åñêîé ïîñòàíîâêå ÿâëÿåòñÿ ñïîñîáîì îöåíèâàíèÿïîäõîäÿùåé ðàçìåðíîñòè âåêòîðà ïàðàìåòðîâ, êàê ìåðû ñëîæíîñòè ìîäåëèn̂ = argmaxnhln��y j
n(y)� � ni. Îäíàêî ýòî �îðìóëà ïîëó÷åíà â ïðåäïîëîæåíèè,÷òî ãåññèàí 52
n
n ln�(y j
n; 0) â òî÷êå ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ èìååò ïîëíûéðàíã, à çíà÷èò è îöåíêà
̂n(y) � åäèíñòâåííàÿ.  áîëåå îáùåì ñëó÷àå çàìåíèì øòðà�n íà ðàíã ìàòðèöûn̂ = argmaxn nln��y j
n(y); 0�� rank�52
n
n ln�(y j
n; 0)�o (3) îñíîâå êëàññè÷åñêîãî AIC ëåæèò ïðèíöèï ìàêñèìèçàöèè èí�îðìàöèè ïî Êóëü-áàêó ìåæäó ìîäåëüþ ïëîòíîñòè ðàñïðåäåëåíèÿ è íàñòîÿùåé ãèïîòåòè÷åñêîé ïëîòíî-ñòüþ ðàñïðåäåëåíèÿ. n� = argmaxn Z �ln�(y jn;
�n)���(y)dy (4)åñòü æåëàåìàÿ ðàçìåðíîñòü â ïðåäïîëîæåíèè, ÷òî ��(y) = �(y j
�n�) ñ íåêîòîðûìçíà÷åíèåì (
�n�0), âûðåçàííîãî èç íåèçâåñòíîãî
� = (
�1; : : : ;
�m)Îäíèì èç ïåðâûõ ïðèìåíåíèé AIC áûëî ìîäåëèðîâàíèå íåñòàöèîíàðíîãî ñèãíà-ëà íà äèñêðåòíîé âðåìåííîé îñè, ðàçäåëåííîé íà íà íåèçâåñòíîå êîëè÷åñòâî n èí-òåðâàëüíûõ áëîêîâ, è ïðîâåðêà ëîêàëüíîé ñòàöèîíàðíîñòè ìîäåëè àâòîðåãðåññèè ñ�èêñèðîâàííûì ïîðÿäêîì k íà êàæäîì èõ íèõ [2℄.Ñî âðåìåí ïóáëèêàöèè ïåðâîé ñòàòüè Àêàèêå áûëî ïðåäëîæåíî ìíîãî ìîäè�è-êàöèé ýòîãî êðèòåðèÿ [3, 4, 5, 6℄. Ñðåäè íèõ Áàéåñîâñêèé èí�îðìàöèîííûé êðèòåðèé(BIC) [3℄ íàøåë áîëåå øèðîêîå ïðèìåíåíèå. Îäíàêî âñå îíè áûëè íàöåëåíû íà âû-áîð ðàçìåðíîñòè âåêòîðà ïàðàìåòðîâ äëÿ ñëó÷àÿ èçâåñòíîé óïîðÿäî÷åííîñòè åãîýëåìåíòîâ ïî ñòåïåíè çíà÷èìîñòè. äàííîé ðàáîòå ïðåäëàãàåòñÿ ñîâåðøåííî íîâîå îáîáùåíèå êðèòåðèÿ Àêà-èêå, êîòîðîå áûëî âûçâàíî íåîáõîäèìîñòüþ àíàëèçà íåñòàöèîíàðíîãî ñèãíàëà(y;x) = �(yt;xt);t = 1; : : : ; N�,ðåãðåññèîííàÿ ìîäåëü êîòîðîãîyt =
Tt xt + �t;
t;xt 2 Rk ; �t � N(�t j0; Æ); E(�t;�s) = 0; (5)ìåíÿåòñÿ íà èíòåðâàëå íàáëþäåíèÿ. Î÷åâèäíî, ÷òî ïðè ýòîì ðàçìåðíîñòü âåêòîðàïàðàìåòðîâ â ñåìåéñòâå óñëîâíûõ ïëîòíîñòåé ðàñïðåäåëåíèÿ �(y j x;
) îêàçûâàåòñÿ�èêñèðîâàííîé
= (
1 : : :
N) 2 RkN è â k ðàç ïðåâîñõîäèò êîëè÷åñòâî íàáëþäå-íèé. Âìåñòî ýòîãî ïðåäïîëàãàåòñÿ, ÷òî èñêîìàÿ ïîñëåäîâàòåëüíîñòü êîý��èöèåí-òîâ ïðåäñòàâëÿåò ñîáîé ñëó÷àéíûé ìàðêîâñêèé ïðîöåññ
t =
t�1 + �t; �t � N (� j0;�ÆI) ; E ��t�Ts � = 0; (6)êîòîðûé íà÷èíàåòñÿ ñ íåèçâåñòíîãî ïåðâîãî çíà÷åíèÿ
1 � N(
1 j0;�I), �!1. Ïà-ðàìåòð äèñïåðñèè øóìà � ÿâëÿåòñÿ ñòðóêòóðíûì ïàðàìåòðîì àïðèîðíîé ìîäåëèè îòâå÷àåò çà ñòåïåíü âðåìåííîé íåñòàöèîíàðíîñòè êîý��èöèåíòîâ ðåãðåññèè.¾Òàâðè÷åñêèé âåñòíèê èí�îðìàòèêè è ìàòåìàòèêè¿, �1' 2009
Îáîáùåíèå AIC äëÿ âûáîðà çíà÷åíèé íåïðåðûâíûõ ïàðàìåòðîâ â : : : 63Ýòî òèïè÷íûé ïðèìåð çàäà÷è, â êîòîðîé ïëàâíîå èçìåíåíèå ïàðàìåòðà � îïðåäå-ëÿåò ñèñòåìó íåïðåðûâíî âëîæåííûõ àïðèîðíûõ ïëîòíîñòåé ðàñïðåäåëåíèÿ (
j�)âåêòîðà ïàðàìåòðîâ ìîäåëè, íà÷èíàÿ îò ¾îäíîðîäíîãî¿ ðàñïðåäåëåíèÿ â Rk ïðè � = 0äî ¾îäíîðîäíîãî¿ ðàñïðåäåëåíèÿ â RkN ïðè � ! 1. Òàêàÿ ñèòóàöèÿ �àêòè÷åñêèïðåäñòàâëÿåò ñîáîé ââåäåíèå âìåñòî äèñêðåòíîé ïîñëåäîâàòåëüíîñòè öåëî÷èñëåííûõðàçìåðíîñòåé ïîíÿòèÿ ¾ðàçìûòîé ðàçìåðíîñòè¿ âåêòîðà ïàðàìåòðîâ
, íåïðåðûâíîìåíÿþùåéñÿ îò k äî kN ïðè óâåëè÷åíèè ïàðàìåòðà �.Åñòåñòâåííî, ÷òî êëàññè÷å-ñêèé êðèòåðèé AIC îêàçûâàåòñÿ íåïðèìåíèìûì äëÿ âûáîðà íàèáîëåå ïîäõîäÿùåãîäëÿ äàííîãî ñèãíàëà (y;x) çíà÷åíèÿ ïàðàìåòðà 0 < � <1. ýòîé ñòàòüå ìû ðàññìàòðèâàåì ïàðàìåòðè÷åñêóþ ìîäåëü ïëîòíîñòè ðàñïðåäå-ëåíèÿ íåèçâåñòíîé ãåíåðàëüíîé ñîâîêóïíîñòè F �(y) êàê ñìåñü óñëîâíîé ïëîòíîñòè èççàäàííîãî ñåìåéñòâà �(y j
),
2 Rm è àïðèîðíîé ïëîòíîñòè ðàñïðåäåëåíèÿ âåêòîðàïàðàìåòðîâ (
j�): F (y j�) = Z �(y j
) (
j �)d
;
2 Rm (7)Çíà÷åíèå ñòðóêòóðíîãî ïàðàìåòðà ìîäåëè �, îöåíåííîå ïî íàáëþäàåìîé âûáîðêåy, îáåñïå÷èâàåò îïòèìàëüíóþ ñòåïåíü ñîêðàùåíèÿ ñëèøêîì áîëüøîé ðàçìåðíîñòèâåêòîðà ïàðàìåòðîâ
. Êàê òîëüêî çíà÷åíèå � âûáðàíî, ðåçóëüòàò àíàëèçà ïðåäñòàâ-ëÿåò ñîáîé áàéåñîâñêóþ îöåíêó âåêòîðà ïàðàìåòðîâ
̂�(y) = argmax [ln�(y j
) + ln (
j�)℄ (8)Ìû áóäåì ýêñïëóàòèðîâàòü òó æå èäåþ, ÷òî è â (4), ò.å. áóäåì ñ ïîìîùüþ âà-ðüèðîâàíèÿ ïàðàìåòðà � ïûòàòüñÿ îáåñïå÷èòü íàèëó÷øåå ïðèáëèæåíèå ìîäåëüíîãîðàñïðåäåëåíèÿ F (y j �) (15) è íåèçâåñòíîãî ðàñïðåäåëåíèÿ ãåíåðàëüíîé ñîâîêóïíî-ñòè F �(y)Ìû ïðåäëàãàåì â ýòîé ñòàòüå äâà ñïîñîáà îáîáùåíèÿ êðèòåðèÿ AIC, à òàê-æå ïîêàæåì, ÷òî êëàññè÷åñêèé AIC ìîæåò áûòü ïîëó÷åí êàê ÷àñòíûé ñëó÷àéîáîèõ ñïîñîáîâ ïðè ïðèíÿòèè ñïåöèàëüíûõ ïðåäïîëîæåíèé îá àïðèîðíîé ïëîòíî-ñòè (
j�).Íàêîíåö, ìû îïèøåì ðåçóëüòàòû ìîäåëüíîãî ýêñïåðèìåíòà, ñðàâíèâàþùåãîïðåäëîæåííûé îáîáùåííûé èí�îðìàöèîííûé êðèòåðèé îöåíêè íåïðåðûâíîãî ñòðóê-òóðíîãî ïàðàìåòðà ìîäåëè ñ êðèòåðèåì ñêîëüçÿùåãî êîíòðîëÿ íà çàäà÷å àíàëèçàíåñòàöèîíàðíîãî ñèãíàëà.1. Äâà ñïîñîáà âû÷èñëåíèÿ ðàññòîÿíèÿ ïî Êóëüáàêó ìåæäóíåèçâåñòíîé èñòèííîé ïëîòíîñòüþ ðàñïðåäåëåíèÿ è ååìîäåëüþÑ îäíîé ñòîðîíû, èäåÿ ìàêñèìèçàöèè èí�îðìàöèè ïî Êóëüáàêó î ðàñïðåäåëå-íèè âûáîðêè çíà÷åíèé íàáëþäàåìîé ïåðåìåííîé F �(y), ñîäåðæàùåéñÿ â ìîäåëüíîéïëîòíîñòè F (y j�), åñòü ìàòåìàòè÷åñêîå îæèäàíèå: R�lnF (y j�)�F �(y)dy. Èäåÿ ìàê-ñèìèçàöèè ýòîé èí�îðìàöèè ïóòåì âûáîðà ïîäõîäÿùåãî çíà÷åíèÿ � ïðèâîäèò ê êðè-òåðèþ: �� = argmax� Z �lnF (y j�)�F �(y)dy: (9)¾Òàâðiéñüêèé âiñíèê ií�îðìàòèêè òà ìàòåìàòèêè¿, �1' 2009
64 Åæîâà E.Î., Ìîòòëü Â.Â., Êðàñîòêèíà Î.Â.Ýòîò ñïîñîá âûáîðà ïàðàìåòðà � ïîäõîäèò äëÿ ëþáîãî âèäà èñòèííîé ïëîòíîñòèðàñïðåäåëåíèÿ F �(y).Ñ äðóãîé ñòîðîíû, ðàññìàòðèâàåìàÿ íàìè ìîäåëü (15) âêëþ÷àåò â ñåáÿ ïðîèç-âîëüíûé ïàðàìåòð
, êàê ñêðûòóþ ïåðåìåííóþ. Òàêèì îáðàçîì, ìû ìîæåì âûáè-ðàòü ìîäåëü ñîâìåñòíîé ïëîòíîñòè ðàñïðåäåëåíèÿ ñêðûòîé è íàáëþäàåìîé ïåðåìåí-íîé H(
;y j �) = (
j �)�(y j
) íàèáîëåå áëèçêóþ ê èñòèííîìó ðàñïðåäåëåíèþH�(
;y).Ýòîò ñïîñîá èìååò ñìûñë, òîëüêî åñëè íåèçâåñòíàÿ èñòèííàÿ ïëîòíîñòü ðàñ-ïðåäåëåíèÿ F �(y) ñîãëàñóåòñÿ ñ ïðèíÿòûì ïàðàìåòðè÷åñêèì ñåìåéñòâîì ðàñïðåäåëå-íèé �(y j
), òî åñòü ñóùåñòâóåò òàêîå ðàñïðåäåëåíèå �(
), ÷òî âûïîëíÿåòñÿF �(y) = Z (y j
) �(
)d
: (10)Òîãäà H�(
;y) = �(
)�(y j
), è ¾èäåàëüíûé¿ êðèòåðèé âûáîðà � ïðèíèìàåò âèä�� = argmax� x�lnH(
;y j�)�H�(
;y)d
dy: (11)Ìû óâèäèì, ÷òî �îðìàëèçàöèè (9) è (11) ïðèâåäóò ê ñóùåñòâåííî ðàçëè÷íûìîáîáùåíèÿì êëàññè÷åñêîãî èí�îðìàöèîííîãî êðèòåðèÿ Àêàèêå äëÿ âûáîðà çíà÷åíèÿíåïðåðûâíîãî ñòðóêòóðíîãî ïàðàìåòðà.2. Îñíîâíûå ïðåäïîëîæåíèÿ è íåêîòîðûå ñâîéñòâà ñåìåéñòâïàðàìåòðè÷åñêèõ ïëîòíîñòåéÏðåäïîëîæåíèÿ. Ìû îãðàíè÷èìñÿ çäåñü ðàññìîòðåíèåì ñëó÷àÿ ïàðàìåòðè÷å-ñêèõ ñåìåéñòâ ïëîòíîñòåé ðàñïðåäåëåíèÿ '(y j
), äëÿ êîòîðûõ ëîãàðè�ìè÷åñêàÿ�óíêöèÿ ïðàâäîïîäîáèÿ ln�(y j
) àññèìïòîòè÷åñêè êâàäðàòè÷íà â îêðåñòíîñòèîöåíêè ìàêñèìàëüíîãîïðàâäîïîäîáèÿ
, ò.å. äëÿ äîñòàòî÷íî áîëüøîãî ðàçìåðà Nâûáîðêè y = (yj; j = 1; : : : ; N) ìîæíî ñ÷èòàòü, ÷òîln�(y j
) = ln�(y j
̂(y))+(1=2)(
�
̂(y))TAN(
�
̂(y)); 5
log�(y j
) = AN(
�
̂(y)):(12)Ïðè÷åì ãåññèàí AN = 52
ln�(y j
), íàçûâàåìûé èí�îðìàöèîííîé ìàòðèöåé Ôèøå-ðà, íå çàâèñèò îò òî÷êè
, â êîòîðîé îïðåäåëåí.�àññìîòðèì òåïåðü ñåìåéñòâî ïëîòíîñòåé àïðèîðíîãî ðàñïðåäåëåíèÿ ñêðûòîé ïå-ðåìåííîé (
j�). Áóäåì ïîëàãàòü, ÷òî êàæäàÿ èç ýòèõ ïëîòíîñòåé ÿâëÿåòñÿ íîðìàëü-íîé, âîçìîæíî âûðîæäåííîé, ñ íóëåâûì ìàòåìàòè÷åñêèì îæèäàíèåì è êîâàðèàöè-îííîé ìàòðèöåé, îïðåäåëÿåìîé çíà÷åíèåì ñòðóêòóðíîãî ïàðàìåòðà �. Ýòî ïðèâîäèòê òîìó, ÷òî ëîãàðè�ìè÷åñêàÿ �óíêöèÿ ïðàâäîïîäîáèÿ ln (
j�) åñòü êâàäðàòè÷íàÿ�óíêöèÿ, äîñòèãàþùàÿ ñâîåãî ìàêñèìàëüíîãî çíà÷åíèÿ â íóëå 5
log (0 j �) = 0 èîïðåäåëÿåìàÿ ñâîèì �åññèàíîì B� = 52
ln (
j�), òàê ÷òîln (
j�) =
onst+ (1=2)
TB�
: (13)×òî êàñàåòñÿ íåèçâåñòíîé ïëîòíîñòè ðàñïðåäåëåíèÿ âûõîäíîé ïåðåìåííîé F �(y),òî ìû áóäåì ïðåäïîëàãàòü, ÷òî îíî ñîãëàñóåòñÿ ñ ñåìåéñòâîì ïëîòíîñòåé �(y j
) â¾Òàâðè÷åñêèé âåñòíèê èí�îðìàòèêè è ìàòåìàòèêè¿, �1' 2009
Îáîáùåíèå AIC äëÿ âûáîðà çíà÷åíèé íåïðåðûâíûõ ïàðàìåòðîâ â : : : 65òîì ñìûñëå, ÷òî ñóùåñòâóåò íåèçâåñòíàÿ ïëîòíîñòü �(
), êîòîðàÿ äîïóñêàåò ïðåä-ñòàâëåíèå F �(y) = Z �(y j
) �(
)d
(14)Ñâîéñòâà. �àññìîòðèì ïðîèçâîëüíóþ âûáîðêó y, ïîðîæäåííóþ âåðîÿòíîñòíûìðàñïðåäåëåíèåì �(y j
) ñ íåêîòîðûì �èêñèðîâàííûì çíà÷åíèåì ïàðàìåòðà
. Õî-ðîøî èçâåñòíî, ÷òî äëÿ ãîðàçäî áîëåå øèðîêîãî êëàññà óñëîâíûõ ðàñïðåäåëåíèé,÷åì òå, ÷òî îïèñàíû âûøå (12), òàêèõ, ÷òî åñëè AN åñòü ìàòðèöà ñ ïîëíûì ðàí-ãîì rank(AN) = n, ïðîèçâîëüíàÿ îöåíêà ìàêñèìóìà ïðàâäîáîäèÿ
̂(y)îêàçûâàåòñÿíåñìåùåííîé Z
̂(y)�(y j
)dy =
; (15)à åå óñëîâíàÿ êîâàðèàöèîííàÿ ìàòðèöà ïîëíîñòüþ îïðåäåëÿåòñÿ èí�îðìàöèîííîéìàòðèöåé Ôèøåðà: Z �
̂(y)�
��
̂(y)�
�T�(y j
)dy = �A�1N : (16) áîëåå îáùåì ñëó÷àå, êîãäà rank(AN) < n, (22) è (16) èìåþò âèä:Z AN�
̂(y)�
��
̂(y)�
�T�(y j
)dy = 0; (17)Z hAN�
̂(y)�
�ihAN�
̂(y)�
�iT�(y j
)dy = �AN (18)Åñëè óñëîâèÿ (12) è (20) âûïîëíåíû, òî ïðîèçâîëüíàÿ Áàéåññîâñêàÿ îöåíêà (8)åñòü ëèíåéíàÿ �óíêöèÿ îò îöåíêè ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ
̂�(y) = (AN +B�)�1AN
̂(y) (19)ñ óñëîâíîé êîâàðèàöèîííîé ìàòðèöåé îòíîñèòåëüíî �èêñèðîâàííîãî çíà÷åíèÿ ïàðà-ìåòðà
Z �
̂�(y)�
̂�(
)��
̂�(y)�
̂�(
)�T�(y j
)dy = �(AN +B�)�1AN(AN +B�)�1; (20)ãäå
̂�(
) åñòü óñëîâíîå ìàòåìåòè÷åñêîå îæèäàíèå
̂�(
) = Z
̂�(y)�(y j
)dy = (AN +B�)�1AN
̂: (21)3. Êðèòåðèé ìàêñèìóìà èí�îðìàöèè î ðàñïðåäåëåíèèíàáëþäàåìîé ïåðåìåííîéÍåïîñðåäñòâåííàÿ ðåàëèçàöèÿ êðèòåðèÿ (9) íåâîçìîæíà õîòÿ áû ïîòîìó, ÷òî èñ-òèííîå ðàñïðåäåëåíèå F �(y) íåèçâåñòíî. Ìàêñèìèçàöèÿ �óíêöèè ïðàâäîáîäîáèÿ ïîîäíîé äîñòóïíîé ðåàëèçàöèè lnF (y j �), êàê íåñìåùåííîé îöåíêè êðèòåðèÿ, òàêæåáåññìûñëåííî, òàê êàê ïðè ýòîì áóäóò ïðåäïî÷òèòåëüíû çíà÷åíèÿ ñòðóêòóðíîãî ïà-ðàìåòðà, ïðèâîäÿùèå ê ñëèøêîì áîëüøèì ðàçìåðíîñòÿì
2 Rm .¾Òàâðiéñüêèé âiñíèê ií�îðìàòèêè òà ìàòåìàòèêè¿, �1' 2009
66 Åæîâà E.Î., Ìîòòëü Â.Â., Êðàñîòêèíà Î.Â.Äëÿ òîãî ÷òîáû ïðåîäîëåòü ¾ïðîêëÿòèå åäèíñòâåííîé âûáîðêè¿, ìû ïðèìåíèìèäåþ êîìïðîìèññà, îáîñíîâûâàþùåãî êëàññè÷åñêèé èí�îðìàöèîííûé êðèòåðèé Àêà-èêå ([1℄), à èìåííî âîîáðàçèì ñóùåñòâîâàíèå äðóãîé íåçàâèñèìîé âûáîðêè ~y. Ïóñòüïî íåé ïîëó÷åíà ïðîèçâîëüíàÿ áàéåññîâñêàÿ îöåíêà
̂�(~y) (8). Çàìåíèì lnF (y j �)â (9) íà ìàòåìàòè÷åñêîå îæèäàíèå ln�(y j
̂�(~y)):�̂ = argmax� Z �Z nZ �ln�(y j
̂�(~y))��(~y j
)d~yo�(y j
)dy� �(
)d
: (22)Ïðåäëîæåíèå 1. Ïðè ïðåäïîëîæåíèÿõ (12) è (20),Z �Z nZ �ln�(y j
̂�(~y))��(~y j
)d~yo�(y j
)dy� �(
)d
=Z J1(� jy)F �(y)dy;J1(� jy)F �(y) = ln��y j
̂�(y)�� Tr�AN(AN +B�)�1�: (23)Äîêàçàòåëüñòâî. îñíîâàíî íà êâàäðàòè÷íîì ïðåäñòàâëåíèè ln�(y j
) (12) â
=
̂�(~y) â âûðàæåíèÿõ (16)� (20).Ýòà òåîðåìà óêàçûâàåò íà ïîñòðîåíèå íåïðåðûâíîãî àíàëîãà êëàññè÷åñêîãî AIC.Õîòÿ ðàñïðåäåëåíèå �(
) â (12) ïî-ïðåæíåìó íåèçâåñòíî, à çíà÷èò íåïîñðåäñòâåí-íî ïðèìåíèòü êðèòåðèé (22) íåâîçìîæíî, íî âûðàæåíèå (23) äàåò ëåãêî âû÷èñëÿå-ìóþ �óíêöèþ J1(� j y), êîòîðàÿ ÿâëÿåòñÿ íåñìåùåííîé îöåíêîé ïîëíîãî êðèòåðèÿ.Àíàëîãè÷íî ðàññóæäåíèÿì Àêàèêå, ýòó �óíêöèþ ìîæíî òàêæå ìàêñèìèçèðîâàòü ïîèñêîìîìó çíà÷åíèþ ñòðóêòóðíîãî ïàðàìåòðà:�̂ = argmax� (ln��y j
̂�(y)�� Tr�AN(AN +B�)�1�): (24)Ýòî è åñòü îáîáùåííûé èí�îðìàöèîííûé êðèòåðèé Àêàèêå (6). Ñðàâíåíèå êðè-òåðèåâ (24) è (6) ïîçâîëÿåò èíòåðïðåòèðîâàòü øòðà�íîé ÷ëåí Tr�AN(AN +B�)�1�,êàê óñëîâíóþ ¾ðàçìûòóþ ðàçìåðíîñòü¿ ïàðàìåòðà
, âûáîð êîòîðîãî îãðàíè÷åíîðàñïðåäåëåíèåì ln (
j �). �4. Êðèòåðèé ìàêñèìóìà èí�îðìàöèè î ñîâìåñòíîìðàñïðåäåëåíèèè íàáëþäàåìîé ïåðåìåííîé è ñêðûòîãîïàðàìåòðàÊðèòåðèé (11) òàêæå íåâîçìîæíî âû÷èñëèòåëüíî ðåàëèçîâàòü, íå òîëüêî ïî òî-ìó, ÷òî ñîâìåñòíîå ðàñïðåäåëåíèå H�(
;y j �) íåèçâåñòíî, íî òàêæå èç-çà òîãî, ÷òîïðèçâîëüíûé ïàðàìåòð
ñêðûò îò íàáëþäàòåëÿ. Êàê è â ïðåäûäóùåì ðàçäåëå ìûïðèìåíèì êîìïðîìèññ, çàêëþ÷àþùèéñÿ â èñïîëüçîâàíèè íåçàâèñèìîé âîîáðàæàåìîéâûáîðêè ~y è çàìåíå lnH(
;y j �) íà ìàòåìàòè÷åñêîå îæèäàíèå lnH�
̂(~y);y j��:�̂ = argmaxx�Z hlnH�
̂(~y);y j��i�(~y j
)�H�(
;y)d
dy:¾Òàâðè÷åñêèé âåñòíèê èí�îðìàòèêè è ìàòåìàòèêè¿, �1' 2009
Îáîáùåíèå AIC äëÿ âûáîðà çíà÷åíèé íåïðåðûâíûõ ïàðàìåòðîâ â : : : 67Çäåñü lnH�
̂(~y);y j �� = ln��y;
̂(~y)� + ln �
̂(~y) j �� è H�(
j y) = �(y j
) �(
). Ìûïîëó÷àåì êðèòåðèé�̂ = argmax� Z (Z �Z hln��y;
̂(~y)�+ ln �
̂(~y) j��i�(~y j
)��(y j
)dy) �(
)d
: (25)êîòîðûé îòëè÷àåòñÿ îò (22) òîëüêî íàëè÷èåì äîïîëíèòåëüíîãî ñëàãàåìîãî �
̂(~y) j��.Ïðåäëîæåíèå 2. Ïðè ïðèíÿòûõ ïðåäïîëîæåíèÿõ (12) è (20),Z (Z �Z hln��y j
̂(~y)�+ ln �
̂(~y) j��i�(~y j
)��(y j
)dy) �(
)d
=Z J2(� j y)F �(y)dy;J2(� jy) = ln��y;
̂(y)�+ ln �
̂(y) j��� Tr�AN(AN +B�)�1�: (26)
Äîêàçàòåëüñòâî. ýòîãî óòâåðæäåíèÿ îñíîâàíî íà òàêèõ æå ðàññóæäåíèÿõ, êîòîðûåáûëè ñäåëàíû äëÿ Ïðåäëîæåíèÿ 1.Âûðàæåíèå (26) ïîêàçûâàåò, ÷òî �óíêöèÿ J2(� j y) åñòü íåñìåùåííàÿ îöåíêàêðèòåðèÿ (25). Åãî íåïîñðåäñòâåííàÿ ìàêñèìèçàöèÿ è åñòü äðóãàÿ âåðñèÿ îáîáùåíèÿêëàññè÷åñêîãî AIC�̂ = argmax� = (ln��y;
̂(y)�+ ln �
̂(y) j��� Tr�AN(AN +B�)�1�): (27)�5. ×àñòíûé ñëó÷àé: êëàññè÷åñêèé èí�îðìàöèîííûé êðèòåðèéÀêàèêåÏóñòü ñòðóêòóðíûé ïàðàìåòð ïðèíèìàåò öåëûå ïîëîæèòåëüíûå ÷èñëà 0 � � � mè óðåçàåò âåêòîð ïàðàìåòðîâ ñ óïîðÿäî÷åííûìè ýëåìåíòàìè
= (
�;
m��) 2 R, òàêæå êàê è â (5) ñ n = �, òî åñòü
� 2 R� ,
m�� 2 Rm�� . Íèêàêîé àïðèîðíîé èí�îðìàöèèî âåêòîðå
íåò, òî åñòü (
� j�) =Y�i=1 i(
i jn); i(
i j�) = N(
i j0;�2); � !1Òàê êàê òîëüêî ïåðâàÿ ÷àñòü âåêòîðà ïàðàìåòðîâ âõîäèò â óñëîâíóþ ïëîòíîñòü�(y j
�;
m��), òî �åññèàí AN;� = 52
�
� ln�(y j
�;0) åñòü ìàòðèöà (�� �).Ïðè ïðèíÿòûõ ïðåäïîëîæåíèÿõ, îáå âåðñèè îáîáùåíèÿ AIC (24) è (27) ïðèâîäÿòê êðèòåðèþ (6): max
� ln�(y j
�;0)� rank (AN;�)! max� :¾Òàâðiéñüêèé âiñíèê ií�îðìàòèêè òà ìàòåìàòèêè¿, �1' 2009
68 Åæîâà E.Î., Ìîòòëü Â.Â., Êðàñîòêèíà Î.Â.6. Ïðèìåíåíèå êðèòåðèÿ Àêàèêå â çàäà÷å îöåíèâàíèÿíåñòàöèîíàðíîé ðåãðåññèè: ìîäåëüíûå ýêñïåðèìåíòû çàäà÷å îöåíêè íåñòàöèîíàðíîé ðåãðåññèè (5)�(6) ñàìà áàéåññîâñêàÿ îöåíêàñêðûòîé ïîñëåäîâàòåëüíîñòè êîý��èöèåíòîâ ðåãðåññèè
= (
T1 � � �
TN)T 2 RkN çà-âèñèò òîëüêî îò îòíîøåíèÿ � ïðåäïîëàãàåìûõ äèñïåðñèé øóìà â óðàâíåíèÿõ íà-áëþäåíèÿ (5) è ñîñòîÿíèÿ (6), â òîì âðåìÿ åå ñòàòèñòè÷åñêèå ñâîéñòâà ñóùåñòâåííîîïðåäåëÿåòñÿ äèñïåðñèåé øóìà â ìîäåëè íàáëþäåíèÿ. Áàéåñîâñêàÿ îöåíêà âåêòîðàïàðàìåòðîâ
ìîæåò áûòü ïîëó÷åíà ìèíèìèçàöèåé êðèòåðèÿ Flexible Least SquaresXNt=1 �yt � xTt
t�2 + (1=�)XNt=2(
t �
t�1)T (
t �
t�1)! min(
)ñ ïîìîùüþ �èëüòðà-èíòåðïîëÿòîðà Êàëìàíà-Áüþñè [7℄.Ïðåäñòàâèì ìîäåëü â ÿâíîé �îðìå. Ìû áóäåì ïîëàãàòü, ÷òî y = (y1 � � � yN)T 2 RNè
= (
T1 � � �
TN)T 2 RkN åñòü âåêòîð-ñòîëáöû, X = (Xts;t; = 1; : : : ;N)åñòü áëî÷íàÿ ìàòðèöà ðàçìåðà (kN � N) ñ áëîêàìè Xts = (xt;åñëèt 6= s)(k � 1), B�;�(kN � kN) åñòü êâàäðàòíàÿ áëî÷íî-òðåõäèàãîíàëüíàÿ ìàòðè-öà ñ äèàãîíàëüþ �(1=� + 1=�)I;(2=�)I; : : : ;(2=�)I;(1=�)I� è íå äèàãîíàëÿìè��(1=�)I; : : : ; � (1=�)I�, ãäå I åñòü åäèíè÷íàÿ ìàòðèöà ðàçìåðà (k � k). Ïî-ëîæèì òàêæå äèñïåðñèþ íàáëþäàåìîãî øóìà ðàâíîé åäèíèöå Æ = 1, òî-ãäà ìîäåëü (5) áóäåò òîãäà äàâàòü �óíêöèþ ìàêñèìàëüíîãî ïðàâäîïîäîáèÿln�(y j
;X) = lnN(y j XT
;I) =
onst + (1=2)
TAN
, ãåññèàí êîòîðîé AN = �XXT(kN�kN) âñåãäà âûðîæäåí è, åñëè ðåãðåññîðû (xit;t = 1; : : : ;N) ëèíåéíî íåçàâèñèìû,èìååò ìàêñèìàëüíûé ðàíã rank(AN) = N . Ñêðûòûé ìàðêîâñêàÿ ìîäåëü êîý��èöè-åíòîâ ðåãðåññèè (6) âûðàæàåòñÿ ñåìåéñòâîì àïðèîðíûõ ïëîòíîñòåé ðàñïðåäåëåíèÿln (y j�;�) = lnN(
j0;B�1�;�) =
onst+ (1=2)jB�;�j � (1=2)
TB�;�
.Ìû ïðîàíàëèçèðîâàëè 200 íåçàâèñèìûõ ðåàëèçàöèé ñëó÷àéíîãî ïðîöåññà (5)äëèííîé N = 50 , ïîëó÷åííîãî êàê ëèíåéíàÿ êîìáèíàöèÿ òðåõ ðåãðåññîðîâ(xit; t = 1; : : : ;N), i = 1; : : : ;k, k = 3, ïðåäñòàâëÿþùèõ ñîáîé ñëó÷àéíûé áåëûé øóìñ íóëåâûì ñðåäíèì, ñ êîý��èöèåíòàìè ðåãðåññèè, âçÿòûìè êàê ñèíóñîèäàëüíûå ïî-ñëåäîâàòåëüíîñòè
�it = 4 sin�(2�=N)t+(2�=3)(i�1)� ñìåùåííûå äðóã îòíîñèòåëüíîäðóãà ïî �àçå 10%. Äèñïåðñèåé øóìà â ìîäåëè íàáëþäåíèÿ ñîñòàâëÿëà 10 ïðîöåíòîâÆ = 0:1�(1=N)PNi=1(xTt
t)2�.Ïðåäïîëàãàåòñÿ, ÷òî íåò íèêàêîé àïðèîðíîé èí�îðìàöèè î âåêòîðå êîý��èöè-åíòîâ â ïåðâûé ìîìåíò âðåìåíè, òî åñòü �!1. Çàâèñèìîñòü ¾ý��åêòèâíîé ðàçìåð-íîñòè¿ ïîñëåäîâàòåëüíîñòè êîý��èöèåíòîâ ðåãðåññèè (
1 � � �
N) îò ïðåäïîëàãàåìîéäèñïåðñèè �, âû÷èñëåííàÿ ïî åäèíñòâåííîé ðåàëèçàöèè ïðîèçâîëüíîé ïîñëåäîâàòåëü-íîñòè ðåãðåññîðîâ, èçîáðàæåíà íà �èñ. 1. Ýòà ðàçìåðíîñòü ðàâíà ÷èñëó ðåãðåññîðîââ ñëó÷àå íóëåâîé äèñïåðñèè �! 0 è äîñòèãàåò äëèíû âðåìåííûõ ñåðèé ïðè �!1.¾Òàâðè÷åñêèé âåñòíèê èí�îðìàòèêè è ìàòåìàòèêè¿, �1' 2009
Îáîáùåíèå AIC äëÿ âûáîðà çíà÷åíèé íåïðåðûâíûõ ïàðàìåòðîâ â : : : 69Äëÿ êàæäîé èç 200 ñìîäåëèðîâàííûõ âðåìåííûõ ñåðèé, áûëè âû÷èñëåíû 3 çíà÷å-íèÿ ïàðàìåòðà äèñïåðñèè �̂, âî-ïåðâûõ, ïî ïðèíöèïó äâóõ âåðñèé îáîáùåííîãî êðè-òåðèÿ Àêàèêå (24) è (27), âî-âòîðûõ, òðàäèöèîííûì ìåòîäîì ñêîëüçÿùåãî êîíòðî-ëÿ [7℄. Çàòåì ìû ïðèìåíèëè êàæäîå èç ïîëó÷åííûõ çíà÷åíèé ê îñòàâøèìñÿ 199 âðå-ìåííûì ñåðèÿì, êàê ê êîíòðîëüíîìó ìíîæåñòâó, è ñðàâíèëè èñòèííóþ ïîñëåäîâà-òåëüíîñòü êîý��èöèåíòîâ ðåãðåññèè (
�1 � � �
�N) ñ ïîëó÷åííîé îöåíêîé (
̂1;�̂ � � �
̂N;�̂)ïî êðèòåðèþ "�̂ = NXt=1 (
̂t;�̂ �
�t )T (
̂t;�̂ �
�t )�XNt=1(
�t )T
�t :
Ìû ïîëó÷èëè ñëåäóþùèå ðåçóëüòàòû:Êðèòåðèé �̂ "�̂Ìàêñèìóì áëèçîñòè ðàñïðåäåëåíèÿ íàáëþäàåìîé ïåðå-ìåííîé 0.010 0.012Ñêîëüçÿùèé êîíòðîëü 0.033 0.034Ìàêñèìóì áëèçîñòè ñîâìåñòíîãî ðàñïðåäåëåíèÿ íà-áëþäàåìîé ïåðåìåííîé è ñêðûòîãî ïàðàìåòðà 0.072 0.055Ôîðìàëüíî, ïåðâàÿ âåðñèÿ êðèòåðèÿ Àêàèêå ïîêàçàëà íàèëó÷øèå ðåçóëüòàòû,õîòÿ ðåçóëüòàòû âñåõ òðåõ êðèòåðèåâ î÷åíü áëèçêè äðóã ê äðóãó. Ýêñïåðèìåí-òû âûÿâèëè âàæíûé �àêò, ÷òî äâà �óíäàìåíòàëüíî ðàçëè÷íûõ ïîäõîäà: íîâûéêëàññ íåïðåðûâíîãî îáîáùåíèÿ èí�îðìàöèîííîãî êðèòåðèÿ Àêàèêå è òðàäèöèîííûéïðèíöèï ñêîëüçÿùåãî êîíòðîëÿ íå ïðåâîñõîäÿò äðóã äðóãà â âîïðîñå âûáîðà íàèáî-ëåå ïîäõîäÿùåãî çíà÷åíèÿ ïàðàìåòðà äèñïåðñèè, îòâå÷àþùåãî çà íåñòàöèîíàðíîñòüðåãðåññèîíîé ìîäåëè.  òî æå âðåìÿ íåïðåðûâíûé AIC íåñðàâíåííî ëó÷øå ñ âû÷èñ-ëèòåëüíîé òî÷êè çðåíèÿ.
�èñ. 1. Ý��åêòèâíàÿ ðàçìåðíîñòü ïîñëåäîâàòåëüíîñòè êîý��èöèåí-òîâ ðåãðåññèè êàê �óíêöèÿ îò � (ëîãàðè�ìè÷åñêèé ìàñøòàá)¾Òàâðiéñüêèé âiñíèê ií�îðìàòèêè òà ìàòåìàòèêè¿, �1' 2009
70 Åæîâà E.Î., Ìîòòëü Â.Â., Êðàñîòêèíà Î.Â.Ñïèñîê ëèòåðàòóðû1. Akaike H. A new look at the statisti
al model idendi�
ation // IEEE Trans. on Automati
Control,Vol. IC-19, No.6, De
ember 1974, pp. 716-723.2. Kitagawa G., Akaike H. A pro
edure for the modeling of no-stationary time series. // Ann. Inst.Statist. Math., Vol. 30, Part B,1987, pp. 351-363.3. S
harz G. Estimating the dimtnsion of the model. // The Annals of Statisti
s, Vol. 6,No.2, 1978,pp. 461-4644. Bozdogan H. Model sele
tion fnd Akaik's Information Criterian (AIC): The general theory ands itsanaliti
al extensions. // Psy
hometri
a, Vol. 52, No.3, September 1987.5. Spiegelhalter D., Best N., Carlin B. Van der Linde A.Bayesian mesures of model
omplexity and�t. // Journal of the Royal Statisti
al So
iety. Series B (Statisti
al Methodology), Vol. 64, No.4,2002, pp. 583-639.6. Rodrigues C. C. The ABC of model sele
tion: AIC, BIC and new CIC. // AIP Conferen
e Pro
eedings.,Vol. 803, November 23, 2005, pp. 80-87.7. Markov M., Krasot
ina O., Mottl V., Mu
hnik I. Time-varying regression model with unknown time-volatility for nonstationary signal analyses. // Pro
eedings of the 8th IASTED Internation Conferen
eon Signal and Image Pro
essing. Honolulu, Hawaii, USA, August 14-16, 2006.Ñòàòüÿ ïîñòóïèëà â ðåäàêöèþ 08.05.2008
¾Òàâðè÷åñêèé âåñòíèê èí�îðìàòèêè è ìàòåìàòèêè¿, �1' 2009
|