Об интегральной квадратической мере расхождения двух ядерных оценок бернуллиевских функций регрессии

Встановлено граничний розподіл інтегрального квадратичного відхилення двох непараметричних оцінок ядерного типу бернулліївських функцій регресії. Побудовано критерій перевірки гіпотези про рівність двох бернулліївських функцій регресії. Вивчено питання обґрунтованості і для деяких „близьких" ал...

Повний опис

Збережено в:
Бібліографічні деталі
Дата:2015
Автори: Бабилуа, П.К., Надарая, Э.А., Сохадзе, Г.А.
Формат: Стаття
Мова:Russian
Опубліковано: Інститут математики НАН України 2015
Назва видання:Український математичний журнал
Теми:
Онлайн доступ:http://dspace.nbuv.gov.ua/handle/123456789/165388
Теги: Додати тег
Немає тегів, Будьте першим, хто поставить тег для цього запису!
Назва журналу:Digital Library of Periodicals of National Academy of Sciences of Ukraine
Цитувати:Об интегральной квадратической мере расхождения двух ядерных оценок бернуллиевских функций регрессии / П.К. Бабилуа, Э.А. Надарая, Г.А. Сохадзе // Український математичний журнал. — 2015. — Т. 67, № 1. — С. 3–18. — Бібліогр.: 10 назв. — рос.

Репозитарії

Digital Library of Periodicals of National Academy of Sciences of Ukraine
id irk-123456789-165388
record_format dspace
spelling irk-123456789-1653882020-02-14T01:26:12Z Об интегральной квадратической мере расхождения двух ядерных оценок бернуллиевских функций регрессии Бабилуа, П.К. Надарая, Э.А. Сохадзе, Г.А. Статті Встановлено граничний розподіл інтегрального квадратичного відхилення двох непараметричних оцінок ядерного типу бернулліївських функцій регресії. Побудовано критерій перевірки гіпотези про рівність двох бернулліївських функцій регресії. Вивчено питання обґрунтованості і для деяких „близьких" альтернатив досліджено асимптотику потужності. We establish the limit distribution of the square-integrable deviation of two nonparametric nuclear-type estimations for the Bernoulli regression functions. A criterion is proposed for the verification of the hypothesis of equality of two Bernoulli regression functions. We study the problem of verification and, for some “close” alternatives, investigate the asymptotics of the power. 2015 Article Об интегральной квадратической мере расхождения двух ядерных оценок бернуллиевских функций регрессии / П.К. Бабилуа, Э.А. Надарая, Г.А. Сохадзе // Український математичний журнал. — 2015. — Т. 67, № 1. — С. 3–18. — Бібліогр.: 10 назв. — рос. 1027-3190 http://dspace.nbuv.gov.ua/handle/123456789/165388 519.21 ru Український математичний журнал Інститут математики НАН України
institution Digital Library of Periodicals of National Academy of Sciences of Ukraine
collection DSpace DC
language Russian
topic Статті
Статті
spellingShingle Статті
Статті
Бабилуа, П.К.
Надарая, Э.А.
Сохадзе, Г.А.
Об интегральной квадратической мере расхождения двух ядерных оценок бернуллиевских функций регрессии
Український математичний журнал
description Встановлено граничний розподіл інтегрального квадратичного відхилення двох непараметричних оцінок ядерного типу бернулліївських функцій регресії. Побудовано критерій перевірки гіпотези про рівність двох бернулліївських функцій регресії. Вивчено питання обґрунтованості і для деяких „близьких" альтернатив досліджено асимптотику потужності.
format Article
author Бабилуа, П.К.
Надарая, Э.А.
Сохадзе, Г.А.
author_facet Бабилуа, П.К.
Надарая, Э.А.
Сохадзе, Г.А.
author_sort Бабилуа, П.К.
title Об интегральной квадратической мере расхождения двух ядерных оценок бернуллиевских функций регрессии
title_short Об интегральной квадратической мере расхождения двух ядерных оценок бернуллиевских функций регрессии
title_full Об интегральной квадратической мере расхождения двух ядерных оценок бернуллиевских функций регрессии
title_fullStr Об интегральной квадратической мере расхождения двух ядерных оценок бернуллиевских функций регрессии
title_full_unstemmed Об интегральной квадратической мере расхождения двух ядерных оценок бернуллиевских функций регрессии
title_sort об интегральной квадратической мере расхождения двух ядерных оценок бернуллиевских функций регрессии
publisher Інститут математики НАН України
publishDate 2015
topic_facet Статті
url http://dspace.nbuv.gov.ua/handle/123456789/165388
citation_txt Об интегральной квадратической мере расхождения двух ядерных оценок бернуллиевских функций регрессии / П.К. Бабилуа, Э.А. Надарая, Г.А. Сохадзе // Український математичний журнал. — 2015. — Т. 67, № 1. — С. 3–18. — Бібліогр.: 10 назв. — рос.
series Український математичний журнал
work_keys_str_mv AT babiluapk obintegralʹnojkvadratičeskojmererashoždeniâdvuhâdernyhocenokbernullievskihfunkcijregressii
AT nadaraâéa obintegralʹnojkvadratičeskojmererashoždeniâdvuhâdernyhocenokbernullievskihfunkcijregressii
AT sohadzega obintegralʹnojkvadratičeskojmererashoždeniâdvuhâdernyhocenokbernullievskihfunkcijregressii
first_indexed 2025-07-14T18:23:22Z
last_indexed 2025-07-14T18:23:22Z
_version_ 1837647688808529920
fulltext УДК 519.21 П. К. Бабилуа, Э. А. Надарая, Г. А. Сохадзе (Тбил. гос. ун-т им. Ив. Джавахишвили, Грузия) ОБ ИНТЕГРАЛЬНОЙ КВАДРАТИЧЕСКОЙ МЕРЕ РАСХОЖДЕНИЯ ДВУХ ЯДЕРНЫХ ОЦЕНОК БЕРНУЛЛИЕВСКИХ ФУНКЦИЙ РЕГРЕССИИ We establish a limit distribution of the square-integrable deviation of two nonparametric nuclear-type estimates of the Bernoulli regression functions. A criterion is constructed for the verification of the hypothesis of equality of Bernoulli regression functions. We study the problem of justification and, for some “close” alternatives, investigate the asymptotics of power. Встановлено граничний розподiл iнтегрального квадратичного вiдхилення двох непараметричних оцiнок ядерного типу бернуллiївських функцiй регресiї. Побудовано критерiй перевiрки гiпотези про рiвнiсть двох бернуллiївських функцiй регресiї. Вивчено питання обґрунтованостi i для деяких „близьких” альтернатив дослiджено асимптотику потужностi. Пусть случайные величины Y (i), i = 1, 2, принимают два значения: 1 и 0 с вероятностями („успеха”) pi и („поражения”) 1− pi, i = 1, 2, соответственно. Предположим, что вероятность „успеха” pi является функцией независимой переменной x ∈ [0, 1], т. е. pi = pi(x) = P { Y (i) = = 1| x } (см. [1 – 3]). Пусть tj , j = 1, . . . , n, — точки деления интервала [0, 1] : tj = 2j − 1 2n , j = 1, . . . , n. Пусть, далее, Y (1) i и Y (2) i , i = 1, . . . , n, — взаимно независимые бернуллиевские случайные величины с P { Y (k) i = 1| ti } = pk(ti), P { Y (k) i = 0| ti } = 1 − pk(ti), i = 1, . . . , n, k = 1, 2. Требуется, основываясь на выборках Y (1) 1 , . . . , Y (1) n и Y (2) 1 , . . . , Y (2) n , проверить гипотезу H0 : p1(x) = p2(x) = p(x), x ∈ [0, 1], применительно к последовательности „близких” альтернатив: H1n : p1(x) = p(x), p2(x) = p(x) + αnu(x) + o(αn), где αn стремится к 0 подходящим образом, u(x) 6= 0, x ∈ [0, 1], и o(αn) равномерно по x ∈ [0, 1]. Задача сравнения двух бернуллиевских функций регрессии может возникнуть в некоторых приложениях, например в квантовых биоанализах в фармакологии. Здесь x — доза лекарства и p(x) — вероятность эффективности дозы x [4, 5]. Мы рассматриваем критерий проверки гипотезы H0, основанный на статистике: Tn = 1 2 nbn ∫ Ωn(τ) [ p̂1n(x)− p̂2n(x) ]2 p2 n(x) dx = = 1 2 nbn ∫ Ωn(τ) [ p1n(x)− p2n(x) ]2 dx, Ωn(τ) = [τbn, 1− τbn], τ > 0, где c© П. К. БАБИЛУА, Э. А. НАДАРАЯ, Г. А. СОХАДЗЕ, 2015 ISSN 1027-3190. Укр. мат. журн., 2015, т. 67, № 1 3 4 П. К. БАБИЛУА, Э. А. НАДАРАЯ, Г. А. СОХАДЗЕ p̂in(x) = pin(x)p−1 n (x), pin(x) = (nbn)−1 n∑ j=1 K ( x− tj bn ) Y (i) j , i = 1, 2, pn(x) = (nbn)−1 n∑ j=1 K ( x− tj bn ) , K(x) — некоторая плотность распределения, bn → 0 — последовательность положительных чисел и p̂in(x) — ядерная оценка функции регрессии (см. [6, 7]). Структура работы следующая. В пункте 1 приведены предположения и обозначения, а в пункте 2 — вспомогательные утверждения. В пункте 3 изучается асимптотическая нормальность статистики Tn при последовательности „близких” альтернатив, а в пункте 4 даны применения статистики Tn для проверки гипотез. 1. Предположения и обозначения. Предположим, что ядро K(x) ≥ 0 выбрано так, чтобы оно было функцией с ограниченным изменением и удовлетворяло условиям K(x) = K(−x), K(x) = 0 при |x| ≥ τ > 0, ∫ K(x) dx = 1. Класс таких функций обозначим через H(τ). Введем также следующие обозначения: T (1) n = 1 2 nbn ∫ Ωn(τ) [ p̃1n(x)− p̃2n(x) ]2 dx, p̃in(x) = pin(x)−E pin(x), i = 1, 2. Ясно, что T (1) n = Hn + 1 2nbn n∑ i=1 ε2 iQii, Hn = 1 nbn ∑ 1≤i<j≤n εiεjQij , εi = ε1i − ε2i, εki = Y (k) i − pk(ti), k = 1, 2, i = 1, . . . , n, Qij = ψn(ti, tj), ψn(u, v) = ∫ Ωn(τ) K ( x− u bn ) K ( x− v bn ) dx. Легко видеть, что σ−1 n (T (1) n −∆n) = n∑ k=1 ξ (n) k + 1 2nbnσn n∑ i=1 ( ε2 i −Eε2 i ) Qii, ∆n = ET (1) n , σ2 n = VarHn = (nbn)−2 n∑ k=2 dk k−1∑ i=1 diQ 2 ik, di = d(ti) = Var εi, i = 1, . . . , n, ISSN 1027-3190. Укр. мат. журн., 2015, т. 67, № 1 ОБ ИНТЕГРАЛЬНОЙ КВАДРАТИЧЕСКОЙ МЕРЕ РАСХОЖДЕНИЯ ДВУХ ЯДЕРНЫХ ОЦЕНОК . . . 5 ξ (n) k = k−1∑ i=1 η (n) ik , k = 2, . . . , n, ξ (n) 1 = 0, ξ (n) k = 0, k > n, η (n) ij = εiεjQij nbnσn , F (n) k = σ(ε1, . . . , εk), т. е. F (n) k — σ-алгебра, порожденная случайными величинами ε1, . . . , εk, и F (n) 0 = (∅,Ω)( в дальнейшем для простоты записи вместо ξ (n) k , η (n) ij и F (n) k используем обозначения ξk, ηij и Fk ) . 2. Вспомогательные утверждения. Лемма 1. Стохастическая последовательность (ξk,Fk)k≥1 является мартингал-разнос- тью. Лемма 2 [8]. Пусть K(x) ∈ H(τ) и p(x), 0 ≤ x ≤ 1, является функцией с ограниченным изменением. Если nbn →∞, то 1 nbn n∑ i=1 Kν1 ( x− ti bn ) Kν2 ( y − ti bn ) pν3(ti) = = 1 bn 1∫ 0 Kν1 ( x− u bn ) Kν2 ( y − u bn ) pν3(u) du+O ( 1 nbn ) (1) равномерно по x, y ∈ [0, 1], где νi ∈ N ∪ {0}, i = 1, 2, 3. Лемма 3. Пусть K(x) ∈ H(τ), p(x) ∈ C1[0, 1] и u(x) — непрерывная функция на [0, 1]. Если nb2n →∞ и αn = n−1/2b −1/4 n , то при гипотезе H1n b−1 n σ2 n −→ σ2(p) = 2 1∫ 0 p2(x) ( 1− p(x) )2 dx ∫ |x|≤2τ K2 2 (x)dx (2) и b−1/2 n ( ∆n −∆(p) ) = O ( b1/2n ) +O ( αnb −1/2 n ) +O ( 1 nb 3/2 n ) , (3) где ∆n = ET (1) n , ∆(p) = 1∫ 0 p(x)(1− p(x)) dx ∫ |x|≤τ K2(u) du, K2 = K ∗K; ∗ — знак свертки. Доказательство. Имеем σ2 n = A1(n) +A2(n), (4) ISSN 1027-3190. Укр. мат. журн., 2015, т. 67, № 1 6 П. К. БАБИЛУА, Э. А. НАДАРАЯ, Г. А. СОХАДЗЕ где A1(n) = 1 2 (nbn)−2 n∑ k,i=1 didkQ 2 ik, A2(n) = −1 2 (nbn)−2 n∑ i=1 d2 iQ 2 ii, dk = d(tk) = p1(tk) ( 1− p1(tk) ) + p2(tk) ( 1− p2(tk) ) , k = 1, . . . , n, и dk = d(tk) = 2p(tk) ( 1− p(tk) ) +O(αn) (5) равномерно по tk ∈ [0, 1]. Легко видеть, что b−1 n ∣∣A2(n) ∣∣ = 1 2 n−2b−3 n n∑ i=1 d2 i  ∫ Ωn(τ) K2 ( x− ti bn ) dx  2 ≤ c1 1 nbn + c2 αn nbn . (6) Из определения Qik и (5) получаем A1(n) = 1 2 (nbn)−2 ∫ Ωn(τ) [ n∑ i=1 ( 2p(ti)(1− p(ti)) +O(αn) ) K ( x− ti bn ) K ( y − ti bn )]2 dx dy, Ωn(τ) = Ωn(τ)× Ωn(τ). Далее, используя лемму 2, а также учитывая, что p(x) ∈ C1[0, 1] и [ x− 1 bn , x bn ] ⊃ [−τ, τ ] для всех x ∈ Ωn(τ), нетрудно установить, что b−1 n A1(n) = 2 ∫ Ωn(τ) p2(x) ( 1− p(x) )2 x bn −τ∫ x−1 bn +τ K2 2 (x− y bn ) dx dy+ +O(bn) +O (( αnb −1/2 n )2) +O(αn) +O ( 1 nb2n ) . Стало быть, b−1 n A1(n) −→ 2 1∫ 0 p2(x) ( 1− p(x) )2 dx ∫ |x|≤2τ K2 2 (x) dx. (7) Из (6) и (7) следует утверждение (2). Далее, применяя приведенную выше методику, имеем ∆n = ET (1) n = 1 2 (nbn)−1 ∫ Ωn(τ) n∑ i=1 K2 ( x− ti bn ) d(ti) dx = ISSN 1027-3190. Укр. мат. журн., 2015, т. 67, № 1 ОБ ИНТЕГРАЛЬНОЙ КВАДРАТИЧЕСКОЙ МЕРЕ РАСХОЖДЕНИЯ ДВУХ ЯДЕРНЫХ ОЦЕНОК . . . 7 = ∫ Ωn(τ)  x bn∫ x−1 bn K2(u)p(x− bnu)(1− p(x− bnu)) du dx+O ( 1 nbn ) +O(αn) = = 1∫ 0 p(x)(1−p(x)) dx ∫ |x|≤τ K2(x) dx+O(bn) +O(αn)+O ( 1 nbn ) . Следовательно, b−1/2 n ( ∆n −∆(p) ) = O ( b1/2n ) +O ( αnb −1/2 n ) +O ( 1 nb 3/2 n ) . Лемма доказана. 3. Асимптотическая нормальность статистики Tn. Справедливо следующее утвержде- ние. Теорема 1. Пусть K(x) ∈ H(τ) и p(x), u(x) ∈ C1[0, 1]. Если nb2n →∞, αn = n−1/2b −1/4 n , то при гипотезе H1n b−1/2 n (Tn −∆(p))σ−1(p) d−→ N(a, 1), где ∆(p) и σ2(p) определены в лемме 3 и d−→ обозначает сходимость по распределению, а N(a, 1) — случайную величину, имеющую нормальное распределение с параметрами (a, 1), a = 1 2σ(p) 1∫ 0 u2(x) dx. Доказательство. Имеем Tn = T (1) n + L(1) n + L(2) n , где L(1) n = nbn ∫ Ωn(τ) [ p̃1n(x)− p̃2n(x) ][ Ep1n(x)−Ep2n(x) ] dx, L(2) n = 1 2 nbn ∫ Ωn(τ) [ Ep1n(x)−Ep2n(x) ]2 dx. В силу леммы 2 ясно, что b−1/2 n L(2) n = 1 2 nb1/2n α2 n ∫ Ωn(τ)  1 bn 1∫ 0 K ( x− t bn ) u(t) dt+O ( 1 nbn ) 2 dx. (8) Поскольку [ x− 1 bn , x bn ] ⊃ [−τ, τ ] для всех x ∈ Ωn(τ), из (8) находим ISSN 1027-3190. Укр. мат. журн., 2015, т. 67, № 1 8 П. К. БАБИЛУА, Э. А. НАДАРАЯ, Г. А. СОХАДЗЕ b−1/2 n L(2) n = 1 2 nb1/2n α2 n ∫ Ωn(τ)  τ∫ −τ K(t)u(x− bnt) dt+O ( 1 nbn )2 dx. (9) Далее, так как u(x) ∈ C1[0, 1], из (9) получаем b−1/2 n L(2) n −→ 1 2 1∫ 0 u2(t) dt. (10) Теперь покажем, что b−1/2 n L (1) n P−→ 0. Имеем b−1/2 n L(1) n = 1 2 nb1/2n ∫ Ωn(τ) p̃1n(x) ( Ep1n(x)−Ep2n(x) ) dx− −nb 1/2 n 2 ∫ Ωn(τ) p̃2n(x) ( Ep1n(x)−Ep2n(x) ) dx = I(1) n + I(2) n . (11) Ясно, что E ∣∣I(1) n ∣∣ ≤ (E(I(1) n )2)1/2 = = 1 2 nb1/2n E  ∫ Ωn(τ) p̃1n(x) ( Ep1n(x)−Ep2n(x) ) dx  2  1/2 = = 1 2 nb1/2n  ∫ Ωn(τ) cov ( p1n(x1), p1n(x2) )( Ep1n(x1)−Ep2n(x1) ) × × ( Ep1n(x2)−Ep2n(x2) ) dx1 dx2  1/2 , Ωn(τ) = Ωn(τ)× Ωn(τ). Легко убеждаемся, что cov ( p1n(x1), p1n(x2) ) = = 1 (nbn)2 n∑ i=1 K ( x1 − ti bn ) K ( x2 − ti bn ) p1(ti) ( 1− p1(ti) ) , и по лемме 2 отсюда имеем cov ( p1n(x1), p1n(x2) ) = ISSN 1027-3190. Укр. мат. журн., 2015, т. 67, № 1 ОБ ИНТЕГРАЛЬНОЙ КВАДРАТИЧЕСКОЙ МЕРЕ РАСХОЖДЕНИЯ ДВУХ ЯДЕРНЫХ ОЦЕНОК . . . 9 = n−1b−2 n 1∫ 0 K ( x1 − u bn ) K ( x2 − u bn ) p1(u)(1− p1(u)) du+O ( 1 (nbn)2 ) . Таким образом, E ∣∣I(1) n ∣∣ ≤ 1 2 nb1/2n  ∫ Ωn(τ)  1 nb2n 1∫ 0 K ( x1 − u bn ) K ( x2 − u bn ) p1(u)(1− p1(u)) du+ 1 (nbn)2 × × ( Ep1n(x1)−Ep2n(x1) )( Ep1n(x2)−Ep2n(x2) ) dx1 dx2  1/2 ≤ ≤ c3 √ n b1/2n αn = c3 1√ nαn −→ 0, так как √ nαn = 1 b 1/4 n −→∞. Значит, I(1) n P−→ 0. Аналогично показывается, что I(2) n P−→ 0. Таким образом, из (11) имеем b−1/2 n L(1) n P−→ 0. (12) Далее, для доказательства теоремы осталось показать, что T (1) n −∆n σn d−→ N(0, 1). Имеем T (1) n −∆n σn = K(1) n +K(2) n , где K(1) n = n∑ k=1 ξk, K(2) n = ∑n i=1 ( ε2 i −Eε2 i ) Qii 2nbnσn . Покажем, что K(2) n P−→ 0. В самом деле, Var ( K(2) n ) = (2nbnσn)−2 n∑ i=1 Var ε2 iQ 2 ii = = (2nbnσn)−2 n∑ i=1 ( 2∑ k=1 pk(ti)(1− pk(ti)) [ 1− 3pk(ti) ( 1− pk(ti) )]) Q2 ii. Поскольку Qii ≤ c4bn и b−1 n σ2 n −→ σ2(p) при n→∞, отсюда следует, что ISSN 1027-3190. Укр. мат. журн., 2015, т. 67, № 1 10 П. К. БАБИЛУА, Э. А. НАДАРАЯ, Г. А. СОХАДЗЕ Var (K(2) n ) ≤ c5 1 nbn . Стало быть, K(2) n P−→ 0. Теперь установим, что K (1) n d−→ N(0, 1). С этой целью проверим, что применимы след- ствия 2 и 6 теоремы 2 из работы [9]. Нужно показать выполнение имеющихся в этих утвержде- ниях условий, гарантирующих асимптотическую нормальность квадратично интегрируемой мартингал-разности, какой, согласно лемме 1, является последовательность {ξk,Fk}k≥1. Нетрудно убедиться, что ∑n k=1 Eξ2 k = 1. Асимптотическая нормальность K(1) n будет иметь место, если при n→∞ n∑ k=1 E [ ξ2 kI ( |ξk| ≥ ε ) | Fk−1 ] P−→ 0 (13) и n∑ k=1 ξ2 k P−→ 1. (14) В [9] доказано, что при выполнении (14) и условия sup1≤k≤n |ξk| P−→ 0 имеет место и усло- вие (13). Поскольку при ε > 0 P { sup 1≤k≤n |ξk| ≥ ε } ≤ ε−4 n∑ k=1 Eξ4 k, согласно приводимому ниже соотношению (16), для доказательства K(1) n d−→ N(0, 1) осталось проверить лишь (14). Для этого достаточно убедиться в том, что E ( n∑ k=1 ξ2 k − 1 )2 −→ 0 при n→∞, т. е. поскольку ∑n k=1 Eξ2 k = 1, то E ( n∑ k=1 ξ2 k )2 = n∑ k=1 Eξ4 k + 2 ∑ 1≤k1<k2≤n Eξ2 k1ξ 2 k2 −→ 1. (15) Докажем (15). Принимая во внимание определения ηik и ξk, получаем n∑ k=1 Eξ4 k = I(1) n + I(2) n , где I(1) n = 1 (nbn)4σ4 n n∑ k=2 Eε4 k k−1∑ j=1 Eε4 jQ 4 jk, ISSN 1027-3190. Укр. мат. журн., 2015, т. 67, № 1 ОБ ИНТЕГРАЛЬНОЙ КВАДРАТИЧЕСКОЙ МЕРЕ РАСХОЖДЕНИЯ ДВУХ ЯДЕРНЫХ ОЦЕНОК . . . 11 I(2) n = 3 (nbn)4σ4 n n∑ k=2 ∑ i 6=j Eε2 jEε 2 iQ 2 jkQ 2 ik. Поскольку Qij ≤ c6bn, Eε4 j ≤ 8 2∑ k=1 pk(tj) ( 1− pk(tj) )[ 1− 3pk(tj) ( 1− pk(tj) )] ≤ 4, Eε2 j ≤ 1 2 , |Eε3 j | ≤ 2∑ k=1 pk(tj) ( 1− pk(tj) )[( 1− pk(tj) )2 + p2 k(tj) ] ≤ 1 и b−1 n σ2 n −→ σ2(p), то I(1) n = O ( 1 (nbn)2 ) , I(2) n = O ( 1 nb2n ) . Таким образом, n∑ k=1 Eξ4 k −→ 0 при n→∞. (16) Далее, из определения ξi следует, что ξ2 k1ξ 2 k2 = B (1) k1k2 +B (2) k1k2 +B (3) k1k2 +B (4) k1k2 , где B (1) k1k2 = σ2(k1)σ2(k2), B (2) k1k2 = σ2(k1)σ1(k2), B (3) k1k2 = σ1(k1)σ2(k2), B (4) k1k2 = σ1(k1)σ1(k2), σ1(k) = ∑ 1≤i 6=j≤k−1 ηikηjk, σ2(k) = k−1∑ i=1 η2 ik. Следовательно, 2 ∑ 1≤k1<k2≤n Eξ2 k1ξ 2 k2 = 4∑ i=1 A(i) n , где A(i) n = 2 ∑ 1≤k1<k2≤n EB (i) k1k2 , i = 1, 2, 3, 4. Рассмотрим A (3) n . Используя определение ηij , легко показать, что EB (3) k1k2 = 0 и, следова- тельно, A(3) n = 0. (17) Оценим A (2) n . Имеем ∣∣EB(2) k1k2 ∣∣ = 1 (nbnσn)4 ∣∣∣∣∣ k1−1∑ i=1 Eε3 iEε 3 k1Eε 2 k2Q 2 ik1Qik2Qk1k2 ∣∣∣∣∣. ISSN 1027-3190. Укр. мат. журн., 2015, т. 67, № 1 12 П. К. БАБИЛУА, Э. А. НАДАРАЯ, Г. А. СОХАДЗЕ Поскольку E|ε3 i | ≤ 1 и Qij ≤ c6bn, отсюда находим ∣∣EB(2) k1k2 ∣∣ ≤ c6 k1 − 1 (nσn)4 . Далее, так как ∑ 1≤k1<k2≤n (k1 − 1) = O(n3) и b−1 n σ2 n −→ σ2(p) > 0, получаем ∣∣A(2) n ∣∣ ≤ c7 n3 n4σ4 n = c7 1 nb2n(b−1 n σ2 n)2 = O ( 1 nb2n ) . (18) Теперь установим, что A(1) n → 1 при n→∞. Очевидно, A(1) n = 2 ∑ 1≤k1<k2≤n EB (1) k1k2 = S(1) n + S(2) n , где S(1) n = 2 ∑ 1≤k1<k2≤n ( k1−1∑ i=1 Eη2 ik1 )k2−1∑ j=1 Eη2 jk2 , S(2) n = 2  ∑ k1<k2 EB (1) k1k2 − ∑ k1<k2 ( k1−1∑ i=1 Eη2 ik1 ) k2−1∑ j=1 Eη2 jk2 . Из определения σ2 n следует, что S(1) n = 1− n∑ k=2 ( k−1∑ i=1 Eη2 ik )2 , причем n∑ k=2 ( k−1∑ i=1 Eη2 ik )2 ≤ c8 b4nn 3 (nbn)4σ4 n = O ( 1 nb2n ) . Стало быть, S(1) n = 1 +O ( 1 nb2 ) . (19) Далее, покажем, что S(2) n → 0. S (2) n можно записать так: S(2) n = 2 ∑ k1<k2 [ k1−1∑ i=1 cov ( η2 ik1 , η 2 ik2 ) + k1−1∑ i=1 cov ( η2 ik1 , η 2 k1k2 )] . Нетрудно показать, что cov ( η2 ik1 , η 2 ik2 ) = O ( 1 n4σ4 n ) . Но, поскольку ∑ 1≤k1<k2≤n (k1 − 1) = O(n3), отсюда установим, что ISSN 1027-3190. Укр. мат. журн., 2015, т. 67, № 1 ОБ ИНТЕГРАЛЬНОЙ КВАДРАТИЧЕСКОЙ МЕРЕ РАСХОЖДЕНИЯ ДВУХ ЯДЕРНЫХ ОЦЕНОК . . . 13 S(2) n = O ( 1 nσ4 n ) = O ( 1 nb2n ) . (20) Итак, согласно (19) и (20), A(1) n = 1 +O ( 1 nb2n ) . (21) Наконец, покажем, что A(4) n → 0 при n → ∞. Из определения ηij , соотношений Qij ≥ 0 и Eε2 i = d(ti) ≤ 1/2 получаем EB (4) k1k2 = 4 ∑ 1≤t<s≤k1−1 Eηsk1ηtk1ηsk2ηtk2 ≤ c8 n4b4nσ 4 n ∑ 1≤t<s≤k1−1 Qsk1Qtk1Qsk2Qtk2 . Таким образом, A(4) n ≤ c9 n2b4nσ 4 n ∑ k1<k2 Ak1k2 , где Ak1k2 = 1 n2 ∑ 1≤t<s≤k1−1 Qsk1Qtk1Qsk2Qtk2 . Но ∑ k1<k2 Ak1k2 ≤ n∑ k1,k2=1 ( 1 n n∑ t=1 Qtk1Qtk2 )2 . Следовательно, A(4) n ≤ c10 1 n2b4nσ 4 n × × n∑ k1,k2=1  ∫ Ω(τ) ∫ Ωn(τ) K ( x− xk1 bn ) K ( y − xk2 bn ) 1 n n∑ i=1 K ( x− xi bn ) K ( y − xi bn ) dxdy  2 . (22) Далее, используя лемму 2, из (22) можно заключить, что A(4) n ≤ c11 b4nσ 4 n n∑ k1,k2=1  1 n 1∫ 0 ∫ Ωn(τ) ∫ Ωn(τ) K ( x− xk1 bn ) K ( y − xk2 bn ) × ×K ( x− u bn ) K ( y − u bn ) du dx dy  2 +O ( 1 nb2n ) . (23) Далее, если в (23) снова применить лемму 2, то можно показать, что A(4) n ≤ c12 b4nσ 4 n 1∫ 0 1∫ 0 1∫ 0 1∫ 0 ψn(u1, v2)ψn(u1, v1)ψn(u2, v1)ψn(u2, v2) du1 du2 dv1 dv2, (24) ISSN 1027-3190. Укр. мат. журн., 2015, т. 67, № 1 14 П. К. БАБИЛУА, Э. А. НАДАРАЯ, Г. А. СОХАДЗЕ где ψn(x, y) = ∫ Ωn(τ) K ( t− x bn ) K ( t− y bn ) dt. Теперь оценим интеграл, входящий в (24). Поскольку [ x− 1 bn , x bn ] ⊇ [−τ, τ ] для всех x ∈ ∈ Ωn(τ), то 1∫ 0 ψn(u1, v2)ψn(u1, v1) du1 = = bn ∫ Ωn(τ) K ( t− v2 bn ) K ( z − v1 bn ) K2 ( z − t bn ) dt dz ≤ c13b 3 n, K2 = K ∗K, Ωn(τ) = Ωn(τ)× Ωn(τ). Следовательно, A(4) n ≤ c14 1 bnσ4 n 1∫ 0 1∫ 0 1∫ 0 ψn(u2, v1)ψn(u2, v2) du2 dv1 dv2 +O ( 1 nb2n ) . (25) Далее, аналогичными рассуждениями из (25) окончательно получаем A(4) n ≤ c15 b4n bnσ4 n +O ( 1 nb2n ) = O ( b4n b3n(b−1 n σ2 n)2 ) +O ( 1 nb2n ) = O(bn) +O ( 1 nb2n ) . (26) Объединив вместе соотношения (17), (18), (21) и (26), заключаем, что 2 ∑ 1≤k1<k2≤n Eξ2 k1ξ 2 k2 −→ 1. Отсюда и из (16) следует, что E ( n∑ k=1 ξ2 k − 1 )2 −→ 0 при n→∞. Стало быть, T (1) n −∆n σn d−→ N(0, 1). (27) Далее, используя представление Tn = T (1) n + L (1) n + L (2) n , лемму 3, (10) и (12), из (27) находим b−1/2 n ( Tn −∆(p) σ(p) ) d−→ N  1 2σ(p) 1∫ 0 u2(x) dx, 1 . Теорема 1 доказана. Следствие 1. Пусть K(u) ∈ H(τ) и p(x) ∈ C1[0, 1]. Если nb2n →∞, то при гипотезе H0 b−1/2 n ( Tn −∆(p) ) σ−1(p) d−→ N(0, 1). (28) ISSN 1027-3190. Укр. мат. журн., 2015, т. 67, № 1 ОБ ИНТЕГРАЛЬНОЙ КВАДРАТИЧЕСКОЙ МЕРЕ РАСХОЖДЕНИЯ ДВУХ ЯДЕРНЫХ ОЦЕНОК . . . 15 4. Применение статистики Tn для проверки гипотезы. В качестве важного применения следствия 1 построим критерий для проверки простой гипотезы H0 о равенстве двух бернул- лиевских функций регрессии p1(x) = p2(x) = p(x), где функция p(x) полностью определена. Критическая область устанавливается неравенством Tn ≥ dn(α) = ∆(p) + b1/2n σ(p)λα, (29) где Φ(λα) = 1− α, Φ(λ) — стандартное нормальное распределение. Следствие 2. Пусть K(u) ∈ H(τ) и p(x), u(x) ∈ C1[0, 1]. Если nb2n → ∞ и αn = = n−1/2b −1/4 n , то локальное поведение мощности PH1n ( Tn ≥ dn(α) ) таково: PH1n ( Tn ≥ dn(α) ) −→ 1− Φ ( λα − A(u) σ(p) ) , (30) где A(u) = 1 2 1∫ 0 u2(x) dx > 0. Сходимость (30) показывает, что критерий (29) позволяет отличать от гипотезыH0 альтерна- тивы, сближающиеся с ней со скоростью n−1/2b −1/4 n . Из доказательства теоремы 1 очевидным образом следует, что более близкие альтернативы (т. е. при αn · n1/2b 1/4 n → 0) этот критерий асимптотически не отличает от H0 (т. е. PH1n(Tn ≥ dn(α)) −→ α), а для более удаленных альтернатив (т. е. при αnn1/2b1/4 −→∞) он состоятелен (т. е. PH1n(Tn ≥ dn(α)) −→ 1). Если положим, например, bn = n−δ, то αn = n−1/2b −1/4 n = n−1/2+δ/4, 0 < δ < 1/2. Пусть теперь p(x) гипотезой не определена (т. е. проверяется сложная гипотеза). Тогда непосредственно использовать (29) нельзя. Требуется предварительно заменить входящие в (29) неизвестные параметры ∆(p) и σ2(p) некоторыми оценками ∆̃n и σ̃2 n соответственно. За оценку ∆(p) и σ2(p) примем статистики ∆̃n = ∫ Ωn(τ) λn(x) dx ∫ |x|≤τ K2(x) dx, σ̃2 n = 2 ∫ Ωn(τ) λ2 n(x) dx ∫ |x|≤2τ K2 2 (x) dx, λn(x) = 1 2 [ p1n(x) ( pn(x)− p1n(x) ) + p2n(x) ( pn(x)− p2n(x) )] и покажем, что b−1/2 n ( ∆̃n −∆(p) ) P−→ 0, σ̃2 n P−→ σ2(p). (31) Действительно, поскольку pn(x) = 1 + O ( 1 nbn ) равномерно по x ∈ Ωn(τ) и |pin(x)| ≤ c16, x ∈ [0, 1], i = 1, 2, то b−1/2 n E|∆̃n −∆(p)| ≤ ISSN 1027-3190. Укр. мат. журн., 2015, т. 67, № 1 16 П. К. БАБИЛУА, Э. А. НАДАРАЯ, Г. А. СОХАДЗЕ ≤ c17b −1/2 n  ∫ Ωn(τ) ( E ( p1n(x)−Ep1n(x) )2)1/2 dx+ ∫ Ωn(τ) ( E ( p2n(x)−Ep2n(x) )2)1/2 dx + +b−1/2 n ∫ Ωn(τ) ∣∣Ep1n(x)− p(x) ∣∣ dx+ b−1/2 n ∫ Ωn(τ) ∣∣Ep2n(x)− p(x) ∣∣ dx. Далее, используя лемму 2, а также учитывая, что p(x) ∈ C1[0, 1] и [ x− 1 bn , x bn ] ⊃ [−τ, τ ] для всех x ∈ Ωn(τ), отсюда нетрудно установить, что b−1/2 n E|∆̃n −∆(p)| ≤ ≤ c18b −1/2 n  ∫ Ωn(τ)  1 nbn 1 bn 1∫ 0 K2 ( x−u bn ) p(u)(1−p(u)) du+O ( 1 (nbn)2 )1/2 + +O(bn) +O ( 1 nbn ) = O ( 1√ n bn ) +O(b1/2n ) +O ( 1 nb3/2 ) . Стало быть, b−1/2 n (∆̃n −∆(p)) P−→ 0. Аналогично можно установить, что σ̃2 n P−→ σ2(p). Теорема 2. Пусть K(x) ∈ H(τ) и p1(x) = p2(x) = p(x) ∈ C1[0, 1]. Если nb2n → ∞, то при n→∞ b−1/2 n (Tn − ∆̃n)σ̃−1 n d−→ N(0, 1). Доказательство следует из (28) и (31). Теорема 2 позволяет построить асимптотический критерий проверки сложной гипотезы H0 : p1(x) = p2(x), x ∈ [0, 1]. Критическая область для проверки этой гипотезы устанавливает- ся неравенством Tn ≥ d̃n(α) = ∆̃n + b−1/2 n σ̃nλα, Φ(λα) = 1− α. (32) Теперь рассмотрим вопрос о том, является ли критерий, основанный на (32), состоятельным. Справедливо следующее утверждение. Теорема 3. Пусть K(x) ∈ H(τ), p1(x), p2(x) ∈ C1[0, 1]. Если nb2n →∞, то при n→∞ γn(p1, p2) = PH1 ( Tn ≥ d̃n(α) ) −→ 1. Альтернативной гипотезой H1 здесь является любая пара (p1(x), p2(x)), 0 ≤ pi(x) ≤ 1, pi(x) ∈ C1[0, 1], i = 1, 2, такая, что p1(x) 6= p2(x) хотя бы в одной точке x, x ∈ [0, 1]. Доказательство. Обозначим Tn = 1 2 nbn ∫ Ωn ( p1n(x)− p2n(x) )2 dx, pin(x) = pin(x)−Epin(x), i = 1, 2. ISSN 1027-3190. Укр. мат. журн., 2015, т. 67, № 1 ОБ ИНТЕГРАЛЬНОЙ КВАДРАТИЧЕСКОЙ МЕРЕ РАСХОЖДЕНИЯ ДВУХ ЯДЕРНЫХ ОЦЕНОК . . . 17 Аналогично (2), (3) и (31) можно легко показать, что при гипотезе H1 b−1 n σ2 n −→ σ2(p1, p2) = 2 1∫ 0 d2(x) dx ∫ |x|≤2τ K2 2 (x) dx, σ̃2 n P−→ σ2(p1, p2), ∆̃n P−→ ∆(p1, p2), ETn −→ ∆(p1, p2), ∆(p1, p2) = 1∫ 0 d(x) dx ∫ |x|≤τ K2(x) dx, d(x) = 1 2 2∑ k=1 pk(x)(1− pk(x)). (33) Далее, из леммы 2 и того факта, что [ x− 1 bn , x bn ] ⊃ [−τ, τ ], x ∈ Ωn(τ), получаем ∫ Ωn ( Ep1n(x)−Ep2n(x) )2 dx = = ∫ Ωn  τ∫ −τ K(t) ( p1(x− bn(u))− p2(x− bn(u)) )2 du dx+O ( 1 nbn ) . Но по условию p1(x), p2(x) ∈ C1[0, 1] отсюда находим ∫ Ωn ( Ep1n(x)−Ep2n(x) )2 dx = 1∫ 0 ( p1(x)− p2(x) )2 dx+O(bn) +O ( 1 nbn ) . (34) Используя (33) и (34), после несложных преобразований имеем γn(p1, p2) = PH1 Tn −ETn σn ≥ −nb1/2n  1∫ 0 ( p1(x)− p2(x) )2 dx+ op(1) . (35) Наконец, поскольку (Tn−ETn)σ−1 n d−→ N(0, 1) (доказательство этого утверждения полностью аналогично доказательству (27)) и nb1/2n →∞, из (35) следует, что γn(p1, p2)→ 1 при n→∞. Некоторые замечания. 1. Оценка p̂n(x) около границы интервала [0, 1] ведет себя хуже, чем во внутреннем интервале Ωn(τ) = [τbn, 1 − τbn] (см. [10]). Поэтому мы рассматриваем интегральное квадратичное уклонение на Ωn(τ) для того, чтобы избежать трудностей, связан- ных с указанным граничным эффектом. Интегральное квадратичное уклонение на [0, 1] будет рассмотрено отдельно. 2. Пусть ti — точки деления интервала [0, 1], выбранные так, что H(tj) = 2j − 1 2n , j = = 1, . . . , n, где ISSN 1027-3190. Укр. мат. журн., 2015, т. 67, № 1 18 П. К. БАБИЛУА, Э. А. НАДАРАЯ, Г. А. СОХАДЗЕ H(x) = x∫ 0 h(u) du, h(u) — любая известная непрерывная плотность распределения на [0, 1]. В этом случае рассуж- дениями, аналогичными приведенным выше, можно получить обобщение результатов данной работы. 1. Efromovich S. Nonparametric curve estimation. Methods, theory, and applications // Springer Ser. Statist. – New York: Springer-Verlag, 1999. 2. Copas J. B. Plotting p against x // Appl. Statist. – 1983. – 32, № 2. – P. 25 – 31. 3. Okumura H., Naito K. Weighted kernel estimators in nonparametric binomial regression // Int. Conf. Recent Trends and Directions in Nonparametric Statistics: J. Nonparametr. Statist. – 2004. – 16, № 1-2. – P. 39 – 62. 4. Müller H.-G., Schmitt T Kernel and probit estimates in quantal bioassay // J. Amer. Statist. Assoc. – 1988. – 83, № 403. – P. 750 – 759. 5. Aerts M., Veraverbeke N. Bootstrapping a nonparametric polytomous regression model // Math. Methods Statist. – 1995. – 4, № 2. – P. 189 – 200. 6. Надарая Э. А. Об оценке регрессии // Теория вероятностей и ее применения. – 1964. – 9. – С. 157 – 159. 7. Watson G. S. Smooth regression analysis // Sankhya Ser. A. – 1964. – 26. – P. 359 – 372. 8. Nadaraya E., Babilua P., Sokhadze G. Estimation of a distribution function by an indirect sample // Ukr. Math. J. – 2010. – 62, № 12. – P. 1642 – 1658. 9. Липцер Р. Ш., Ширяев А. Н. Функциональная центральная предельная теорема для семимартингалов // Теория вероятностей и ее применения. – 1980. – 25, № 4. – С. 683 – 703. 10. Hart J. D., Wehrly Th. E. Kernel regression when the boundary region is large, with an application to testing the adequacy of polynomial models // J. Amer. Statist. Assoc. – 1992. – 87, № 420. – P. 1018 – 1024. Получено 16.04.14 ISSN 1027-3190. Укр. мат. журн., 2015, т. 67, № 1