Об одном методе нахождения Lp - решения системы линейных уравнений

Рассматривается задача нахождения Lp –решений переопределенной системы линейных алгебраических уравнений при интервальных ограничениях. Для ее решения предложен метод, основанный на использовании модификации метода эллипсоидов. Показано, что этот метод находит Lp –решение системы линейных алгебраиче...

Ausführliche Beschreibung

Gespeichert in:
Bibliographische Detailangaben
Datum:2003
Hauptverfasser: Стецюк, П.И., Колесник, Ю.С., Березовский, О.А.
Format: Artikel
Sprache:Russian
Veröffentlicht: Інститут кібернетики ім. В.М. Глушкова НАН України 2003
Schriftenreihe:Теорія оптимальних рішень
Online Zugang:http://dspace.nbuv.gov.ua/handle/123456789/84859
Tags: Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
Назва журналу:Digital Library of Periodicals of National Academy of Sciences of Ukraine
Zitieren:Об одном методе нахождения Lp - решения системы линейных уравнений / П.И. Стецюк, Ю.С. Колесник, О.А. Березовский // Теорія оптимальних рішень: Зб. наук. пр. — 2003. — № 2. — С. 83-90. — Бібліогр.: 5 назв. — рос.

Institution

Digital Library of Periodicals of National Academy of Sciences of Ukraine
id irk-123456789-84859
record_format dspace
spelling irk-123456789-848592018-03-24T11:32:40Z Об одном методе нахождения Lp - решения системы линейных уравнений Стецюк, П.И. Колесник, Ю.С. Березовский, О.А. Рассматривается задача нахождения Lp –решений переопределенной системы линейных алгебраических уравнений при интервальных ограничениях. Для ее решения предложен метод, основанный на использовании модификации метода эллипсоидов. Показано, что этот метод находит Lp –решение системы линейных алгебраических уравнений за конечное число итераций, зависящее от числа переменных. Розглядається задача знаходження Lp –розв’язку перевизначеної системи лінійних алгебраїчних рівнянь при інтервальних обмеженнях. Для її розв’язування запропоновано метод, який основано на використанні модифікації метода еліпсоїдів. Показано, що цей метод знаходить Lp –розв’язок системи лінійних алгебраїчних рівнянь за кінцеве число ітерацій, яке залежить від кількості змінних. The problem of finding Lp –solution to an overdetermined system of linear algebraic equations with interval restrictions is considered. To solve this problem it’s proposed the method which based on using the modification of ellipsoid method. It’s shown that the method finds Lp –solution of linear algebraic equations system for finite number of iterations which depends on a number of variables. 2003 Article Об одном методе нахождения Lp - решения системы линейных уравнений / П.И. Стецюк, Ю.С. Колесник, О.А. Березовский // Теорія оптимальних рішень: Зб. наук. пр. — 2003. — № 2. — С. 83-90. — Бібліогр.: 5 назв. — рос. XXXX-0013 http://dspace.nbuv.gov.ua/handle/123456789/84859 519.8 ru Теорія оптимальних рішень Інститут кібернетики ім. В.М. Глушкова НАН України
institution Digital Library of Periodicals of National Academy of Sciences of Ukraine
collection DSpace DC
language Russian
description Рассматривается задача нахождения Lp –решений переопределенной системы линейных алгебраических уравнений при интервальных ограничениях. Для ее решения предложен метод, основанный на использовании модификации метода эллипсоидов. Показано, что этот метод находит Lp –решение системы линейных алгебраических уравнений за конечное число итераций, зависящее от числа переменных.
format Article
author Стецюк, П.И.
Колесник, Ю.С.
Березовский, О.А.
spellingShingle Стецюк, П.И.
Колесник, Ю.С.
Березовский, О.А.
Об одном методе нахождения Lp - решения системы линейных уравнений
Теорія оптимальних рішень
author_facet Стецюк, П.И.
Колесник, Ю.С.
Березовский, О.А.
author_sort Стецюк, П.И.
title Об одном методе нахождения Lp - решения системы линейных уравнений
title_short Об одном методе нахождения Lp - решения системы линейных уравнений
title_full Об одном методе нахождения Lp - решения системы линейных уравнений
title_fullStr Об одном методе нахождения Lp - решения системы линейных уравнений
title_full_unstemmed Об одном методе нахождения Lp - решения системы линейных уравнений
title_sort об одном методе нахождения lp - решения системы линейных уравнений
publisher Інститут кібернетики ім. В.М. Глушкова НАН України
publishDate 2003
url http://dspace.nbuv.gov.ua/handle/123456789/84859
citation_txt Об одном методе нахождения Lp - решения системы линейных уравнений / П.И. Стецюк, Ю.С. Колесник, О.А. Березовский // Теорія оптимальних рішень: Зб. наук. пр. — 2003. — № 2. — С. 83-90. — Бібліогр.: 5 назв. — рос.
series Теорія оптимальних рішень
work_keys_str_mv AT stecûkpi obodnommetodenahoždeniâlprešeniâsistemylinejnyhuravnenij
AT kolesnikûs obodnommetodenahoždeniâlprešeniâsistemylinejnyhuravnenij
AT berezovskijoa obodnommetodenahoždeniâlprešeniâsistemylinejnyhuravnenij
first_indexed 2025-07-06T11:59:02Z
last_indexed 2025-07-06T11:59:02Z
_version_ 1836898732525748224
fulltext Теорія оптимальних рішень. 2003, № 2 83 Рассматривается задача нахож- дения pL –решений переопреде- ленной системы линейных алгеб- раических уравнений при интер- вальных ограничениях. Для ее ре- шения предложен метод, осно- ванный на использовании модифи- кации метода эллипсоидов. Пока- зано, что этот метод находит pL –решение системы линейных алгебраических уравнений за ко- нечное число итераций, зависящее от числа переменных.  П.И. Стецюк, Ю.С. Колесник, О.А. Березовский, 2003 ÓÄÊ 519.8 Ï.È. ÑÒÅÖÞÊ, Þ.Ñ. ÊÎËÅÑÍÈÊ, Î.À.. ÁÅÐÅÇÎÂÑÊÈÉ ÎÁ ÎÄÍÎÌ ÌÅÒÎÄÅ ÍÀÕÎÆÄÅÍÈß Lp-ÐÅØÅÍÈß ÑÈÑÒÅÌÛ ËÈÍÅÉÍÛÕ ÓÐÀÂÍÅÍÈÉ Постановка задачи. Пусть имеется система линейных алгебраических уравнений: ,bAx ≈ (1) uxl ≤≤ , (2) где A – mn × вещественная матрица; b – m –мерный вещественный вектор; ul, – n -мерные векторы, такие, что для всех ni .,1 K= ii lu ≥ ; x – n -мерный вектор неиз- вестных параметров. Требуется найти вектор * x , который удовлетворяет ограничениям (2) и "наилучшим образом" (обозначено знаком "" ≈ ) выполняет соотношение (1). Понятие "наилучшим образом", как прави- ло, принято понимать как наилучшее реше- ние системы (1)–(2) в так называемой pL –норме, т.е. когда норма некоторого век- тора nyyy ,,( 1 K= ) определена следующим образом: p pn i ip yy /1 1           = ∑ = , где 1≥p . Случай ∞=p определяется как i ni yy ,,1 max K=∞ = . Случай 2=p соответст- вует стандартной евклидовой норме. Нахождению наилучшего pL –решения системы (1)-(2) может быть поставлена в со- ответствие следующая задача выпуклого программирования: найти { } pp Rx bAxxf n −= ∈ )(min (3) при ограничениях: uxl ≤≤ , (4) ÒÅÎÐ²ß ÎÏÒÈÌÀËÜÍÈÕ Ð²ØÅÍÜ П.И. СТЕЦЮК, Ю.С. КОЛЕСНИК, О.А. БЕРЕЗОВСКИЙ 84 Теорія оптимальних рішень. 2003, № 2 где 1 Rp ∈ – скалярный параметр, такой что 1≥p , который гарантирует выпук- лость функции )(xf p . Подобные задачи часто встречаются в самых разных областях прикладной математики, например: при обработке результов наблюдений, построении и ана- лизе различного рода моделей (физических, биологических, экономических, со- циальных и др.), при поиске компромиссных решений в моделях с противоречи- выми данными и т.д. Когда для переопределенной системы линейных уравнений ранг матрицы A равен n , то задача (3)-(4) имеет единственное решение (даже, когда ни одно из ограничений (4) не активно). В общем случае, сложно что-то утверждать о един- ственности * px (все зависит как от границ на переменные nix i .,1, K= , так и от свойств матрицы A ). Однако при создании метода для нахождения * px будем использовать только тот факт, что задача (3)-(4) всегда имеет решение, и то, что 0)( ** ≥= ppp xff . В случае неоднозначности * px будем находить одно из реше- ний, соответствующее минимальному значению функции * pf . О методах решения задачи. В частных случаях (т.е. при некоторых кон- кретных значениях p ) задача (3)-(4) может быть решена достаточно эффективно посредством стандартных численных процедур оптимизации. Так, например, когда 1=p , либо +∞=p , задача может быть сведена к задаче линейного про- граммирования и решена симплекс-методом, либо методом внутренних точек. Когда 2=p , то она может быть сведена к задаче квадратичного программиро- вания и решена посредством численных методов, например из [1]. В общем случае, т.е. при произвольном значении параметра p ( 1≥p ), зада- ча (3)-(4) есть общей задачей выпуклого программирования при простейших (интервальных) ограничениях на переменные. При этом минимизируемая целе- вая функция может быть как гладкой, что имеет место при 2=p , так и неглад- кой, что имеет место при 1=p и при ∞=p . Поэтому для ее решения требуется разработка численных методов решения, основанных на алгоритмах выпуклой недифференцируемой минимизации. Заметим, что разработка таких методов на- прашивается даже тогда, когда речь идет только о наиболее распространенных значениях p (т.е. ∞= ,2,1p ). В этом случае одним и тем же методом можно решать задачу для каждого из указанных значений p , что практичнее, чем при- влечение для решения этих задач существенно различных методов, какими есть методы линейного программирования и методы квадратичного программирова- ния. Конкретный метод решения задачи (3)-(4) будет определяться выбранным алгоритмом негладкой оптимизации. Так, например, такой метод можно постро- ить на основе r -алгоритмов [2], как эффективного средства решения задач не- ОБ ОДНОМ МЕТОДЕ НАХОЖДЕНИЯ LP -РЕШЕНИЯ СИСТЕМЫ ЛИНЕЙНЫХ УРАВНЕНИЙ Теорія оптимальних рішень. 2003, № 2 85 гладкой оптимизации. Подобная методика применялась в [3] и базировалась на использовании модификации )(αr -алгоритма. Разработанный в [3] метод пред- назначен для решения задачи безусловной минимизации выпуклой функции )(xf p и соответствует случаю, когда в задаче (3)-(4) отсутствуют интервальные ограничения вида (4). Однако учет интервальных ограничений для r -алгоритмов не представляет особых проблем. Это можно сделать как посред- ством использования негладкой штрафной функции максимума из нарушенных ограничений, либо посредством "четного" периодического продолжения целе- вой функции (заданной на отрезке) на все пространство посредством замены пе- ременных [4]. Однако на практике часто требуется локализовать решение * px с опреде- ленной (иногда достаточно «грубой») точностью. Семейство r -алгоритмов та- ким свойством не обладает. Это наводит на мысль построить более «простой» метод для решения задачи (3)-(4), но с возможностью оценки области локализа- ции * px на каждой итерации этого метода. Это легко сделать, если в качестве алгоритма негладкой оптимизации ис- пользовать модификацию метода эллипсоидов [5]. Заметим, что с таким же ус- пехом можно использовать и классический вариант метода эллипсоидов [2], так как скорость сходимости обоих методов приблизительно одинакова. Однако преимущество модификации в том, что ее итерация единообразно описывается и для одномерного случая (т.е. когда 1=n ), что позволит использовать метод и при решении одномерных задач вида (3)-(4). При обосновании сходимости такого метода не возникает особых проблем. Тем более, что интервальные ограничения на переменные (4) играют сущест- венную роль при использовании любого метода по типу метода эллипсоидов. Они дают возможность ограничить область поиска точки минимума функции )(xf p и выполнить начальные условия для применения метода эллипсоидов, которые состоят в том, что точку * px требуется искать в шаре некоторого задан- ного радиуса. Такой шар легко построить, описав вокруг параллелепипеда, за- данного ограничениями (4), либо шар, либо эллипсоид минимального объема. Кроме того, в методах эллипсоидов при построении отсекающих гиперплоско- стей важно именно нормированное направление субградиента, что упрощает расчет при произвольном значении параметра p . Однако, пойдя на использование модификации метода эллипсоидов, мы из- бавимся от проблем, связанных с обоснованием сходимости метода решения задачи (3)-(4). Но проблема медленной скорости сходимости, сопутствующая методам эллипсоидов, останется, и чем больше n , тем более медленную ско- рость сходимости будет обеспечивать построенный метод. Поэтому заранее от- метим, что рассматриваемый далее метод будет применим для эффективного решения задач (3)-(4) при небольших значениях n (порядка десятка перемен- П.И. СТЕЦЮК, Ю.С. КОЛЕСНИК, О.А. БЕРЕЗОВСКИЙ 86 Теорія оптимальних рішень. 2003, № 2 ных). Величина m роли не играет и метод может быть применим при достаточ- но больших ее значениях (порядка сотен тысяч). Метод нахождения * px на основе модификации метода эллипсоидов. Модификация метода эллипсоидов [5] предназначена для решения следующей задачи. Пусть на n E задано векторное поле )(xg , не обязательно непрерывное, n Exg ∈)( , n Ex∈ , 1≥n . Требуется найти такую точку * x , что 0)),(( * ≥− xxxg при всех n Ex∈ . Предполагается, что 0)( ≠xg при * xx ≠ . Кроме того, априорная информация, которая требуется модификации мето- да эллипсоидов, связана с выбором начальной стартовой точки 0x и такого ра- диуса шара 0r с центром в 0x , чтобы в этом шаре находилась искомая точка * x . Удовлетворить эти требования для задачи (3)-(4) не представляет особых проблем. Так, первую часть этих требований можно удовлетворить, используя следующую лемму. Лемма 1. Пусть { }** ,max* ji ttt = , где { }ii nii uxt −= = ,,1 max* K и { }jj njj xlt −= = ,,1 max* K . Обозначим: * i – значение i )1( ni ≤≤ , на котором дости- гается * i t ; * j – значение, на котором достигается * j t ; )(xf p∂ – субградиент функции )(xf p ; ke – k -й орт в n E , nk ≤≤1 . Тогда вектор           ≤ > > > ≤ − ∂ = * * * * * * * * * , 0 0 ,0 , , ),( )( j i j i p tt tt и и t t t если если если e e xf xg удовлетворяет свойству 0)),(( * ≥− xxxg p для всех n Ex∈ . (5) Доказательство леммы 1 приводить не будем. Отметим лишь, что она имеет следующий содержательный смысл. Если точка x находится внутри допустимой области, заданной ограничениями (4), то в качестве )(xg p выбирается субгра- диент функции )(xf p в этой точке, а если точка находится вне допустимой об- ласти, то выбирается субградиент к максимально нарушенному ограничению вида (4). Учитывая выпуклость функции и выпуклость ограничений (4), оче- видно, что такой выбор )(xg p гарантирует выполнение свойства (5). В соответствии с правилом вычисления )(xg p в лемме 1 построим формулу для вычисления "обобщенного" значения функции задачи (3)-(4): ОБ ОДНОМ МЕТОДЕ НАХОЖДЕНИЯ LP -РЕШЕНИЯ СИСТЕМЫ ЛИНЕЙНЫХ УРАВНЕНИЙ Теорія оптимальних рішень. 2003, № 2 87     ≤ >∞+ = .0),( ;0, )( * * tеслиxf tесли xF p p Значение )(xFp будем использовать при построении одного из критериев оста- нова в методе. Этот критерий обусловлен тем, что если 0* =pf , то вычисление субградиента функции )(xf p в точке * px некорректно при большинстве значе- ний p , что связано с операцией деления на величину, пропорциональную корню из * pf (т.е. будет иметь место деление на нуль). Вторую часть требований, связанную с априорной информацией о локали- зации * px , легко обеспечить, выбрав в качестве центра шара центр параллелепи- педа, заданного интервальными ограничениями на переменные (4), и установив радиус шара таким, чтобы этот шар содержал параллелепипед и имел мини- мальный объем. Это обеспечивает следующая лемма. Лемма 2. Пусть       ++ = 2 , 2 11 0 nn lulu x K и ∑ = −= n i ii lur 1 2 0 )( 2 1 . Тогда параллелепипед },,1,:{)( niuxlxxP iii K=≤≤= содержится в шаре }:{),( 0000 rxxxrxS ≤−= . Заметим, что это самый простой и очевидный выбор 0x и 0r для модифика- ции метода эллипсоидов. Более сложный выбор можно осуществить, описав во- круг параллелепипеда эллипсоид минимального объема. Однако в этом случае усложняется доказательство метода, если некоторые переменные фиксированы (т.е. для некоторых i ii ul = ). Дело в том, что эллипсоид минимального объема приводит к проектированию на орты, соответствующие этим равенствам, и об- ратная матрица, задающая этот эллипсоид, является вырожденной. Такая схема выбора 0x и 0r возможна, хотя мы ее рассматривать не будем. Заметим лишь, что она имеет некоторые преимущества перед леммой 2, так как приводит к уменьшению размерности решаемой задачи. Учитывая вышеизложенное, метод для нахождения * px примет следующий вид. Здесь p будем считать входным параметром метода ( 1≥p ), а fε опреде- ляет абсолютную точность, с которой требуется найти значение * pf . Инициализация. Установим стартовую точку 2)(0 lux += и начальный радиус ∑ = −= n i ii lur 1 2 0 )( 2 1 . Вычислим β по формуле         −+= nn 11 1 2 β . П.И. СТЕЦЮК, Ю.С. КОЛЕСНИК, О.А. БЕРЕЗОВСКИЙ 88 Теорія оптимальних рішень. 2003, № 2 Введем в рассмотрение матрицу B размером nn × и положим nIB =:0 , где nI – единичная матрица размером nn × . Перейдем к первой итерации со значениями 0x , 0r и 0B . Пусть на k -й итерации найдены значения n k Ex ∈ , kr , kB . Переход к ( 1+k )-й итерации состоит в выполнении такой последовательности действий. Шаг 1. Вычислим )( kp xF . Если 0)( =kp xF , то "Останов" kp xx =* . Если критерий останова не сработал, то вычислим )( kp xg . Если fkkp T k rxgB ε≤)( , то "Останов" kp xx =* . Иначе переходим к шагу 2. Шаг 2. Положим )( )( : kk T k kk T k k xgB xgB =ξ . Шаг 3. Вычислим очередную точку kkkkk Bhxx ξ−=+ :1 , где β n r h k k = . Шаг 4. Вычислим )(:1 ξβRBB kk =+ и 21 1 1: n rr kk +=+ , где T nIR ξξβξβ )1()( −+= – оператор "сжатия" пространства с коэффициентом β в направлении )1( =∈ ξξ n E , nI – единичная матрица размером nn× . Шаг 5. Переходим к ( 1+k )-й итерации со значениями 1+kx , 1+kr , 1+kB . Факт сходимости вышеприведенного метода обеспечивает следующая тео- рема, доказательство которой не будем приводить в силу его громоздкости. Теорема 1. Если не сработал ни один из критериев останова (см. шаг 1), то генерируемая методом последовательность точек { }∞ =okkx удовлетворяет нера- венству kpkk rxxB ≤−− )( *1 , K2,1,0=k . Скорость сходимости метода можно установить посредством следующих рассуждений. Множество точек x , удовлетворяющих kkk rxxB ≤−− )(1 , представляет со- бой локализующий точку * px эллипсоид kФ объемом )det()( 1 0 −= k n kk BrvФvol . Здесь 0v – объем единичного n -мерного шара. Следовательно, вопрос о скоро- ОБ ОДНОМ МЕТОДЕ НАХОЖДЕНИЯ LP -РЕШЕНИЯ СИСТЕМЫ ЛИНЕЙНЫХ УРАВНЕНИЙ Теорія оптимальних рішень. 2003, № 2 89 сти сходимости метода нахождения * px сводится к оценке на каждом шаге этого метода скорости уменьшения объема эллипсоида kФ , локализующего * px . Теорема 2. Коэффициент уменьшения объема эллипсоида, локализующего * px , на каждой итерации k метода есть величина постоянная и равная 1 2 1 2 1 exp 1 1 )( )( 2 2/ 2 1 <       +−<×      +== + nnnФvol Фvol q n k k β . Из теоремы 2 следует: для того, чтобы уменьшить объем эллипсоида, лока- лизующего * px , в 10 раз, требуется выполнить K итераций, где nnqK 6.4)10ln2(ln10ln ≈≈−= . Так, например, для задачи (3)-(4) такое умень- шение объема означает следующее: чтобы на порядок улучшить отклонение найденного рекордного значения минимизируемой функции )(xf p от ее опти- мального значения * pf , потребуется выполнить 26.4 n итераций. Таким образом, когда в задаче (3)-(4) число переменных n <10 , то для ее решения вышеприве- денный метод будет достаточно эффективен. Его эффективность при этих зна- чениях n можно оценить из таблицы, где приведено число итераций itn для на- хождения * px с точностью 10 -10 по значению функции. n 2 3 4 5 6 7 8 9 10 it n 179 408 730 1144 1651 2250 2940 3723 4598 Для современных персональных компьютеров при n~10 и m~3 n метод требует небольших вычислительных затрат по времени (порядка секунды). Сле- довательно, его можно успешно применять для нахождения * px , когда число пе- ременных ≤n 10. Значение m существенно не влияет на скорость сходимости метода. Однако от него зависит трудоемкость вычислений значения функции )(xf p и ее субградиента, которые при m~1000 будут вносить более весомый вклад в трудоемкость метода, чем алгоритмические операции (шаги 2–4). В заключение отметим, что вышеприведенный метод свободен от парамет- ров регулировки шага, настройка всех его параметров делается автоматически. Кроме того, за конечное число итераций он гарантирует нахождение * px с тре- буемой точностью (на каждой итерации можно указать область локализации точки минимума). П.И. СТЕЦЮК, Ю.С. КОЛЕСНИК, О.А. БЕРЕЗОВСКИЙ 90 Теорія оптимальних рішень. 2003, № 2 П.І.Стецюк, Ю.С. Колесник, О.А.Березовський ПРО ОДИН МЕТОД ЗНАХОДЖЕННЯ LP-РОЗВ’ЯЗКУ СИСТЕМИ ЛІНІЙНИХ РІВНЯНЬ Розглядається задача знаходження pL –розв’язку перевизначеної системи лінійних алгебраїчних рівнянь при інтервальних обмеженнях. Для її розв’язування запропоновано ме- тод, який основано на використанні модифікації метода еліпсоїдів. Показано, що цей метод знаходить pL –розв’язок системи лінійних алгебраїчних рівнянь за кінцеве число ітерацій, яке залежить від кількості змінних. P.I.Stetsyuk,Yu.S.Kolesnik,O.A.Berezovski ON ONE METHOD TO FIND LP-SOLUTION OF LINEAR EQUATIONS SYSTEM The problem of finding pL –solution to an overdetermined system of linear algebraic equations with interval restrictions is considered. To solve this problem it’s proposed the method which based on using the modification of ellipsoid method. It’s shown that the method finds pL –solution of linear algebraic equations system for finite number of iterations which depends on a number of variables. 1. Пшеничный Б.Н., Данилин Ю.М. Численные методы в экстремальных задачах. – М.: Нау- ка, 1975. – 319 с. 2. Шор Н.З. Методы минимизации недифференцируемых функций и их приложения. – Ки- ев: Наук. думка, 1979. – 199 с. 3. Стецюк П.И., Колесник Ю.C. К вопросу выбора метода аппроксимации результатов из- мерений // Интеллектуальные информационно-аналитические системы и комплексы. – Киев: Ин-т кибернетики им. В.М.Глушкова НАН Украины, 2000. – С. 62-67. 4. Шор Н.З., Стеценко С.И. Квадратичные экстремальные задачи и недифференцируемая оптимизация. – Киев: Наук. думка, 1989. – 208 с. 5. Стецюк П.И. Приближенный метод эллипсоидов // Кибернетика и системный анализ. – 2003. – N.3. – C. 141-146. Получено 01.09.2003