ε-субградиенты в методах декомпозиции по переменным для некоторых задач оптимизации
Рассматривается декомпозиция блочных задач выпуклого программирования со связывающими переменными. Исследуются свойства подзадач, полезные при вычислении ε-субградиентов целевых функций по связывающим переменным. Предлагаются некоторые алгоритмы решения рассматриваемой задачи....
Збережено в:
Дата: | 2003 |
---|---|
Автор: | |
Формат: | Стаття |
Мова: | Russian |
Опубліковано: |
Інститут кібернетики ім. В.М. Глушкова НАН України
2003
|
Назва видання: | Теорія оптимальних рішень |
Онлайн доступ: | http://dspace.nbuv.gov.ua/handle/123456789/84858 |
Теги: |
Додати тег
Немає тегів, Будьте першим, хто поставить тег для цього запису!
|
Назва журналу: | Digital Library of Periodicals of National Academy of Sciences of Ukraine |
Цитувати: | ε-субградиенты в методах декомпозиции по переменным для некоторых задач оптимизации / Ю.П. Лаптин // Теорія оптимальних рішень: Зб. наук. пр. — 2003. — № 2. — С. 75-82. — Бібліогр.: 7 назв. — рос. |
Репозитарії
Digital Library of Periodicals of National Academy of Sciences of Ukraineid |
irk-123456789-84858 |
---|---|
record_format |
dspace |
spelling |
irk-123456789-848582018-03-24T11:28:07Z ε-субградиенты в методах декомпозиции по переменным для некоторых задач оптимизации Лаптин, Ю.П. Рассматривается декомпозиция блочных задач выпуклого программирования со связывающими переменными. Исследуются свойства подзадач, полезные при вычислении ε-субградиентов целевых функций по связывающим переменным. Предлагаются некоторые алгоритмы решения рассматриваемой задачи. Розглядається декомпозиція блочних задач опуклого програмування зі зв’язуючими змінними. Досліджуються властивості підзадач, корисні при обчисленні ε-субградієнтів цільових функцій за зв’язуючими змінними. Пропонуються деякі алгоритми розв’язування задач, які розглядаються. Decomposition of block convex problems with linking variables is discussed. Block functions are defined on restricted sets. We analyze the subproblem properties which are useful for calculaiting ε -subgradient of the object function by linking variables. Some algorithms are proposed for solving such problems. Computational experiment results are discussed. 2003 Article ε-субградиенты в методах декомпозиции по переменным для некоторых задач оптимизации / Ю.П. Лаптин // Теорія оптимальних рішень: Зб. наук. пр. — 2003. — № 2. — С. 75-82. — Бібліогр.: 7 назв. — рос. XXXX-0013 http://dspace.nbuv.gov.ua/handle/123456789/84858 519.8 ru Теорія оптимальних рішень Інститут кібернетики ім. В.М. Глушкова НАН України |
institution |
Digital Library of Periodicals of National Academy of Sciences of Ukraine |
collection |
DSpace DC |
language |
Russian |
description |
Рассматривается декомпозиция блочных задач выпуклого программирования со связывающими переменными. Исследуются свойства подзадач, полезные при вычислении ε-субградиентов целевых функций по связывающим переменным. Предлагаются некоторые алгоритмы решения рассматриваемой задачи. |
format |
Article |
author |
Лаптин, Ю.П. |
spellingShingle |
Лаптин, Ю.П. ε-субградиенты в методах декомпозиции по переменным для некоторых задач оптимизации Теорія оптимальних рішень |
author_facet |
Лаптин, Ю.П. |
author_sort |
Лаптин, Ю.П. |
title |
ε-субградиенты в методах декомпозиции по переменным для некоторых задач оптимизации |
title_short |
ε-субградиенты в методах декомпозиции по переменным для некоторых задач оптимизации |
title_full |
ε-субградиенты в методах декомпозиции по переменным для некоторых задач оптимизации |
title_fullStr |
ε-субградиенты в методах декомпозиции по переменным для некоторых задач оптимизации |
title_full_unstemmed |
ε-субградиенты в методах декомпозиции по переменным для некоторых задач оптимизации |
title_sort |
ε-субградиенты в методах декомпозиции по переменным для некоторых задач оптимизации |
publisher |
Інститут кібернетики ім. В.М. Глушкова НАН України |
publishDate |
2003 |
url |
http://dspace.nbuv.gov.ua/handle/123456789/84858 |
citation_txt |
ε-субградиенты в методах декомпозиции по переменным для некоторых задач оптимизации / Ю.П. Лаптин // Теорія оптимальних рішень: Зб. наук. пр. — 2003. — № 2. — С. 75-82. — Бібліогр.: 7 назв. — рос. |
series |
Теорія оптимальних рішень |
work_keys_str_mv |
AT laptinûp esubgradientyvmetodahdekompoziciipoperemennymdlânekotoryhzadačoptimizacii |
first_indexed |
2025-07-06T11:58:59Z |
last_indexed |
2025-07-06T11:58:59Z |
_version_ |
1836898729354854400 |
fulltext |
Теорія оптимальних рішень. 2003, №2 75
ÒÅÎвß
ÎÏÒÈÌÀËÜÍÈÕ
вØÅÍÜ
Рассматривается декомпозиция
блочных задач выпуклого про-
граммирования со связывающими
переменными. Исследуются свой-
ства подзадач, полезные при вы-
числении ε-субградиентов целевых
функций по связывающим пере-
менным. Предлагаются некото-
рые алгоритмы решения рас-
сматриваемой задачи.
Ю.П. Лаптин, 2003
ÓÄÊ 519.8
Þ.Ï. ËÀÏÒÈÍ
εεεε-ÑÓÁÃÐÀÄÈÅÍÒÛ Â ÌÅÒÎÄÀÕ
ÄÅÊÎÌÏÎÇÈÖÈÈ ÏÎ ÏÅÐÅÌÅÍÍÛÌ
ÄËß ÍÅÊÎÒÎÐÛÕ ÇÀÄÀ×
ÎÏÒÈÌÈÇÀÖÈÈ
При решении оптимизационных задач, воз-
никающих в ходе моделирования сложных
технических объектов, обычно приходится
учитывать их особенности и структуру. Рас-
сматриваемые объекты, как правило, состоят
из совокупности связанных между собой
блоков и подсистем, что отражается в струк-
туре оптимизационных моделей [1]. В неко-
торых случаях такие модели сводятся к
блочным задачам выпуклого программиро-
вания со связывающими переменными [2].
Эффективным подходом к решению таких
задач в случае линейного программирования
является применение схем декомпозиции по
переменным. В случае нелинейного про-
граммирования использование схем деком-
позиции сопряжено с определенными труд-
ностями. Преодолению некоторых из них
посвящена настоящая работа.
1. Рассматривается блочная задача мате-
матического программирования со связы-
вающими переменными:
∑
=
=
Q
q
q
q
XyXy
xyfXyF
1
0
,,
),(min),(min (1)
,,...,1,,...,1,0),( QqIixyf q
qi
q ==≤ (2)
где ),(
qi
q xyf - выпуклые собственные
функции (L+Nq) – размерного вектора
),,( q
xy
L
Ey ∈ , q
N
q
Ex ∈ , i = 0,…, Iq , q =
1,…, Q , ),...,( 1 Q
xxX = .
Ю.П. ЛАПТИН
76 Теорія оптимальних рішень. 2003, № 2
Пусть переменные y зафиксированы, yy = , тогда задача (1), (2) распадается
на подзадачи )( yPq следующего вида:
{ }q
qi
q
Nqq
q IixyfExxyf q ,...,1,0),(,:),(min
0 =≤∈ , Qq ,...,1= (3)
Обозначим qW множество тех значений вектора y, для которых решение за-
дачи )( yPq существует, и определим функцию )( y
qΦ :
{ }
∉∞+
∈∈
=Φ
,,
,,)(:),(min
)(
0
q
qq
qq
qq
Wy
WyyDxxyf
y (4)
где )( yDq - множество всех q
x , удовлетворяющих ограничениям задачи )( yP .
Используя (4), задачу (1), (2) можно представить в виде следующей (коорди-
нирующей): найти
∈Φ∑
=
L
Q
q
q Eyy :)(min
1
, (5)
В работе [2] показано, что если задача (1), (2) имеет решение, то
Qqy
q ,...,1),( =Φ являются собственными выпуклыми функциями, там же опре-
делены правила вычисления субградиентов )( yg
q
Φ функций )( y
qΦ . При этом
каждая задача (3) должна решаться точно, субградиенты )( yg
q
Φ выражаются
через субградиенты функций ),( xyf
i
q в оптимальной точке )(*
yx
q . Для не-
дифференцируемых функций эти субградиенты должны выбираться специаль-
ным образом. Поскольку для нелинейных задач алгоритмы оптимизации сходят-
ся к оптимуму как к предельной точке, возникают значительные трудности в
определении субградиентов )( ygΦ и применении схем декомпозиции к нели-
нейным блочным задачам со связывающими переменными. В случае недиффе-
ренцируемых функций возникают дополнительные трудности, поскольку отсут-
ствуют процедуры формирования субдифференциалов функций (в точке может
быть вычислен только некоторый субградиент функции). Преодолеть эти труд-
ности можно переходя к использованию ε-субградиентов )( yg
q
Φ функций
)( y
qΦ . Способам вычисления таких ε-субградиентов посвящена основная часть
настоящей работы.
Задача (5) является задачей выпуклого программирования, однако непосред-
ственное ее использование в вычислительных алгоритмах затруднительно в виду
сложности описания подмножеств из EL
, на которых функции )(y
qΦ принимают
конечные значения. В работе [2] для преодоления этих трудностей проводилась
регуляризация задачи (5), позволяющая определить функции, аналогичные
)( y
qΦ , на всем пространстве E
L
. При этом предполагается, что функции
ε-СУБГРАДИЕНТЫ В МЕТОДАХ ДЕКОМПОЗИЦИИ ПО ПЕРЕМЕННЫМ ДЛЯ НЕКОТОРЫХ …
Теорія оптимальних рішень . 2003, № 2 77
),(
qi
q xyf определены на всем пространстве q
N
L
EE × . После регуляризации
для решения задачи (5) могут использоваться известные ε- субградиентные ме-
тоды [2 - 5].
2. В дальнейшем будем рассматривать задачи вида (3), индекс q , если это не
вызывает неоднозначности, будем опускать.
Обозначим { }IixyfxyD
i
,...,1,0),(:),( =≤= . Предполагается, что
1) D – замкнутое множество,
i
fD domint⊂ , Ii ,...,0= ;
2) множество D непусто и для него выполняется условие Слейтера;
3) в каждой точке области определения функции могут быть вычислены значе-
ние и некоторый субградиент этой функции.
Задача )( yP определяется соотношением (3), функция )( yΦ - соотношени-
ем (4) (индекс q опущен), )( yD - допустимое множество задачи )( yP .
Теорема 1. Пусть Iifxy
i
,...,0,domint),( =∈ , Wy int∈ , для допустимого
множества )( yD задачи )( yP выполняется условие Слейтера, заданы числа
Iii ,...,1,0,0 =≥ε , в точке ),( xy вычислены iε - субградиенты ),(
i
x
i
y
i
ggg =
функций i
f такие, что для некоторых чисел Iiu i ,...,1, = , выполняются условия
0
1
0 =+∑
=
I
i
i
xix gug , (6)
Iiu i ,...,1,0 =≥ . (7)
Тогда
1) ε−≥Φ ),()( 0
xyfy ;
2) если )( yDx ∈ , то ε -субградиент функции Φ(y) в точке y = y может быть
вычислен по формуле
,)(
1
0 ∑
=
ε
Φ +=
I
i
i
yiy gugyg (8)
где
.)),((
1
0 ∑
=
−ε+ε=ε
I
i
i
ii xyfu (9)
Доказательство. Рассмотрим первое утверждение. Используя теорему Куна
- Таккера, имеем
Ю.П. ЛАПТИН
78 Теорія оптимальних рішень. 2003, № 2
.)),(),((),(),(min
),(),(minmax)(
1
0
00
1
0
0
ε−−++ε−−+≥
≥
+=Φ
∑
∑
=
=
≥
I
i
i
i
x
i
ix
x
I
i
i
i
xu
xxgxyfuxxgxyf
xyfuxyfy
Откуда, с учетом (6), получаем утверждение теоремы.
Докажем второе утверждение
Пусть в некоторой точке Wy int∈ для допустимого множества )( yD задачи
)( yP выполняется условие Слейтера. Обозначим x(y) – решение задачи )( yP ,
Iiyui ,...,1,0)( =≥ – значения множителей Лагранжа, таких, что
.),(),(minmax),()(),(min
))(,()())(,())(,()(
1
0
0
1
0
1
0
)(
+=
+=
=+==Φ
∑∑
∑
=
≥
=
=
I
i
i
i
xu
I
i
i
i
I
i
i
iyu
xyfuxyfxyfyuxyf
yxyfyuyxyfyxyLy
x
Такие
множители существует в соответствии с теоремой Куна - Таккера.
По условию теоремы в точке y для допустимого множества )( yD условие
Слейтера выполняется. Рассмотрим точку Wy' int∈ , достаточно близкую к y ,
в которой для множества )( yD ′ также выполняется условие Слейтера (такая
точка существует в силу непрерывности функций Iixyf
i
,...,1),,( = ).
Обозначим )( yxx ′=′ . Очевидно, ).,(),()( )( xyLxyLy
uyu
′′≥′′=′Φ ′ Поскольку
x - допустимая точка задачи )( yP , а )( yΦ - значение целевой функции в опти-
мальной точке, то ),()( 0
xyfy ≤Φ . Откуда получаем
[ ]≥+−′′+
+−′′=−′′≥Φ−′Φ
∑
=
I
i
iii
i
u
xyfxyfxyfu
xyfxyfxyfxyLyy
1
000
),(),(),(
),(),(),(),()()(
[∑
=
+ε−−′+−′+ε−−′+−′≥
I
i
i
i
y
i
xiyx gyygxxugyygxx
1
0
00
),(),(),(),(
] [ ] .),(),(),(
1
0
1
0 ∑∑
==
+ε−+ε−+−′=+
I
i
i
ii
I
i
i
yiy
i
xyfugugyyxyf
Последнее равенство выполняется в силу (6), т.е. ∑
=
ε
Φ +=
I
i
i
yiy gugyg
1
0
)( . Теорема
доказана.
ε-СУБГРАДИЕНТЫ В МЕТОДАХ ДЕКОМПОЗИЦИИ ПО ПЕРЕМЕННЫМ ДЛЯ НЕКОТОРЫХ …
Теорія оптимальних рішень . 2003, № 2 79
Рассмотрим сформулированный результат применительно к задаче линейно-
го программирования. Пусть Iibyaxaxyf
ii
y
i
x
i
,...,0,),( =++= , где i
y
i
x aa , -
вектор-строки соответствующих размерностей.
Обозначим ,...,...,...
111
=
=
=
II
y
y
y
I
x
x
x
b
b
b
a
a
A
a
a
A yabybyAbyb yy
000
)(,)( +=+= .
Тогда задачу линейного программирования )( yP и двойственную к ней можно
представить в виде
{ }0)(:)(min
00 ≤++ ybxAybxa xx
x
, (10)
{ }0,0:)()(max
00 ≥=++ uauAybuyb x
T
x
T
u
. (11)
Очевидно, что в условиях теоремы 1 можно положить Iii ,...,1,0,0 ==ε , а
соотношения (6) , (7) есть условия допустимости двойственной задачи (11).
Лемма 1. В условиях теоремы 1 для задачи (10) имеет место
uybxa
T
x )(0 −=ε .
Доказательство.
=+−−=+−=−=ε ∑
=
uybxAxaxauybxAxyfu
T
xxx
I
i
T
x
i
i ))(())((),(
00
1
−xax
0
uyb
T)( . Лемма доказана.
Сформулированная лемма определяет простое правило остановки при при-
ближенном решении задач линейного программирования и вычислении ε -
субградиентов функции )( yΦ . При этом должны использоваться алгоритмы
решения задач линейного программирования, генерирующие на каждой итера-
ции допустимые точки прямой и двойственной задач (см., например, [6]). Близ-
кие результаты для задач линейного программирования получены в [5].
В общем случае для вычисления ε -субградиентов функции )( yΦ должны
применяться специальные алгоритмы. Результаты, полезные для разработки та-
ких алгоритмов, приводятся ниже.
Пусть задана совокупность { }mxxx ,...,, 21 точек из N
E , )(yDxm ∈ , в каж-
дой точке ),( kxy вычислены значения ),( k
iik
xyff = и субградиенты
),(
ik
x
ik
y
ik
ggg = функций ,,...,0, Iif
i = mk ,...,1= .
Рассмотрим линейную аппроксимацию задачи (3) при фиксированном yy = ,
которая может быть представлена в виде: найти
ξ
ξ,
min
x
(12)
при ограничениях
Ю.П. ЛАПТИН
80 Теорія оптимальних рішень. 2003, № 2
0,,...,1,),( ==ξ≤−+ imkxxgf k
ik
x
ik , (13)
Iimkxxgf k
ik
x
ik ,...,1,,...,1,0),( ==≤−+ , (14)
Пусть ikk uu ,0 - двойственные переменные, соответствующие ограничениям
(13), (14), Iimk ,...,1,,...,1 == . Двойственная задача записывается следующим
образом: найти
( )∑∑
= =
−
I
i
m
k
ikk
ik
x
ik
u
uxgf
0 1
),(max , (15)
при ограничениях
1
1
0 =∑
=
m
k
ku , (16)
0
0 1
=∑∑
= =
I
i
m
k
ik
xik gu , (17)
.,...,1,,...,0,0 mkIiuik ==≥ (18)
Обозначим ∗∗ ξmmx , - решение задачи (12)-(14), iku - оптимальные значения
двойственных переменных, Iimk ,...,0,,...,1 == .
Лемма 2. Пусть для некоторых i, k выполняется 0>iku , тогда ik есть εik
g -
субградиент функции i
f в точке ),( mxy , где
=−+ξ−
>−+
=ε
∗∗
∗
.0),,(
,0),,(
00
ixxgf
ixxgf
mm
k
xm
m
mm
ik
x
im
ik (19)
Доказательство. Легко видеть, что
[ ] .),(),(
),(),(
km
ik
x
ik
mm
ik
x
im
mmkm
ik
x
ikim
km
ik
x
ikimik
xxgfxxgf
xxxxgffxxgff
−+−−+=
=−+−−−=−−−=ε
∗∗
∗∗
Поскольку 0>iku , то соответствующее ограничение выполняется как равен-
ство в оптимальной точке. Откуда следует утверждение леммы. Лемма доказана.
Лемма 3. Пусть 0
1
>=∑
=
m
k
iki uu . Тогда вектор
= ∑
=
−
m
k
ik
iki
i
guug
1
1)( есть iε -
субградиент функции i
f в точке ),( mxy , где
ε=ε ∑
=
−
m
k
ik
iki
i
uu
1
1)( , ikε оп-
ределено в соответствии с леммой 2.
Доказательство. В соответствии с леммой 2 имеем
,),(),( ik
m
ikimi
xxgfxyf ε−−+≥ mk ,...,1= . Умножая неравенства на iku и
суммируя по k, получаем утверждение леммы.
Теорема 2.
ε-СУБГРАДИЕНТЫ В МЕТОДАХ ДЕКОМПОЗИЦИИ ПО ПЕРЕМЕННЫМ ДЛЯ НЕКОТОРЫХ …
Теорія оптимальних рішень . 2003, № 2 81
,)(
1 0
∑∑
= =
ε
Φ =
m
k
I
i
ik
yik guyg m (20)
∗ξ−=ε m
m
m f
0 . (21)
Доказательство. Не трудно видеть, что векторы ),(
i
x
i
y
i
ggg = и числа iu ,
определенные в соответствии с леммой 3, удовлетворяют соотношениям (6), (7).
Подставляя соответствующие выражения в (8), (9) и учитывая, что 1
1
0 =∑
=
m
k
ku ,
получаем ∗∗
= =
∗ ξ−=
−+ξ−=ε ∑∑ m
m
mm
m
k
I
i
ik
xikm
m
m fxxguf
0
1 0
0 , . Последнее равен-
ство следует из (17). Теорема доказана.
Теорема 3 позволяет строить правила остановки в процессах приближенного
решения задачи )( yP . Для этого необходимо, чтобы допустимые точки mx ге-
нерировались некоторым процессом, сходящимся к решению задачи )( yP , и
оптимальные значения линейных аппроксимаций также сходились к оптималь-
ному значению задачи )( yP .
Сформулированные условия выполняются, если ограничения задачи )( yP
линейны, а для решения используется метод Келли [7]. Тогда все генерируемые
точки являются допустимыми и оптимальные значения линейных аппроксима-
ций сходятся к оптимальному значению задачи )( yP . Однако метод Келли име-
ет медленную сходимость и сложный в программной реализации.
В случае нелинейных ограничений необходимы дополнительные усилия для
формирования допустимых точек и специальным образом построенные линей-
ные аппроксимации, обеспечивающие сходимость оптимальных значений.
При практическом формировании линейной аппроксимации в задачу (12)-
(14) включаются только наиболее существенные ограничения. Правила, которые
при этом используются, являются эвристическими, однако позволяют сущест-
венно понизить размерность генерируемой задачи.
3. Представленные результаты могут быть полезны при разработке алгорит-
мов декомпозиции для решения задач вида (1), (2). Применение таких алгорит-
мов наиболее эффективно в случаях, когда исходная задача (1), (2) распадается
на подзадачи, большинство из которых имеют специальную структуру и эффек-
тивные алгоритмы решения, а подзадач общего вида немного и их размерность
невелика.
На основе предлагаемого подхода разрабатываются отдельные классы ре-
курсивной объектно-ориентированной библиотеки RBL [1], предназначенной
для оптимизационного моделирования задач, имеющих сложную структуру. При
создании приложений прикладные классы должны порождаться от базовых
классов библиотеки RBL. Для подзадач, имеющих специальную структуру, мо-
гут разрабатываться соответствующие алгоритмы решения.
Ю.П. ЛАПТИН
82 Теорія оптимальних рішень. 2003, № 2
Работа выполнена при финансовой поддержке Украинского научно-
технологического центра (грант № 1625).
Лаптін Ю.П.
ε-СУБГРАДІЄНТИ В МЕТОДАХ ДЕКОМПОЗИЦІЇ ЗА ЗМІННИМИ ДЛЯ ДЕЯКИХ ЗАДАЧ
ОПТИМІЗАЦІЇ
Розглядається декомпозиція блочних задач опуклого програмування зі зв’язуючими
змінними. Досліджуються властивості підзадач, корисні при обчисленні ε-субградієнтів
цільових функцій за зв’язуючими змінними. Пропонуються деякі алгоритми розв’язування
задач, які розглядаються.
Laptin Y.P.
ε -SUBGRADIENT IN DECOMPOSITION ALGORITMS ON VARIABLES FOR SOME
OPTIMIZATION PROBLEMS
Decomposition of block convex problems with linking variables is discussed. Block functions are
defined on restricted sets. We analyze the subproblem properties which are useful for calculaiting
ε -subgradient of the object function by linking variables. Some algorithms are proposed for solving
such problems. Computational experiment results are discussed.
1. Лаптин Ю.П., Журбенко Н.Г. Разработка программных средств оптимизации сложных
технических объектов // Теорія оптимальних рішень. – К.: Ін-т кібернетики ім.
В.М.Глушкова НАН України, 2002. – С. 3 - 12.
2. Shor N.Z. Nondifferentiable Optimization and Polynomial Problems. – London: Kluwer Aca-
demic Publishers, 1998. - 381 p.
3. Демьянов В.Ф., Васильев Л.В. Недифференцируемая оптимизация. – М.: Наука, 1981. –
384 с.
4. Ржевский С.В. Монотонные методы выпуклого программирования. – Киев: Наук. думка,
1993. – 316 с.
5. Condzio J., Vial J.-P. Warm Start and ε-Subgradients in a Cutting Plane Scheme for Block-
Angular Linear Programs // Computational Optimization and Applications. – 1999. – N 14. –
P. 17–36.
6. Юдин Д.Б., Гольштейн Е.Г. Линейное программирование. Теория, методы и приложения.
– М.: Наука, 1969. – 424 с.
7. Kelley J. The cutting plane method for solving convex programs // SIAM J. – 1960.- 8, N 4. -
P.703 –712.
Получено 17.09.2003
|