Решение краевых задач на дискретных клеточных нейронных сетях
В статье рассмотрена структура двумерной дискретной клеточной сети. Дано описание локально- асинхронного метода решения краевых задач на дискретных клеточных нейронных сетях. Описан алгоритм реализации мультисеточного метода. Изложены подходы к обучению дискретных клеточных нейронных сетей, испол...
Збережено в:
| Дата: | 2008 |
|---|---|
| Автори: | , |
| Формат: | Стаття |
| Мова: | Russian |
| Опубліковано: |
Інститут проблем штучного інтелекту МОН України та НАН України
2008
|
| Теми: | |
| Онлайн доступ: | http://dspace.nbuv.gov.ua/handle/123456789/7145 |
| Теги: |
Додати тег
Немає тегів, Будьте першим, хто поставить тег для цього запису!
|
| Назва журналу: | Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| Цитувати: | Решение краевых задач на дискретных клеточных нейронных сетях / Б.Б. Нестеренко, М.А. Новотарский // Штучний інтелект. — 2008. — № 3. — С. 568-578. — Бібліогр.: 11 назв. — рос. |
Репозитарії
Digital Library of Periodicals of National Academy of Sciences of Ukraine| id |
irk-123456789-7145 |
|---|---|
| record_format |
dspace |
| spelling |
irk-123456789-71452010-03-25T12:01:11Z Решение краевых задач на дискретных клеточных нейронных сетях Нестеренко, Б.Б. Новотарский, М.А. Нейросетевые и нечеткие системы В статье рассмотрена структура двумерной дискретной клеточной сети. Дано описание локально- асинхронного метода решения краевых задач на дискретных клеточных нейронных сетях. Описан алгоритм реализации мультисеточного метода. Изложены подходы к обучению дискретных клеточных нейронных сетей, использующие принципы пластичности и модификации весовых коэффициентов. У статті розглянуто структуру двовимірної дискретної кліткової мережі. Дано опис локально- асинхронного методу розв’язування крайових задач на дискретних кліткових нейронних мережах. Описано алгоритм реалізації багатосіткового методу. Викладено підходи до навчання дискретних кліткових нейронних мереж, що використовують принципи пластичності й модифікації вагових коефіцієнтів. The structure of a bidimentional discrete cellular network is considered. The description of a local – asynchronous method for solving boundary value problems on discrete cellular neural networks is given. The algorithm of realization of a multigrid method is described. Approaches to training the discrete cellular neural networks, using principles of plasticity and updating of weighting coefficients are stated. 2008 Article Решение краевых задач на дискретных клеточных нейронных сетях / Б.Б. Нестеренко, М.А. Новотарский // Штучний інтелект. — 2008. — № 3. — С. 568-578. — Бібліогр.: 11 назв. — рос. 1561-5359 http://dspace.nbuv.gov.ua/handle/123456789/7145 519.876.5 ru Інститут проблем штучного інтелекту МОН України та НАН України |
| institution |
Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| collection |
DSpace DC |
| language |
Russian |
| topic |
Нейросетевые и нечеткие системы Нейросетевые и нечеткие системы |
| spellingShingle |
Нейросетевые и нечеткие системы Нейросетевые и нечеткие системы Нестеренко, Б.Б. Новотарский, М.А. Решение краевых задач на дискретных клеточных нейронных сетях |
| description |
В статье рассмотрена структура двумерной дискретной клеточной сети. Дано описание локально-
асинхронного метода решения краевых задач на дискретных клеточных нейронных сетях. Описан
алгоритм реализации мультисеточного метода. Изложены подходы к обучению дискретных
клеточных нейронных сетей, использующие принципы пластичности и модификации весовых
коэффициентов. |
| format |
Article |
| author |
Нестеренко, Б.Б. Новотарский, М.А. |
| author_facet |
Нестеренко, Б.Б. Новотарский, М.А. |
| author_sort |
Нестеренко, Б.Б. |
| title |
Решение краевых задач на дискретных клеточных нейронных сетях |
| title_short |
Решение краевых задач на дискретных клеточных нейронных сетях |
| title_full |
Решение краевых задач на дискретных клеточных нейронных сетях |
| title_fullStr |
Решение краевых задач на дискретных клеточных нейронных сетях |
| title_full_unstemmed |
Решение краевых задач на дискретных клеточных нейронных сетях |
| title_sort |
решение краевых задач на дискретных клеточных нейронных сетях |
| publisher |
Інститут проблем штучного інтелекту МОН України та НАН України |
| publishDate |
2008 |
| topic_facet |
Нейросетевые и нечеткие системы |
| url |
http://dspace.nbuv.gov.ua/handle/123456789/7145 |
| citation_txt |
Решение краевых задач на дискретных клеточных нейронных сетях / Б.Б. Нестеренко, М.А. Новотарский // Штучний інтелект. — 2008. — № 3. — С. 568-578. — Бібліогр.: 11 назв. — рос. |
| work_keys_str_mv |
AT nesterenkobb rešeniekraevyhzadačnadiskretnyhkletočnyhnejronnyhsetâh AT novotarskijma rešeniekraevyhzadačnadiskretnyhkletočnyhnejronnyhsetâh |
| first_indexed |
2025-07-02T09:58:32Z |
| last_indexed |
2025-07-02T09:58:32Z |
| _version_ |
1836528763116978176 |
| fulltext |
«Искусственный интеллект» 3’2008 568
7Н
УДК 519.876.5
Б.Б. Нестеренко, М.А. Новотарский
Институт математики НАН Украины, г. Киев, Украина
model@imath.kiev.ua
Решение краевых задач на дискретных
клеточных нейронных сетях
В статье рассмотрена структура двумерной дискретной клеточной сети. Дано описание локально-
асинхронного метода решения краевых задач на дискретных клеточных нейронных сетях. Описан
алгоритм реализации мультисеточного метода. Изложены подходы к обучению дискретных
клеточных нейронных сетей, использующие принципы пластичности и модификации весовых
коэффициентов.
Введение
За более чем двадцать лет накоплен огромный опыт применения искусственных
нейронных сетей к решению краевых задач математической физики. Большинство из
известных подходов основываются на аппроксимационных свойствах многослойных
нейронных сетей прямого распространения [1], [2]. В этом случае решение краевой
задачи получают в аналитическом виде при условии, что отдельные нейроны
используются как базовые элементы, параметры которых настроены таким образом,
чтобы уменьшить ошибку аппроксимации решения. Однако использование этого
подхода ограничено применением только прямых методов решения краевых задач.
Применяемые в данном случае методы обучения нейронных сетей прямого рас-
пространения весьма трудоемки и не дают полной гарантии успешного решения
поставленной задачи за конечное число шагов.
Более широкий спектр краевых задач может быть решен в случае, когда исполь-
зуется этап дискретизации области и преобразования, таким образом, исходной крае-
вой задачи в систему разностных алгебраических уравнений. Полученную систему
разностных уравнений отображают на структуру нейронной сети Хопфилда, а
решение ищут путем минимизации сетевой энергетической функции [3]. Следует
отметить, что использование сетей Хопфилда сопряжено с необходимостью преодо-
ления типовых для сетей данного типа проблем попадания в локальные минимумы.
Наиболее адаптированными к решению рассматриваемых задач считаются
клеточные нейронные сети (КНС). Этому способствует их структурная организация,
представляющая собой двумерную или трехмерную однородную вычислительную
среду с локальными связями между узловыми нейронами. Уже первые работы по
клеточным нейронным сетям [4], [5] содержали ряд методов решения дифферен-
циальных уравнений в частных производных и обыкновенных дифференциальных
уравнений. Однако и в этом случае не удалось избежать прямых методов решения,
что существенно сужает круг решаемых задач.
В работе предлагается использовать преимущества численных методов при
решении краевых задач на КНС. Принципиальным отличием применения численных
методов от прямых методов в КНС следует считать необходимость решения задачи
Решение краевых задач на дискретных клеточных нейронных сетях
«Штучний інтелект» 3’2008 569
7Н
синхронизации потоков данных. Данная проблема решается путем применения спе-
циальных локально-асинхронных методов, обеспечивающих сходимость итерационного
процесса независимо от порядка взаимодействия между клетками. Возникающее при
этом некоторое снижение скорости сходимости можно компенсировать за счет при-
менения мультисеточных методов.
Локально-асинхронный метод для дискретных
клеточных нейронных сетей
Будем рассматривать двумерную дискретную клеточную нейронную сеть (ДКНС),
ориентированную на решение краевых задач математической физики. Структура
такой сети состоит из некоторого набора дискретных нейронов, соединенных между
собой каналами коммуникаций, как показано на рис. 1.
Рисунок 1 – Структура дискретной клеточной сети
Количество каналов коммуникаций может меняться, поэтому для задания
структуры связей при реализации параллельного алгоритма решения краевой задачи
на ДКНС для каждой клетки jiC , определяют множество координат соседних клеток
jiW , , мощность которого называют индексом соседства. Например, структура, пока-
занная на рис. 1, имеет такие характеристики:
( ) ( ) ( ) ( ){ } .1,,,1,1,,,1,4 ,,, −++−=== jijijijiWW jijijiα
Произвольный клеточный нейрон jiC , представляет собой специализированное
вычислительное устройство, реализующее вычислительный процесс решения
краевой задачи локально-асинхронным численным методом [6] для некоторой
Нестеренко Б.Б., Новотарский М.А.
«Искусственный интеллект» 3’2008 570
7Н
области дискретизации. Коммуникационные каналы обеспечивают асинхронную
передачу результатов вычислений от клеточного нейрона jiC , к клеточным ней-
ронам, входящим в соответствующее множество jiW , , а также прием результатов
вычислений от этих клеточных нейронов.
Краевую задачу зададим операторным уравнением с граничными и начальными
условиями:
ϕ=Av , Γ∪=GG , 0=Gv , (1)
где −Γ граница, −G внутренняя область краевой задачи.
После выполнения традиционных операций по дискретизации области решения
краевой задачи получим систему разностных уравнений:
γ∪== ggfLu , , 0=gu , (2)
где −γ дискретная граница, −g дискретная внутренняя область краевой задачи.
Клеточную нейронную сеть, ориентированную на локально-асинхронный ме-
тод [6], можно рассматривать как конечную совокупность вычислительных узлов,
реализующих глобальный оператор L , который состоит из множества парасжи-
мающих операторов:
{ }KklL k ∈= . (3)
Глобальный оператор nn RRL →: называют парасжимающим [7], если он
непрерывный, а для неподвижной точки з и произвольной точки nRx∈ справед-
ливо неравенство [8]:
( ) зxзxL −<− , (4)
при условии, что зx ≠ .
Пусть задан парасжимающий глобальный оператор { }KklL k ∈= , H:Hl km
k → ,
где { }1,...,mmk ∈ , nRH ⊂ , и множество начальных векторов 0X . Тогда
асинхронной итерационной последовательностью будем называть последователь-
ность ( ){ }∞=1ttx векторов ( ) nRtx ∈ , определяемых по итерационной схеме:
( ) ( ) ( )( ) ( ) ( )( )( )ts,...,xtsxl1tx tkm1tk=+ , ...2,1=t , (5)
где ( ){ }2,...1,ttkQ == – последовательность элементов ( ) Ktk ∈ ,
Решение краевых задач на дискретных клеточных нейронных сетях
«Штучний інтелект» 3’2008 571
7Н
( ) ( )
( )
( ){ }1,0,tt,s,t,s,tsS
tkmi1 == – множество целых неотрицательных чисел, ко-
торое соответствует условиям:
( )
( )
=≤≤−
>≤<
,0,0
,0,0
ttsM
ttts
i
i
( )( ) ( ) ( )( ){ }0s,...,x0sxX 0km10 = – множество векторов, определяющих начальное сос-
тояние дискретной клеточной нейронной сети.
Таким образом, рассматриваемый итерационный метод однозначно опреде-
ляется кортежем ( )SQ,,XL, 0 и может быть полностью асинхронным или частично
асинхронным. Если оператор ( )( )⋅tkl допускает произвольное количество ( )tkm
аргументов с произвольным расстоянием ( ) ( )ts tkm от текущего итерационного шага
аргумента с номером i , то метод будем ( )SQ,,XL, 0 называть полностью асинхрон-
ным при выполнении условий:
1. ( ) ∞→
∞→
tsi
t
lim ( )tkmi ,...,1=∀ , ( ) Ktk ∈∀ .
2. ( ){ } ( ){ } K...1tktk =∪+∪ .
Условие 1 указывает, что итерационная схема метода разрешает рассматривать
элементы данных, которые отдалены от текущего итерационного шага на
произвольное расстояние как аргументы оператора ( )( )⋅tkl . Условие 2 обеспечивает
существование неограниченного допустимого количества итераций. На практике
чаще используют частично асинхронные методы. Метод ( )SQ,,XL, 0 будем называть
частично асинхронным при выполнении условий:
1. ( )( )
−= tstmaxmaxs b
bt
,
2. ( ){ } ( ){ } ( ){ } Kctk...1tktk =+∪∪+∪ , NtN,c ∈∀∈ .
В таком методе вводят ограничительные константы s максимального расстоя-
ния от текущего итерационного шага и константу c , которая ограничивает
максимально допустимое количество итераций.
Рассмотренный метод позволяет организовать вычисления на дискретной кле-
точной нейронной сети таким образом, чтобы исключить взаимную синхронизацию
нейронов. Однако отсутствие синхронизации, как правило, приводит к потере произ-
водительности за счет снижения скорости сходимости. Исправить указанный
недостаток можно путем использования мультисеточных методов.
Мультисеточный метод для ДКНС
Для дискретной краевой задачи (2) очередное приближение будем искать с
помощью итерационного оператора
( ) ( )( ),f1tuЦtu −= (6)
на последовательности вложенных сеток ( ) ( ) ( )zggg ⊃⊃⊃ 10 .
Нестеренко Б.Б., Новотарский М.А.
«Искусственный интеллект» 3’2008 572
7Н
Для перехода между сетками необходимо предварительно задать операторы
пролонгации P и рестрикции R .
Используя узловой способ разбиения области
( )
( )
===
===∈
=
1,..nб,
n
1h,0,1,...,nj
),,...,h(hh,,...,jjjjh,x,Rx
g
б
ббб
n1n1
n
,
представим пролонгацию на двумерных сетках ( )ig и ( )1+ig с соотношением шагов
дискретизации
( )
( )
( )
( ) 2
2
1
2
1
1
1 ==
++
i
i
i
i
h
h
h
h
. Значения функции ( )i
jju
21 , на сетке ( )ig получаем в
результате действия оператора билинейной пролонгации ( ) ( )1
1
+
+= ii
i
i uPu на задан-
ном шаблоне:
( )
( )( ) ( )
( )( ) ( ) ( )( )
( )( ) ( ) ( )( )
( )( ) ( ) ( ) ( ) ( )( )
+++=
+=
+=
=
=
+
++
+
+
+
+
+
++
+
+
+
+
+
+
+
+
+
+
+
+
+
+
++
+
,
4
1
,
2
1
,
2
1
,
1111
2
1
1
11
2
1
1
11
2
1
1
1
2
1
1
,
212121
22
11
21
i
eej
i
ej
i
ej
i
jeej
ii
i
i
ej
i
jej
ii
i
i
ej
i
jej
ii
i
i
jj
ii
i
i
jj
uuuuuP
uuuP
uuuP
uuP
u (7)
где ( )1,01 =e − прирост координат по оси 1j ;
( )0,12 =e − прирост координат по оси 2j .
В случае доменного способа разбиения области непрерывные значения
функции заменим множеством значений, размещаемых в геометрических центрах
доменов сеточной области:
( ) ( )
( ) ( )
====
==−=∈
=
.,..1,1,,...,1,0,21,...,1
),,...,(,,...,,, 11
n
n
hnjd
hhhjjjhdjxRx
g
nn
n
α
α
ααα
.
Тогда действие оператора двумерной доменной билинейной пролонгации будет
иметь вид (рис. 2):
( )
( )( ) ( ) ( ) ( ) ( )( )
( )( ) ( ) ( ) ( ) ( ) ( )( )
( )( ) ( ) ( ) ( ) ( ) ( )( )
( )( ) ( ) ( ) ( ) ( )( )
+++=
+++=
+++=
+++=
=
++
+
+
+
+
++++
+
+
+
+
+
++
+++
++
+
+
+
+
+
++
+++
++
+
+
+
++
+
+
+
+
++
+
,339
16
1
,339
16
1
,339
16
1
,339
16
1
1111
2
1
1
11111
2
1
1
11111
2
1
1
1111
2
1
1
,
212121
12122
22111
2121
21
i
j
i
ej
i
ej
i
eejeej
ii
i
i
ej
i
eej
i
j
i
j
i
ejej
ii
i
i
ej
i
eej
i
j
i
j
i
ejej
ii
i
i
eej
i
ej
i
ej
i
jj
ii
i
i
jj
uuuuuP
uuuuuuP
uuuuuuP
uuuuuP
u (8)
где ( )1,01 =e и ( )0,12 =e – координатные сдвиги относительно координаты ( )21, jjj = .
Решение краевых задач на дискретных клеточных нейронных сетях
«Штучний інтелект» 3’2008 573
7Н
Переход с точной сетки на более грубую осуществляется с помощью действия
оператора рестрикции ( ) ( )ii
i
i dRd 11 ++ = . Выражение для двумерной билинейной узло-
вой рестрикции зададим, используя координатные сдвиги ( )1,01 =e и ( )0,12 =e для
координатного вектора ( )21, jjj = :
( ) ( )( ( ) ( ) ( ) ( )
( ) ( ) ( ) ( ) ) .
22224
4
1
21212121
2211
2222
22222
1
i
eej
i
eej
i
eej
i
eej
i
ej
i
ej
i
ej
i
ej
i
j
i
j
dddd
dddddd
−++−++−−
+−+−
+
++++
++++=
(9)
Алгоритм мультисеточного метода состоит из последовательности шагов:
I. Первое сглаживание приближения.
1. Выполнение 1α раз итерационной формулы (6) на сетке ( )0g с наименьшим
шагом дискретизации:
( )( ) ( ) ( )( ) ( )( )iiii ftuЦtu ,
11 αα =+ . (10)
2. Вычисление невязки:
( )( ) ( ) ( ) ( )( )( )tuLftd iiii −= (11)
II. Вычисление погрешности на грубых сетках.
Этот шаг заключается в последовательном решении уравнения невязки на
грубых сетках. Алгоритм переходов между грубыми сетками определяется циклом
мультисеточного метода. Чаще всего применяют V -циклы или W -циклы. На каждой
из грубых сеток, за исключением последней, определены такие виды операций:
Рисунок 2 – Действие оператора доменной билинейной пролонгации
на двумерной сетке
Нестеренко Б.Б., Новотарский М.А.
«Искусственный интеллект» 3’2008 574
7Н
1. Операция рестрикции:
( )( ) ( )( ) max
1 0, iitRdtd ii <<= − . (12)
2. Первое сглаживание погрешности:
( )( ) ( ) ( )( ) ( )( )iiii dtЦt ,
11 δαδ α=+ , (13)
для уравнения невязки ( ) ( ) ( )iii dL =δ на сетке ( )ig .
3. Операция пролонгации и коррекции погрешности:
( ) ( ) ( ) ( ) ( ) ( ) .0, max
1 iitPtt iii <<+= −δδδ (14)
4. Второе сглаживание погрешности:
( )( ) ( ) ( )( ) ( )( )iiii ftuЦt ,
22 ααδ =+ . (15)
III. Коррекция на точной сетке.
1. Операция заключается в коррекции приближения ( )( )tu 0 посредством вычислен-
ной на грубых сетках погрешности ( )( )nv 0 :
( )( ) ( )( ) ( )( )ttutu 000 δ+= . (16)
2. Второе сглаживание приближения:
( )( ) ( ) ( )( ) ( )( )000
2
0 ,
2
fnuЦtu αα =+ . (17)
Мультисеточный итерационный метод может быть описан рекурсивной про-
цедурой ( )Upji ,,MGM , в которой параметр i указывает на текущий номер сетки,
параметр j – на текущий номер цикла, а логический параметр Up отвечает за теку-
щее направление движения вдоль сеток.
В случае, когда 1max =j , мультисеточный метод содержит V -циклы, а при
1max >j возникают W -циклы. При true=Up происходит процесс рестрикции, а при
false=Up – процесс пролонгации.
Procedure ( )Upji ,,MGM ;
Begin
If Not Up then
Begin
If maxii < then
Begin
[ ] ( ) [ ] [ ]( )ifiuЦiu i ,:
1α
=
Решение краевых задач на дискретных клеточных нейронных сетях
«Штучний інтелект» 3’2008 575
7Н
[ ] ( ) [ ] [ ]( )ifiuLRif ii
i −⋅=+ +1:1 ;
[ ] 0:1 =+iu ;
If 0>j then ( )Upji ,,1MGM + else Exit;
end else
Begin
Up:=Not Up;
;1: −= jj
( )Upji ,,1−MGM
end;
end else
Begin
[ ] [ ] [ ]1: 1 −⋅+= + iuPiuiu i
i ;
[ ] ( ) [ ] [ ]( )ifiuЦiu i ,:
2α= ;
If 2<i then
Begin
Up:= Not Up;
If 0=j then ( )Upji ,,1−MGM else ( )Upji ,,MGM ;
end else ( )Upji ,,1−MGM ;
end;
End.
Обучение дискретных клеточных нейронных сетей
Способность к обучению является фундаментальным свойством искусственных
нейронных сетей. Процесс обучения может рассматриваться как модификация меж-
нейронных связей и настройка весовых коэффициентов для эффективного выполнения
поставленной задачи. Существует большое количество правил и процедур обучения,
зависящих от типа искусственных нейронных сетей. Если значение весовых коэффи-
циентов и выбор структуры связей определяют путем предварительных расчетов,
исходя из условий задачи, то такое обучение называют обучением с учителем. Если же
весовые коэффициенты формируют как результат накопления опыта после многократ-
ного решения задачи, то такой процесс называется обучением без учителя.
Для данного типа дискретных клеточных нейронных сетей суть обучения состоит
в определении межнейронных связей, возникающих в ходе решения краевых задач
математической физики, а также весовых коэффициентов, повышающих сходимость
итерационных процессов в нейронах. Использование различных межнейронных связей
обусловлено применением мультисеточных методов. Данные методы реализуют
вычисление на иерархической последовательности сеток ( ) ( ) ( )zggg ⊃⊃⊃ ...10 , для
каждой из которых нейрону jiC , соответствует набор соседних нейронов, определяе-
мый множеством jiW , . Особенность рассмотренного подхода состоит в том, что изме-
нение межнейронных связей происходит без изменения структуры нейронной сети.
Связи между нейронами, образующие сетки ( ) 0, >zg z , обеспечивает механизм тран-
зитных пересылок. Благодаря этому механизму, основанному на алгоритме транзитных
Нестеренко Б.Б., Новотарский М.А.
«Искусственный интеллект» 3’2008 576
7Н
пересылок [9], возникает возможность организации вычислений на виртуальных сетках,
структура которых не совпадает с физической структурой клеточной сети. Суть рас-
смотренных мультисеточных методов состоит в повышении эффективности решения
краевых задач математической физики локально-асинхронным методом за счет
сглаживания низкочастотной составляющей невязки на грубых сетках. Эффективность
такого сглаживания зависит от последовательности применения W -циклов и V -циклов
индивидуально для каждой конкретной краевой задачи. Следовательно, выбор конкрет-
ного алгоритма мультисеточного метода может рассматриваться как обучение клеточной
нейронной сети.
Теперь рассмотрим методы обучения дискретных клеточных нейронных сетей,
обеспечивающие улучшение показателей решения краевых задач путем модифика-
ции весовых коэффициентов нейронных связей. Известно, что скорость сходимости
произвольного итерационного метода зависит от спектральных свойств разностного
оператора. Поэтому существует возможность модификации системы разностных
уравнений (2) к эквивалентной системе, имеющей то же решение при лучших спект-
ральных свойствах разностного оператора L . Пусть оператор L задан в виде
матрицы коэффициентов системы разностных уравнений (2). Тогда предположим
существование некоторой матрицы W такой, что модифицированная система
разностных уравнений
( ) ( )xfWxLuW 11 −− = (18)
имеет то же решение, что и система ( ) ( ),xfxLu = но спектральные свойства матри-
цы коэффициентов LW 1− лучшие, чем матрицы коэффициентов L . Существует
большое количество подходов к определению матрицы W [10] в зависимости от
выбора метода ускорения.
Как один из примеров применения методов ускорения к обучению дискретных
клеточных нейронных сетей приведем полиномиальное ускорение [11]. Пусть
( ){ }∞=0ttr – последовательность итерационных приближений, определяемая по правилу:
( ) ( )1−Φ= trtr . (19)
Текущая погрешность итерационного процесса (19) определяется по формуле
( ) vtrеt −= , (20)
где v – точное решение уравнения (1).
Исходя из (19), определим tΦ :
( ) ( ) ( )0εεε ttt Φ=Φ= . (21)
Для ускорения сходимости последовательности итерационных приближений
( ){ }∞=0ttr рассмотрим новую последовательность векторов ( ){ }∞=0ttu , определяемую
линейными комбинациями:
( ) ( )∑
=
=
t
i
it irwtu
0
, , ,1,0=t (22)
Решение краевых задач на дискретных клеточных нейронных сетях
«Штучний інтелект» 3’2008 577
7Н
исходя из того, что коэффициенты itw , соответствуют условию:
∑
=
=
t
i
itw
0
, 1, ,1,0=t . (23)
Условие (23) гарантирует тот факт, что ( ) 0≥∀= tvtu , если ( ) vr =0 .
Обозначив через ( ) ( ) vtut −=ε вектор погрешности, который соответствует
векторам ( )tu с (22), получим с учетом (22) и (23), что
( ) ( ) ( )( ) ( )∑ ∑∑
= ==
=−=−=
t
i
t
i
itit
t
i
it twvirwvirwt
0 0
,,
0
, εε .
Используя (21), представим ( )tε в виде
( ) ( )0
0
, εε
Φ= ∑
=
it
i
itwt . (24)
Поскольку, исходя из (21) и (24), справедливо равенство ( ) ( )00 εε = , выразим
вектор ( )tε в виде зависимости:
( ) ( ) ( )0εε Φ= tWt , (25)
где ( )ΦtW – матричный многочлен типа:
( ) t
ttttt wwwW Φ++Φ+=Φ ,
1
1,0, I ,
где ( ) 11 =tW .
Учитывая формулу для вектора погрешности (24), будем называть комбиниро-
ванную процедуру (19) и (22) методом полиномиального ускорения, который может
быть применим к обучению дискретной клеточной сети, ориентированной на реали-
зацию итерационного процесса (19).
Выводы
При использовании известных искусственных нейронных сетей, а также при
исследовании новых подходов к структурной организации нейронных сетей все
большее внимание уделяется созданию адаптированных к ним вычислительных
методов. Попытки решения краевых задач математической физики предпринимались
на многослойных сетях прямого распространения и сетях Хопфилда. Для более
тесной адаптации структур нейронных сетей к поставленной задаче были созданы
клеточные нейронные сети, содержащие модифицированные нейроны, реализующие
функцию интегрирования. Все перечисленные структурные реализации предпола-
гают использование прямых методов решения дифференциальных уравнений. С целью
расширения круга решаемых задач в данной работе предлагается использование
Нестеренко Б.Б., Новотарский М.А.
«Искусственный интеллект» 3’2008 578
7Н
численных методов решения краевых задач. Для этого используют дискретные
клеточные нейронные сети, ориентированные на специальные локально-асинхронные
методы совместно с мультисеточными методами. Дискретный характер вычислений
в таких сетях потребовал пересмотра подходов к их обучению. Предложено два
направления развития методов обучения. Первый основывается на использовании
свойства пластичности, реализуемого посредством транзитных пересылок. Второй
реализуется за счет модификации весовых коэффициентов, обеспечивающей увеличе-
ние скорости сходимости численного метода за счет изменения спектра разностного
оператора.
Литература
1. Lagaris I.E., Likas A.C., Fotiadis D.I. Artificial neural networks for solving ordinary and partial
differential equations // IEEE Transactions on Neural Networks. – 1998. – Vol. 9, № 5. – P. 987-1000.
2. Lagaris I.E., Likas A.C., Papageorgiou D.G. Neural-network methods for boundary value problems with
irregular boundaries // IEEE Transactions on Neural Networks. – 2000. – Vol. 11, № 5. – P. 1041-1049.
3. Lee H., Kang I.S. Neural algorithm for solving differential equations // Journal of Computational
Physics. – 1990. – Vol. 91, № 1. – P. 110-131.
4. Chua L.O., Yang L. Cellular Neural Networks. Applications // IEEE Transactions on Circuits and
Systems. – 1988. – Vol. 35, № 10. – P. 1273-1290.
5. Chua L.O., Yang L. Cellular Neural Networks. Theory // IEEE Transactions on Circuits and Systems. –
1988. – Vol. 35, № 10. – P. 1257-1272.
6. Новотарський М.А., Нестеренко Б.Б. Штучні нейронні мережі: обчислення. – Київ: Інститут
математики НАН України, 2004. – 408 с.
7. Elsner L., Koltracht I., Neumann M. On the convergence asynchronous paracontractions with application
to tomographic reconstruction from incomplete data // Linear Algebra and its Applications. – 1990. –
Vol. 130, № 1. – P. 65-82.
8. Pott M. On the convergence of asynchronous iteration methods for nonlinear paracontactions and
consistent linear systems // Linear Algebra and its Applications. – 1998. – Vol. 283, № 1-3. – P. 35-60.
9. Новотарский М.А. Клеточные нейронные сети с транзитными пересылками // Радиоэлектроника.
Информатика. Управление. – 2004. – № 2. – С. 118-121.
10. Morè J.J. Nonlinear generalizations of matrix diagonal dominance with application to Gauss-Seidel
iterations // SIAM Journal on Numerical Analysis. – 1972. – Vol. 9. – P. 357-378.
11. Хейгеман Л., Янг Д. Прикладные итерационные методы. – М.: Мир, 1986. – 448 с.
Б.Б. Нестеренко, М.А. Новотарський
Розв’язування крайових задач на дискретних кліткових нейронних мережах
У статті розглянуто структуру двовимірної дискретної кліткової мережі. Дано опис локально-
асинхронного методу розв’язування крайових задач на дискретних кліткових нейронних мережах.
Описано алгоритм реалізації багатосіткового методу. Викладено підходи до навчання дискретних
кліткових нейронних мереж, що використовують принципи пластичності й модифікації вагових
коефіцієнтів.
B.B. Nesterenko, M.A. Novotarskiy
Solving boundary value problems on discrete cellular neural networks
The structure of a bidimentional discrete cellular network is considered. The description of a local –
asynchronous method for solving boundary value problems on discrete cellular neural networks is given. The
algorithm of realization of a multigrid method is described. Approaches to training the discrete cellular neural
networks, using principles of plasticity and updating of weighting coefficients are stated.
Статья поступила в редакцию 28.05.2008.
|