Сжатие изображений на основе нейронной сети ART
В статье предложены новые алгоритмы сжатия на основе нейросетевого подхода. Для создания соответствия между входным и выходным пространствами, состоящими из элементов кодовой книги — кодовых слов, или нейронов, была применена искусственная нейронная сеть теории адаптивного резонанса (ART). Результа...
Збережено в:
| Дата: | 2008 |
|---|---|
| Автори: | , |
| Формат: | Стаття |
| Мова: | Russian |
| Опубліковано: |
Інститут кібернетики ім. В.М. Глушкова НАН України
2008
|
| Назва видання: | Кибернетика и системный анализ |
| Теми: | |
| Онлайн доступ: | http://dspace.nbuv.gov.ua/handle/123456789/44270 |
| Теги: |
Додати тег
Немає тегів, Будьте першим, хто поставить тег для цього запису!
|
| Назва журналу: | Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| Цитувати: | Сжатие изображений на основе нейронной сети ART / О.Г. Руденко, М.С. Сныткин // Кибернетика и системный анализ. — 2008. — № 6. — С. 10-16. — Бібліогр.: 14 назв. — рос. |
Репозитарії
Digital Library of Periodicals of National Academy of Sciences of Ukraine| id |
irk-123456789-44270 |
|---|---|
| record_format |
dspace |
| spelling |
irk-123456789-442702013-05-28T03:11:19Z Сжатие изображений на основе нейронной сети ART Руденко, О.Г. Сныткин, М.С. Кибернетика В статье предложены новые алгоритмы сжатия на основе нейросетевого подхода. Для создания соответствия между входным и выходным пространствами, состоящими из элементов кодовой книги — кодовых слов, или нейронов, была применена искусственная нейронная сеть теории адаптивного резонанса (ART). Результаты моделирования данных алгоритмов свидетельствуют о возможности применения данного вида искусственной нейронной сети для сжатия изображений. 2008 Article Сжатие изображений на основе нейронной сети ART / О.Г. Руденко, М.С. Сныткин // Кибернетика и системный анализ. — 2008. — № 6. — С. 10-16. — Бібліогр.: 14 назв. — рос. 0023-1274 http://dspace.nbuv.gov.ua/handle/123456789/44270 519.71 ru Кибернетика и системный анализ Інститут кібернетики ім. В.М. Глушкова НАН України |
| institution |
Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| collection |
DSpace DC |
| language |
Russian |
| topic |
Кибернетика Кибернетика |
| spellingShingle |
Кибернетика Кибернетика Руденко, О.Г. Сныткин, М.С. Сжатие изображений на основе нейронной сети ART Кибернетика и системный анализ |
| description |
В статье предложены новые алгоритмы сжатия на основе нейросетевого подхода. Для создания соответствия между входным и выходным пространствами, состоящими из элементов кодовой книги — кодовых слов, или нейронов, была применена искусственная нейронная сеть теории адаптивного резонанса (ART). Результаты моделирования данных алгоритмов свидетельствуют о возможности применения данного вида искусственной нейронной сети для сжатия изображений. |
| format |
Article |
| author |
Руденко, О.Г. Сныткин, М.С. |
| author_facet |
Руденко, О.Г. Сныткин, М.С. |
| author_sort |
Руденко, О.Г. |
| title |
Сжатие изображений на основе нейронной сети ART |
| title_short |
Сжатие изображений на основе нейронной сети ART |
| title_full |
Сжатие изображений на основе нейронной сети ART |
| title_fullStr |
Сжатие изображений на основе нейронной сети ART |
| title_full_unstemmed |
Сжатие изображений на основе нейронной сети ART |
| title_sort |
сжатие изображений на основе нейронной сети art |
| publisher |
Інститут кібернетики ім. В.М. Глушкова НАН України |
| publishDate |
2008 |
| topic_facet |
Кибернетика |
| url |
http://dspace.nbuv.gov.ua/handle/123456789/44270 |
| citation_txt |
Сжатие изображений на основе нейронной сети ART / О.Г. Руденко, М.С. Сныткин // Кибернетика и системный анализ. — 2008. — № 6. — С. 10-16. — Бібліогр.: 14 назв. — рос. |
| series |
Кибернетика и системный анализ |
| work_keys_str_mv |
AT rudenkoog sžatieizobraženijnaosnovenejronnojsetiart AT snytkinms sžatieizobraženijnaosnovenejronnojsetiart |
| first_indexed |
2025-07-04T02:42:59Z |
| last_indexed |
2025-07-04T02:42:59Z |
| _version_ |
1836682555406942208 |
| fulltext |
ÓÄÊ 519.71
Î.Ã. ÐÓÄÅÍÊÎ, Ì.Ñ. ÑÍÛÒÊÈÍ
ÑÆÀÒÈÅ ÈÇÎÁÐÀÆÅÍÈÉ ÍÀ ÎÑÍÎÂÅ ÍÅÉÐÎÍÍÎÉ ÑÅÒÈ ART
Êëþ÷åâûå ñëîâà: íåéðîííàÿ ñåòü, àëãîðèòì ñæàòèÿ, âåêòîðíîå êâàíòîâàíèå,
îáó÷åíèå.
ÂÂÅÄÅÍÈÅ
Íåïðåðûâíîå âîçðàñòàíèå îáúåìîâ ïåðåðàáàòûâàåìîé èíôîðìàöèè, â ÷àñòíîñòè
çðèòåëüíîé, îáóñëîâëèâàåò íåîáõîäèìîñòü åå êîìïàêòíîãî ïðåäñòàâëåíèÿ. Ïðè-
ìåíåíèå ñ ýòîé öåëüþ òðàäèöèîííûõ ìåòîäîâ, èñïîëüçóþùèõ ïðåôèêñíîå ëèáî
àðèôìåòè÷åñêîå êîäèðîâàíèå è îáåñïå÷èâàþùèõ ñæàòèå áåç ïîòåðü, òðåáóåò çíà-
íèÿ ñòàòèñòèêè (÷àñòîò) ïîÿâëåíèÿ ýëåìåíòîâ. Ðåàëèçàöèÿ âåñüìà ýôôåêòèâíûõ
ñòàòèñòè÷åñêèõ ìåòîäîâ êîäèðîâàíèÿ, èñïîëüçóþùèõ îöåíêè óñëîâíûõ âåðîÿò-
íîñòåé ïîÿâëåíèÿ ñèìâîëîâ â ðàçëè÷íûõ êîíòåêñòàõ, òðåáóåò çíà÷èòåëüíûõ âû-
÷èñëèòåëüíûõ ðåñóðñîâ [1]. Ïðîáëåìà ïðèìåíåíèÿ êîìáèíàòîðíîãî ïîäõîäà,
îñíîâàííîãî íà àëãîðèòìàõ À. Ëåìïåëà è ß. Çèâà, èñïîëüçóåìûõ äëÿ îïðåäåëå-
íèÿ ïîâòîðÿþùèõñÿ ïîäñòðîê (íàäñòðîê), è ðàññìàòðèâàþùåãî ñîîáùåíèÿ êàê
öåïî÷êó ñèìâîëîâ, îáóñëîâëåíà òåì, ÷òî èçîáðàæåíèå èìååò íå òîëüêî øèðèíó,
íî è âûñîòó, ïðè÷åì âåðîÿòíîñòü ïîÿâëåíèÿ âåðòèêàëüíûõ ïîâòîðÿþùèõñÿ ñòðîê
ðàâíà âåðîÿòíîñòè ïîÿâëåíèÿ ãîðèçîíòàëüíûõ ñòðîê.
 òî æå âðåìÿ íàëè÷èå â ìóëüòèìåäèéíîé èíôîðìàöèè îïåðàöèè äèñêðåòèçà-
öèè èçîáðàæåíèÿ è çâóêà ïîçâîëÿåò ñòàâèòü è ðåøàòü çàäà÷ó ýôôåêòèâíîãî ñæàòèÿ
èíôîðìàöèè ñ ïîòåðÿìè. Âî ìíîãèõ ïðèëîæåíèÿõ, íàïðèìåð ïðè ïðåäñòàâëåíèè íå-
ïîäâèæíûõ èçîáðàæåíèé, òàêîå ñæàòèå áîëåå ÷åì îïðàâäàííî. Íàèáîëåå ïîïóëÿð-
íûé â íàñòîÿùåå âðåìÿ ñòàíäàðò JPEG âêëþ÷àåò îáà òèïà ñæàòèÿ, îäíàêî çà÷àñòóþ
íå óäîâëåòâîðÿåò âîçðàñòàþùèì òðåáîâàíèÿì ôóíêöèîíàëüíîñòè.
 ýòèõ óñëîâèÿõ ïåðñïåêòèâíûì ïðåäñòàâëÿåòñÿ ðàçâèòèå ïîäõîäà, â îñíîâå
êîòîðîãî ëåæàò èñêóññòâåííûå íåéðîííûå ñåòè (ÈÍÑ). Ïðè ýòîì ÈÍÑ ìîãóò èñ-
ïîëüçîâàòüñÿ êàê ïðè ñæàòèè áåç ïîòåðü (íàïðèìåð, â ñòàòèñòè÷åñêèõ ìåòîäàõ êî-
äèðîâàíèÿ äëÿ îöåíêè âåðîÿòíîñòåé ïîÿâëåíèÿ ñèìâîëîâ [2]), òàê è ïðè ðåàëèçàöèè
ñæàòèÿ ñ ïîòåðÿìè, íàïðèìåð, â ñòàíäàðòå JPEG 2000, îñíîâàííîì íà âåéâëåò-ïðå-
îáðàçîâàíèè.  ïîñëåäíåì ñëó÷àå öåëåñîîáðàçíî ïðèìåíåíèå ÈÍÑ, îñóùåñòâëÿþ-
ùèõ âåêòîðíîå êâàíòîâàíèå.
Íàèáîëåå çíà÷èòåëüíûå ðåçóëüòàòû â ýòîì íàïðàâëåíèè ïîëó÷åíû íà îñíîâå
ñàìîîðãàíèçóþùèõñÿ êàðò Êîõîíåíà [3] è ñåòåé âñòðå÷íîãî ðàñïðîñòðàíåíèÿ, òàê-
æå ñîäåðæàùèõ ñëîé íåéðîíîâ Êîõîíåíà [4, 5]. Ñàìîîðãàíèçàöèÿ â ýòèõ ñåòÿõ
ïðåäñòàâëÿåò ñîáîé ïðîöåññ êëàñòåðèçàöèè îáðàçîâ, îñóùåñòâëÿåìîé àíàëîãè÷íî
ìåòîäó ãëàâíûõ êîìïîíåíò. Ñëåäóåò îòìåòèòü, ÷òî è äëÿ ðåàëèçàöèè ñàìîãî ìåòîäà
ãëàâíûõ êîìïîíåíò ìîãóò óñïåøíî ïðèìåíÿòüñÿ íåéðîñåòåâûå òåõíîëîãèè, â ÷àñ-
òíîñòè íåéðîííàÿ ñåòü Ò. Ñýíãåðà [6], ñîñòîÿùàÿ èç íåéðîíîâ Ý. Îÿ [7, 8].
 äàííîé ñòàòüå ðàññìàòðèâàåòñÿ ïðèìåíåíèå ÈÍÑ, ïîñòðîåííîé íà îñíîâå
ïðåäëîæåííîé è ðàçâèòîé Ñ. Ãðîññáåðãîì [9] òåîðèè àäàïòèâíîãî ðåçîíàíñà (ART),
äëÿ ðàçâèòèÿ JPEG-ïîäîáíûõ àëãîðèòìîâ ñæàòèÿ âèäåîèíôîðìàöèè.
ÈÍÑ ART îòíîñèò âõîäíîå èçîáðàæåíèå ê îäíîìó èç èçâåñòíûõ êëàññîâ, åñëè
îíî â äîñòàòî÷íîé ñòåïåíè ïîäîáíî èëè ðåçîíèðóåò ñ ïðîòîòèïîì ýòîãî êëàññà.
Åñëè íàéäåííûé ïðîòîòèï ñ îïðåäåëåííîé òî÷íîñòüþ, çàäàâàåìîé ñïåöèàëüíûì ïà-
ðàìåòðîì ñõîäñòâà � � ( , ]0 1 , ñîîòâåòñòâóåò âõîäíîìó èçîáðàæåíèþ, òî îí ìîäèôè-
öèðóåòñÿ, ÷òîáû ñòàòü áîëåå ïîõîæèì íà ïðåäúÿâëåííîå èçîáðàæåíèå. Êîãäà âõîäíîå
èçîáðàæåíèå íåäîñòàòî÷íî ïîäîáíî íè îäíîìó èç èìåþùèõñÿ ïðîòîòèïîâ, íà åãî
10 ISSN 0023-1274. Êèáåðíåòèêà è ñèñòåìíûé àíàëèç, 2008, ¹ 6
� Î.Ã. Ðóäåíêî, Ì.Ñ. Ñíûòêèí, 2008
îñíîâå ñîçäàåòñÿ íîâûé êëàññ. Ýòî âîçìîæíî áëàãîäàðÿ òîìó, ÷òî ñåòü èìååò áîëü-
øîå ÷èñëî èçáûòî÷íûõ èëè íåðàñïðåäåëåííûõ ýëåìåíòîâ, êîòîðûå íå èñïîëüçóþòñÿ
äî òåõ ïîð, ïîêà â ýòîì íåò íåîáõîäèìîñòè (åñëè íåò íåðàñïðåäåëåííûõ íåéðîíîâ, òî
âõîäíîå èçîáðàæåíèå íå âûçûâàåò ðåàêöèè ñåòè), áëàãîäàðÿ ýòîìó íîâûå îáðàçû ìî-
ãóò ñîçäàâàòü íîâûå êëàññû, íå èñêàæàÿ çàïîìíåííóþ èíôîðìàöèþ.
ÎÏÈÑÀÍÈÅ ÑÕÅÌÛ ÑÆÀÒÈß
Îáùàÿ ñõåìà ñæàòèÿ âèäåîèíôîðìàöèè ñîñòîèò èç òàêèõ îñíîâíûõ øàãîâ: äèñ-
êðåòíî-êîñèíóñíîå ïðåîáðàçîâàíèå, âåêòîðíîå êâàíòîâàíèå, äèôôåðåíöèàëüíîå
êîäèðîâàíèå, ýíòðîïèéíîå êîäèðîâàíèå.
Äèñêðåòíî-êîñèíóñíîå ïðåîáðàçîâàíèå (ÄÊÏ) ïðåäñòàâëÿåò ñîáîé ïî ñóòè
ðàçëîæåíèå ó÷àñòêîâ èçîáðàæåíèÿ ïî àìïëèòóäàì íåêîòîðûõ ÷àñòîò. Äëÿ ñîêðàùå-
íèÿ îáúåìà õðàíèìîé èíôîðìàöèè èñïîëüçóåòñÿ òîò ôàêò, ÷òî â ìàòðèöå ÷àñòîò
ìíîãèå êîýôôèöèåíòû ëèáî áëèçêè, ëèáî ðàâíû íóëþ [10].
Âåêòîðíîå êâàíòîâàíèå. Êâàíòîâàíèå êîýôôèöèåíòîâ ÷àñòîòíîé ìàòðèöû
ïðåäñòàâëÿåò ñîáîé îïåðàöèþ, êîòîðàÿ îïðåäåëÿåò ñòåïåíü ñæàòèÿ è ïîòåðè èíôîð-
ìàöèè, óâåëè÷èâàåò êîëè÷åñòâî îäèíàêîâûõ è ðàâíûõ íóëþ ýëåìåíòîâ. Ïðè ýòîì èç
ïðîñòðàíñòâà âûáèðàåòñÿ îãðàíè÷åííîå ÷èñëî âåêòîðîâ (êîäîâûõ ñëîâ) äëÿ íàèáî-
ëåå òî÷íîãî îòîáðàæåíèÿ ðàñïðåäåëåíèÿ èñõîäíûõ âåêòîðîâ, ïîëó÷åííûõ èç ïðåä-
ñòàâëåííîãî â âèäå áëîêîâ èçîáðàæåíèÿ. Òàêèì îáðàçîì, áîëüøåå êîëè÷åñòâî êîäî-
âûõ ñëîâ áóäåò ðàñïîëîæåíî â òîé îáëàñòè ïðîñòðàíñòâà, ãäå íàõîäèòñÿ áîëüøå òî-
÷åê â èñõîäíîì ðàñïðåäåëåíèè (èçîáðàæåíèè), è íàîáîðîò. Çàòåì êàæäûé âåêòîð
èñõîäíîãî èçîáðàæåíèÿ çàìåíÿåòñÿ áëèæàéøèì êîäîâûì ñëîâîì. Íà ïîñëåäíåì
ýòàïå èíäåêñ êîäîâîãî ñëîâà, ñîäåðæàùèé ìåíüøåå êîëè÷åñòâî áèòîâ ïî ñðàâíå-
íèþ ñ èñõîäíûì áëîêîì, ïåðåäàåòñÿ âìåñòî ñàìîãî ñëîâà.
Äèôôåðåíöèàëüíîå êîäèðîâàíèå. Åñëè ïðåäïîëîæèòü, ÷òî áîëüøèíñòâî ÷àñ-
òåé èçîáðàæåíèÿ èìåþò ïëàâíûå ïåðåõîäû, òî äèôôåðåíöèàëüíîå êîäèðîâàíèå, ïðè-
ìåíåííîå ïîñëå âåêòîðíîãî êâàíòîâàíèÿ, ïðèâåäåò ê «óìåíüøåíèþ» êîäîâ â öåëîì.
Ýíòðîïèéíîå êîäèðîâàíèå — êîäèðîâàíèå ñëîâàìè (êîäàìè) ïåðåìåííîé
äëèíû, ïðè êîòîðîé äëèíà êîäà ñèìâîëà èìååò îáðàòíóþ çàâèñèìîñòü îò âåðîÿò-
íîñòè ïîÿâëåíèÿ ñèìâîëà â ïåðåäàâàåìîì ñîîáùåíèè [11]. Êîäèðîâàíèå äëèí ñå-
ðèé — ïðîñòàÿ ôîðìà ñæàòèÿ äàííûõ, â êîòîðîé ñåðèè äàííûõ, ò.å. ïîñëåäîâàòåëü-
íîñòè, â êîòîðûõ îäíî è òî æå çíà÷åíèå äàííûõ âñòðå÷àåòñÿ âî ìíîãèõ ïîñëåäîâà-
òåëüíûõ ýëåìåíòàõ äàííûõ, ñîõðàíÿþòñÿ â âèäå îäèíî÷íîãî çíà÷åíèÿ äàííûõ è èõ
êîëè÷åñòâà — âìåñòî îðèãèíàëüíîé ñåðèè. Ýòî ñæàòèå ÷àñòî èñïîëüçóåòñÿ äëÿ äàí-
íûõ, ñîäåðæàùèõ ìíîãî òàêèõ ñåðèé (íàïðèìåð, ïðîñòûå ãðàôè÷åñêèå èçîáðàæå-
íèÿ: èêîíêè è ãðàôè÷åñêèå ðèñóíêè).
ÑÅÒÜ ART
Ôóíêöèîíèðîâàíèå äàííîé ñåòè,
êàê è âñÿêîé ÈÍÑ, íà÷èíàåòñÿ ñ
åå îáó÷åíèÿ. Ïîëó÷åííûé ïîñëå
îáó÷åíèÿ íàáîð íåéðîíîâ äîë-
æåí ìàêñèìàëüíî òî÷íî îòîáðà-
æàòü âåêòîðû èç âõîäíîãî ïðî-
ñòðàíñòâà [12].
 çàâèñèìîñòè îò âèäà âõîä-
íûõ ïåðåìåííûõ è ñïîñîáà èõ îá-
ðàáîòêè ïðèìåíÿþò ðàçëè÷íûå
ìîäåëè ñåòåé ART, ñðåäè êîòîðûõ
íàèáîëüøåå ðàñïðîñòðàíåíèå ïî-
ëó÷èëè ñåòè ART 2 (ðèñ. 1).
ISSN 0023-1274. Êèáåðíåòèêà è ñèñòåìíûé àíàëèç, 2008, ¹ 6 11
Ðèñ. 1. Ñõåìà óïðîùåííîé àðõèòåêòóðû ñåòè ART 2
Wj i Wi j
Íà÷àëüíàÿ îáðàáîòêà â ëþáîé ñåòè ART âûïîëíÿåòñÿ â ìîäóëå, ïðåäñòàâëÿþ-
ùåì ñîáîé îáó÷àåìóþ êîíêóðåíòíóþ ñåòü. Âõîäíûå m íåéðîíîâ ñëîÿ F1 õðàíÿò
âõîäíîé îáðàç I i i im� ( , ,... , )1 2 . Íà êàæäûé íåéðîí âûõîäíîãî ñëîÿ F2 ïîñòóïàåò
âîñõîäÿùàÿ ñåòåâàÿ àêòèâíîñòü t j , ôîðìèðóåìàÿ èç âñåõ âûõîäîâ S I� ñëîÿ F1.
Ýëåìåíòû âåêòîðà T t t tn� ( , ,... , )1 2 , âû÷èñëÿåìûå êàê t w ij ij i
i
m
� �
�
�
1
, ìîæíî ðàñ-
ñìàòðèâàòü êàê ðåçóëüòàò ñðàâíåíèé âõîäíîãî îáðàçà I ñ ïðîòîòèïàìè
W w w W w wm n n nm1 11 1 1� � �( ,... , ), , ( ,... , ) — âåñàìè ñèíàïòè÷åñêèõ ñâÿçåé ìåæäó
ñëîÿìè F1 è F 2 . Âûõîä òîëüêî îäíîãî íåéðîíà J ñëîÿ F 2 , ïîëó÷èâøåãî íàèáîëü-
øóþ âîñõîäÿùóþ ñåòåâóþ àêòèâíîñòü t j , óñòàíàâëèâàåòñÿ â åäèíèöó, íà âûõîäàõ
æå îñòàëüíûõ íåéðîíîâ îñòàþòñÿ íóëè.
Ïîñëå òîãî êàê îïðåäåëåí íåéðîí-ïîáåäèòåëü J ñëîÿ F 2 , ñîîòâåòñòâóþùèé
ïðîòîòèï W w wJ J mJ� ( ,... , )1 àäàïòèðóåòñÿ ê âõîäíîìó îáðàçó I ñîãëàñíî ôîðìóëå
W I W
J J
( ) )( )new (old� � � �� �1 ,
ãäå � �[ , ]0 1 — ïîêàçàòåëü îáó÷åíèÿ.
Ñèíàïòè÷åñêèå íèñõîäÿùèå âåñà W ji îáðàòíûõ ñâÿçåé, çà èñêëþ÷åíèåì âîç-
ìîæíîãî êîýôôèöèåíòà ìàñøòàáèðîâàíèÿ, èäåíòè÷íû âîñõîäÿùèì âåñàì Wij , à íè-
ñõîäÿùàÿ ñåòåâàÿ àêòèâíîñòü V îïðåäåëÿåòñÿ ïî àíàëîãèè ñ âîñõîäÿùåé:
� i j ji
j
n
u w� �
�
�
1
.
Ïîñêîëüêó âñå âûõîäû ñëîÿ F 2 , êðîìå îäíîãî — u j , ðàâíû íóëþ, âõîäíîé
ñëîé F1 ïîëó÷àåò ïðîòîòèï WJ , êîòîðûé ïðåäñòàâëÿåò òåêóùèé êëàññ J , ïîáåäèâ-
øèé â ñîðåâíîâàíèÿõ. Äàëåå âûïîëíÿåòñÿ ñàìàÿ ñëîæíàÿ â ñåòÿõ ART ÷àñòü îáðà-
áîòêè äàííûõ — ñðàâíåíèå ïðîòîòèïà WJ ñ âõîäíûì îáðàçîì I. Çàäàâàåìàÿ èññëå-
äîâàòåëåì ÷óâñòâèòåëüíîñòü � îïðåäåëÿåò òðåáóåìîå ìèíèìàëüíîå ñõîäñòâî ìåæäó
âõîäíûì îáðàçîì è ïðîòîòèïîì ñîîòâåòñòâóþùåãî êëàññà. Åñëè ñòåïåíü ñîâïàäå-
íèÿ ìåíüøå �, òåêóùèé íåéðîí-ïîáåäèòåëü ñëîÿ F 2 èñêëþ÷àåòñÿ èç ñîðåâíîâàíèé
ñèãíàëîì ñáðîñà. Ñèãíàë ñáðîñà óñòàíàâëèâàåò àêòèâíûé íåéðîí J ñëîÿ F 2 â íóëü è
òàêèì îáðàçîì äàåò âîçìîæíîñòü äðóãîìó íåéðîíó ïîáåäèòü â ñîðåâíîâàíèÿõ, òåì
ñàìûì íà âûõîäå ñëîÿ F 2 ïîëó÷àåì âîñõîäÿùóþ ñåòåâóþ àêòèâíîñòü t j åùå íå
ñáðîøåííûõ âûõîäíûõ íåéðîíîâ. Êàê òîëüêî áóäåò îáíàðóæåí ïðîòîòèï, ó êîòîðî-
ãî ñòåïåíü ñõîäñòâà ñ âõîäíûì îáðàçîì I, ïî êðàéíåé ìåðå, òàêàÿ æå, êàê ïàðàìåòð
ñõîäñòâà � , ñèãíàë ñáðîñà íå âîçíèêíåò è ñåòü äîñòèãíåò ðåçîíàíñà. Ïîçèöèÿ
ïîñëåäíåãî íåéðîíà-ïîáåäèòåëÿ ñëîÿ F 2 óêàçûâàåò êëàññ âõîäíîãî îáðàçà I, ïîñëå
÷åãî ïðîèñõîäèò àäàïòàöèÿ ñîîòâåòñòâóþùåãî ïðîòîòèïà.
ÀËÃÎÐÈÒÌÛ ÑÆÀÒÈß
 ïðåäëàãàåìûõ íèæå àëãîðèòìàõ ñæàòèÿ âìåñòî èñïîëüçîâàíèÿ ïðîñòîé ñõåìû
äèôôåðåíöèàëüíîãî êîäèðîâàíèÿ (ïðåäèêòîð íóëåâîãî ïîðÿäêà), â êîòîðîé êàæ-
äûé íîâûé êîä âû÷èòàåòñÿ èç êîäà, ñîîòâåòñòâóþùåãî ïðåäûäóùåìó çàêîäèðî-
âàííîìó áëîêó èçîáðàæåíèÿ, ò.å. áëîêó, íàõîäÿùåìóñÿ ëåâåå îò òåêóùåãî áëîêà,
èñïîëüçóåòñÿ ñëåäóþùèé ïðèíöèï (ïðåäèêòîð ïåðâîãî ïîðÿäêà). Åñëè ïðåäïîëî-
æèòü, ÷òî ïåðåõîäû â èçîáðàæåíèè ãëàäêèå, òî íàïðàâëåíèå, â êîòîðîì ðàçíîñòü
ìåæäó êîäàìè äâóõ óæå çàêîäèðîâàííûõ áëîêîâ ìèíèìàëüíà, áóäåò òàêîå æå,
êàê è íàïðàâëåíèå, â êîòîðîì ðàçíîñòü ìèíèìàëüíà äëÿ íîâîãî êîäèðóåìîãî
áëîêà. Äðóãèìè ñëîâàìè (ðèñ. 2), ïðåäïîëàãàåòñÿ, ÷òî ìèíèìàëüíàÿ ðàçíîñòü
ìåæäó êîäàìè áëîêîâ i è b, i è d, i è f , i è h áóäåò ñîîòâåòñòâåííî â òàêîì æå
íàïðàâëåíèè (D D D1 2 3, , è D4), êàê è ðàçíîñòü ìåæäó êîäàìè çàêîäèðîâàííûõ
áëîêîâ b è a, d è c, f è e, h è g.
12 ISSN 0023-1274. Êèáåðíåòèêà è ñèñòåìíûé àíàëèç, 2008, ¹ 6
Çà÷àñòóþ, åñëè èçîáðàæåíèå èìååò ãëàäêèå ïå-
ðåõîäû (÷òî ÿâëÿåòñÿ îáû÷íûì äëÿ áîëüøèíñòâà
èçîáðàæåíèé, çà èñêëþ÷åíèåì îáëàñòåé ñ ðåçêèìè
ïåðåõîäàìè, ãäå äèôôåðåíöèàëüíàÿ ñõåìà íå ïðè-
íîñèò êàêèõ-ëèáî ïðåèìóùåñòâ), âûáîð ìåæäó ÷å-
òûðüìÿ âîçìîæíûìè íàïðàâëåíèÿìè äàåò ìåíüøóþ
ðàçíîñòü ïî ñðàâíåíèþ ñ îáùåïðèíÿòîé ñõåìîé.
Êðîìå òîãî, âûáðàííîå íàïðàâëåíèå íå íàäî êîäè-
ðîâàòü, ïîñêîëüêó êîäû áëîêîâ a h– áûëè óæå ïå-
ðåäàíû äî êîäèðîâàíèÿ áëîêà i, à íàïðàâëåíèå ìè-
íèìàëüíîé ðàçíîñòè ìåæäó êîäàìè ìîæíî âû-
÷èñèòü èç ñóùåñòâóþùèõ áëîêîâ è ïîýòîìó íå òðåáóåò äîïîëíèòåëüíîé ïåðåäà÷è
äàííûõ.
Àëãîðèòì 1. Íàèáîëåå ñëîæíûé è âêëþ÷àåò ñëåäóþùèå øàãè:
1) óñëîâíîå ðàçáèåíèå èñõîäíîãî èçîáðàæåíèÿ íà êâàäðàòíûå áëîêè ðàçìåðîì
n n
ïèêñåëîâ, íàïðèìåð, 4 4
èëè 8 8
;
2) ïðèìåíåíèå ê êàæäîìó áëîêó ÄÊÏ;
3) ïðåäñòàâëåíèå êàæäîãî áëîêà â âèäå âåêòîðà â 16- èëè 64-ìåðíîì ïðîñòðà-
íñòâå ñîîòâåòñòâåííî;
4) íèçêî÷àñòîòíàÿ ôèëüòðàöèÿ (èñêëþ÷åíèå èç âåêòîðîâ êîýôôèöèåíòîâ, ñîîò-
âåòñòâóþùèõ âûñîêî÷àñòîòíûì ñîñòàâëÿþùèì);
5) îáó÷åíèå íåéðîííîé ñåòè ART;
6) ñ÷èòûâàíèå èíäåêñîâ íåéðîíîâ, ñîîòâåòñòâóþùèõ êàæäîìó âõîäíîìó âåê-
òîðó;
7) ôîðìèðîâàíèå òàáëèöû ñîîòâåòñòâèÿ ìåæäó èíäåêñîì è óñðåäíåííûì âåê-
òîðîì (êëàñòåðíûì öåíòðîì);
8) ñæàòèå ïîñëåäîâàòåëüíîñòè èíäåêñîâ ñ èñïîëüçîâàíèåì êîäèðîâàíèÿ äëèí
ñåðèé è àëãîðèòìà Õàôôìàíà.
Êàê ñëåäóåò èç îïèñàíèÿ àëãîðèòìà, â íåì, â îòëè÷èå îò JPEG, ïðèìåíåíà ñåòü ART
(øàãè 5–7), ðåçóëüòàòû ðàáîòû êîòîðîé èñïîëüçóþòñÿ äëÿ âåêòîðíîãî êâàíòîâàíèÿ.
Äëÿ äåêîäèðîâàíèÿ èñïîëüçóþòñÿ ñîîòâåòñòâóþùèå îïåðàöèè, íî â îáðàòíîì
ïîðÿäêå.
Àëãîðèòì 2. Âêëþ÷àåò òå æå øàãè, ÷òî è àëãîðèòì 1, çà èñêëþ÷åíèåì øàãîâ 2
è 4. Òàêèì îáðàçîì, â äàííîì àëãîðèòìå ñåòü âûïîëíÿåò ñâîþ îñíîâíóþ ôóíê-
öèþ — îñóùåñòâëÿåò âåêòîðíîå êâàíòîâàíèå áåç âû÷èñëåíèÿ ÄÊÏ è íèçêî÷àñòîò-
íîé ôèëüòðàöèè.
Àëãîðèòì 3. Äàííûé àëãîðèòì îñíîâàí íà àëãîðèòìå 2, íî äëÿ ïîâûøåíèÿ êà-
÷åñòâà èçîáðàæåíèÿ äîáàâëåí åùå îäèí öèêë ñæàòèÿ, â êîòîðîì ïðîèñõîäèò êîäè-
ðîâàíèå îøèáêè èçîáðàæåíèÿ, ò.å. èç ðàçíîñòè ìåæäó èñõîäíûì èçîáðàæåíèåì è
èçîáðàæåíèåì, ïîëó÷åííûì ïîñëå ïåðâîãî öèêëà êîäèðîâàíèÿ. Ïðè äåêîäèðîâàíèè
âòîðîå èçîáðàæåíèå ñóììèðóåòñÿ ñ ïåðâûì, òàêèì îáðàçîì ïðîèñõîäèò êîððåêöèÿ
îøèáêè êîäèðîâàíèÿ.
ÌÎÄÅËÈÐÎÂÀÍÈÅ
Ïðè ìîäåëèðîâàíèè â ñðåäå Matlab ïðîöåññà ñæàòèÿ äëÿ îöåíêè êà÷åñòâà ñæàòèÿ
èñïîëüçîâàëèñü ïîêàçàòåëè PSNR (Peak Signal-to-Noise Ratio) — îòíîøåíèå ìàê-
ñèìàëüíî âîçìîæíîãî óðîâíÿ ñèãíàëà ê óðîâíþ èñêàæàþùåãî åãî øóìà (ïî-
ñêîëüêó áîëüøèíñòâî ñèãíàëîâ èìåþò î÷åíü øèðîêèé äèíàìè÷åñêèé äèàïàçîí,
PSNR îáû÷íî ïðåäñòàâëÿþò â ëîãàðèôìè÷åñêîì ìàñøòàáå) è MSE (Mean
Squared Error) — ñðåäíåêâàäðàòè÷íàÿ îøèáêà.
Äëÿ äâóõ ìîíîõðîìíûõ èçîáðàæåíèé I è K ðàçìåðíîñòüþ m n
(ãäå îäíî ÿâëÿ-
åòñÿ çàøóìëåííûì ïðåäñòàâëåíèåì âòîðîãî) MSE âû÷èñëÿåòñÿ ñëåäóþùèì
îáðàçîì:
MSE �
�
�
��
1 2
0
1
0
1
mn
I i j K i j
j
n
i
m
| | ( , ) ( , )| | .
ISSN 0023-1274. Êèáåðíåòèêà è ñèñòåìíûé àíàëèç, 2008, ¹ 6 13
c e g
d f h
a b i
Ðèñ. 2. Ñõåìà îïðåäåëåíèÿ ëó÷øåãî
íàïðàâëåíèÿ äëÿ êîäèðîâàíèÿ
D1
D3
D4
D2
Äëÿ öâåòíûõ èçîáðàæåíèé ñ òðåìÿ RGB êîìïîíåíòàìè MSE îïðåäåëÿåòñÿ êàê
ñóììà âñåõ êâàäðàòè÷íûõ ðàçíîñòåé, äåëåííàÿ íà ðàçìåð èçîáðàæåíèÿ è íà 3.
Ïîêàçàòåëü PSNR îïðåäåëÿåòñÿ òàê:
PSNR
MAX
MSE
� �
�
�
�
�
�
�
�10 10
2
log I 20 10�
�
�
�
�
�log
MAX
MSE
I .
14 ISSN 0023-1274. Êèáåðíåòèêà è ñèñòåìíûé àíàëèç, 2008, ¹ 6
Ðèñ. 3. Êðèâàÿ çàâèñèìîñòè PSNR (à) è MSE (á) îò ñòåïåíè ñæàòèÿ
a á
Ðèñ. 4. Èçîáðàæåíèå: îðèãèíàëüíîå (à); ñæàòîå (á); ïîâåðõíîñòü îøèáêè (â)
a á â
Ðèñ. 5. Çàâèñèìîñòè PSNR (à) è MSE (á)
a á
Çäåñü MAX I — ìàêñèìàëüíîå çíà-
÷åíèå ïèêñåëà â èçîáðàæåíèè. Åñëè
ïèêñåëû ïðåäñòàâëåíû 8-ìè áèòîâû-
ìè çíà÷åíèÿìè, MAX I � 255.  îá-
ùåì ñëó÷àå ïðè èñïîëüçîâàíèè äëÿ
ïðåäñòàâëåíèÿ B áèò ìàêñèìàëüíî
âîçìîæíîå çíà÷åíèå äëÿ MAX I ðàâ-
íî 2 1B .
Îáû÷íî äëÿ àëãîðèòìîâ ñæàòèÿ
PSNR íàõîäèòñÿ â äèàïàçîíå 30–40 dB.
Äëÿ ìîäåëèðîâàíèÿ ïðîöåññà
ñæàòèÿ èñïîëüçîâàëèñü áëîêè ðàçìå-
ðîì 8 8
òî÷åê; êâàíòîâàíèå îñóùå-
ñòâëÿëîñü ñ ïîìîùüþ ñåòè ART 2A
sub E. Ïðåäëîæåííûå àëãîðèòìû ñæà-
òèÿ ïîêàçàëè ñõîæèå ðåçóëüòàòû äëÿ
ðàçëè÷íûõ èçîáðàæåíèé, äëÿ èëëþñ-
òðàöèè ïîëó÷åííûõ ðåçóëüòàòîâ íèæå
èñïîëüçóåòñÿ îáùåïðèíÿòîå
èçîáðàæåíèå «Lena».
 òàáë. 1 ïðåäñòàâëåíû ðåçóëüòà-
òû ìîäåëèðîâàíèÿ àëãîðèòìîâ 1–3 è
àëãîðèòìà JPEG.
Íà ðèñ. 3 ïðèâåäåíû îáîáùåí-
íûå ãðàôèêè çàâèñèìîñòè PSNR è
MSE îò ñòåïåíè ñæàòèÿ (CR) äëÿ âñåõ
àëãîðèòìîâ.
Íà ðèñ. 4 ïîêàçàí ïðèìåð ñæàòèÿ
èçîáðàæåíèÿ «Lena» ñ ïîìîùüþ ñåòè
ART 2A–E ïðè çàäàíèè ïàðàìåòðà
ñõîäñòâà � � 0 980, è ïîêàçàòåëÿ îáó÷å-
íèÿ � � 0 25, . Ñòåïåíü ñæàòèÿ â ýòîì
ñëó÷àå ðàâíà 33,6, à PNSR = 30,2 dB.
Ðèñ. 5 îòðàæàåò çàâèñèìîñòè PSNR
è MSE îò � è �. Ñëåäóåò îòìåòèòü, ÷òî
õàðàêòåð ýòèõ çàâèñèìîñòåé ïðàêòè÷åñ-
êè îäèíàêîâ äëÿ âñåõ ðàññìàòðèâàåìûõ
ñåòåé ART. Èç ðèñóíêà âèäíî, ÷òî
PSNR ïðÿìîïðîïîðöèîíàëüíî çàâèñèò
îò � , ò.å. ýòîò ïàðàìåòð íåïîñðåäñòâåí-
íî âëèÿåò íà êà÷åñòâî ñæàòîãî èçîáðà-
æåíèÿ. Êàê ïîêàçàëî ìîäåëèðîâàíèå,
ïðè � � 0 2, ýôôåêòèâíîñòü îáó÷åíèÿ
ÈÍÑ äîñòèãàåò ñâîåãî ìàêñèìóìà, ÷òî
ñîîòâåòñòâóåò îïòèìàëüíîìó ñîîòíîøåíèþ êîìïîíåíò îáó÷àþùåãî âåêòîðà è âåêòîðà
ïðîòîòèïà êëàññà íà ýòàïå àäàïòàöèè.
ÇÀÊËÞ×ÅÍÈÅ
 äàííîé ñòàòüå ïðåäëîæåíû íîâûå àëãîðèòìû ñæàòèÿ íà îñíîâå íåéðîñåòåâîãî
ïîäõîäà. Äëÿ ñîçäàíèÿ ñîîòâåòñòâèÿ ìåæäó âõîäíûì è âûõîäíûì ïðîñòðàíñòâàìè,
ñîñòîÿùèìè èç ýëåìåíòîâ êîäîâîé êíèãè — êîäîâûõ ñëîâ, èëè íåéðîíîâ, áûëà
ïðèìåíåíà ÈÍÑ ART. Ðåçóëüòàòû ìîäåëèðîâàíèÿ äàííûõ àëãîðèòìîâ ñâèäåòåëüñò-
âóþò î âîçìîæíîñòè ïðèìåíåíèÿ äàííîãî âèäà ÈÍÑ äëÿ ñæàòèÿ èçîáðàæåíèé.
ISSN 0023-1274. Êèáåðíåòèêà è ñèñòåìíûé àíàëèç, 2008, ¹ 6 15
Ò à á ë è ö à 1. Ðåçóëüòàòû ìîäåëèðîâà-
íèÿ àëãîðèòìîâ
Àëãîðèòì Q/� CR PSNR MSE
JPEG
0 58.215 24.110 252.389
10 30.692 29.566 71.851
20 20.403 31.848 42.490
30 15.750 33.042 32.274
40 13.078 33.814 27.023
50 11.178 34.444 23.371
60 9.611 35.059 20.284
70 7.863 35.889 16.755
80 6.073 37.046 12.837
90 3.823 39.440 7.398
100 1.481 58.440 0.093
Àëãî-
ðèòì 1
0.950 101.893 26.395 149.127
0.960 82.319 27.356 119.519
0.970 49.762 28.821 85.298
0.975 42.235 29.467 73.513
0.980 33.552 30.184 62.331
0.984 21.209 31.590 45.090
0.986 17.818 32.113 39.971
0.988 14.296 32.691 34.990
0.989 12.602 32.931 33.110
0.990 7.853 34.330 23.994
Àëãî-
ðèòì 2
0.700 105.960 22.466 368.512
0.740 73.760 22.908 332.855
0.780 53.477 23.292 304.720
0.820 34.231 23.964 261.018
0.840 27.031 24.459 232.901
0.860 20.008 25.040 203.745
0.880 14.181 25.895 167.326
0.900 9.053 27.122 126.135
0.920 5.996 28.754 86.642
0.960 2.658 34.304 24.134
Àëãî-
ðèòì 3
0.600 37.364 23.690 278.008
0.640 27.817 25.943 165.477
0.680 26.533 26.590 142.595
0.720 21.292 26.804 135.722
0.740 19.534 27.065 127.811
0.760 17.287 28.257 97.145
0.780 14.911 28.784 86.028
0.800 12.368 29.408 74.525
0.820 9.858 30.464 58.430
0.860 4.399 33.893 26.530
Ðàññìîòðåííûå àëãîðèòìû ñæàòèÿ áîëåå ýôôåêòèâíû, ÷åì àëãîðèòì, îñíîâàí-
íûé íà èñïîëüçîâàíèè êàðò Êîõîíåíà è îïèñàííûé â [14], äëÿ êîòîðîãî ïðè ñòåïå-
íè ñæàòèÿ 25,22, PSNR ñîñòàâëÿåò 24,7 dB. Êðîìå òîãî, ïðåäëîæåííûå àëãîðèòìû
ñâîáîäíû îò íåäîñòàòêà, ñâÿçàíîãî ñ íåîáõîäèìîñòüþ ïðåäâàðèòåëüíîãî âûáîðà
êîëè÷åñòâà êîäîâûõ ñëîâ, îïðåäåëÿþùèõ ðàçìåð êàðòû Êîõîíåíà.
Ñëåäóåò òàêæå îòìåòèòü, ÷òî èñïîëüçîâàíèå â àëãîðèòìàõ äîïîëíèòåëüíîãî êî-
äèðîâàíèÿ ðàçíîñòíîãî èçîáðàæåíèÿ, ò.å. îøèáêè íà÷àëüíîãî êîäèðîâàíèÿ, ïîçâî-
ëÿåò ïîâûñèòü êà÷åñòâî ïîëó÷àåìîãî èçîáðàæåíèÿ.
Ïðèìåíåíèå ðàçðàáîòàííûõ àëãîðèòìîâ íàèáîëåå ýôôåêòèâíî ïðè ñæàòèè èçî-
áðàæåíèé, èìåþùèõ ïîâòîðÿþùèåñÿ ó÷àñòêè.
ÑÏÈÑÎÊ ËÈÒÅÐÀÒÓÐÛ
1. L o n g P . M . , N a s t e v A . I . , V i t t e r J . S . Text compression via alphabet representation // Proc.
IEEE Data Compres. Conf. — Snowbird, Utah, USA. 1997. — P.161–170
2. S c h m i d h u b e r J . , H e i l S . Sequential neural text compression // IEEE Trans. on Neural Networks.
— 1996. — 7, N 1. — P. 142–146.
3. K o h o n e n T . Self-organizing maps. — Berlin: Springer-Verlag, 1995. — 362 p.
4. H e h t - N i e l s e n R . Application counterpropagation networks // Neural Networks. — 1988 — 1. —
P. 131–139
5. H e h t - N i e l s e n R . Counterpropagation networks // Appl. optiñs. — 1987. — 26. — P. 4979–4984
6. S a n g e r T . Optimal unsupervised learning in a single-layer linear feedforward neural network // Neural
Networks. — 1983. — 2. — P. 459–473.
7. O j a E . A simplified neuron model as a principal component analyzer // J. Math Biology. — 1982. — 15.
— P. 267–273
8. Á î ä ÿ í ñ ê è é Å .  . , Ð ó ä å í ê î Î . à . Èñêóññòâåííûå íåéðîííûå ñåòè: àðõèòåêòóðà, îáó÷åíèå,
ïðèìåíåíèå. — Õàðüêîâ: ÒÅËÅÒÅÕ, 2004. — 372 ñ.
9. G r o s s b e r g S . Competetive learning: from interactive action to adaptive resonance // Cognitive Sci-
ence. — 1987. — 11. — P.23–63
10. A h m e d N . , N a t a r a j a n T . , R a o K . R . Discrete cosine transform // IEEE Trans. Comput. —
1974. — C-23. — P. 90–93.
11. L e i S h . - M . , S u n M . - T . An entropy coding system for digital HDTV applications // IEEE Trans.
Circuits Syst. Video Technol. — 1991. — 1. — P. 147–155.
12. Á î ä ÿ í ñ ê è é Å .  . , Ê ó ë è ø î â à Í . Å . , Ð ó ä å í ê î Î . à . Îáîáùåííûé àëãîðèòì îáó÷åíèÿ
ôîðìàëüíîãî íåéðîíà // Êèáåðíeòèêà è ñèñòåìíûé àíàëèç. — 2002. — ¹ 5. — Ñ. 176–179.
13. Ð ó ä å í ê î Î . Ã . , Á î ä ÿ í ñ ê è é Å . Â . Èñêóññòâåííûå íåéðîííûå ñåòè — Õàðüêîâ: Êîìïàíèÿ
ÑÌÈÒ, 2005. — 408 ñ.
14. A m e r i j c k x C h . , V e r l e y s e n M . , T h i s s e n P . , L e g a t J . - D . Image compression by self-or-
ganized Kohonen map // IEEE Trans. on Neural Net. — 1998. — 9. — P. 503–507.
Ïîñòóïèëà 11.02.2008
16 ISSN 0023-1274. Êèáåðíåòèêà è ñèñòåìíûé àíàëèç, 2008, ¹ 6
|