Графічний інтерфейс суперкомп'ютера на основі Веб-технологій

Описан графический интерфейс управления суперкомпьютером. Интерфейс имеет средства управления вычислительным процессом для пользователей и средства администрирования суперкомпьютера. Внедрен на суперкомпьютерах НАНУ в рамках программы развития грид-технологий в Украине....

Повний опис

Збережено в:
Бібліографічні деталі
Дата:2010
Автор: Головинський, А.Л.
Формат: Стаття
Мова:Ukrainian
Russian
Опубліковано: Міжнародний науково-навчальний центр інформаційних технологій і систем НАН та МОН України 2010
Назва видання:Управляющие системы и машины
Теми:
Онлайн доступ:http://dspace.nbuv.gov.ua/handle/123456789/82831
Теги: Додати тег
Немає тегів, Будьте першим, хто поставить тег для цього запису!
Назва журналу:Digital Library of Periodicals of National Academy of Sciences of Ukraine
Цитувати:Графічний інтерфейс суперкомп'ютера на основі Веб-технологій / А.Л. Головинський // Управляющие системы и машины. — 2010. — № 3. — С. 54-61. — Бібліогр.: 8 назв. — укр., рос.

Репозитарії

Digital Library of Periodicals of National Academy of Sciences of Ukraine
id irk-123456789-82831
record_format dspace
spelling irk-123456789-828312018-04-07T23:07:40Z Графічний інтерфейс суперкомп'ютера на основі Веб-технологій Головинський, А.Л. Программная инженерия и программные средства Описан графический интерфейс управления суперкомпьютером. Интерфейс имеет средства управления вычислительным процессом для пользователей и средства администрирования суперкомпьютера. Внедрен на суперкомпьютерах НАНУ в рамках программы развития грид-технологий в Украине. A graphical interface of the supercomputer management is described. The interface has the facilities of the computing process control for users and the administrative facilities of the supercomputer monitoring and management. The interface is implemented on supercomputers of NAS of Ukraine within the program of the -development of grid-technologies in Ukraine. Описано графічний інтерфейс управління суперкомп'ютером. Інтерфейс має засоби керування обчислювальним процесом для користувачів та засоби адміністрування суперкомп'ютера. Впроваджено на суперкомп'ютерах НАНУ в межах програми розвитку грід-технологій в Україні. 2010 Article Графічний інтерфейс суперкомп'ютера на основі Веб-технологій / А.Л. Головинський // Управляющие системы и машины. — 2010. — № 3. — С. 54-61. — Бібліогр.: 8 назв. — укр., рос. 0130-5395 http://dspace.nbuv.gov.ua/handle/123456789/82831 681.322 uk ru Управляющие системы и машины Міжнародний науково-навчальний центр інформаційних технологій і систем НАН та МОН України
institution Digital Library of Periodicals of National Academy of Sciences of Ukraine
collection DSpace DC
language Ukrainian
Russian
topic Программная инженерия и программные средства
Программная инженерия и программные средства
spellingShingle Программная инженерия и программные средства
Программная инженерия и программные средства
Головинський, А.Л.
Графічний інтерфейс суперкомп'ютера на основі Веб-технологій
Управляющие системы и машины
description Описан графический интерфейс управления суперкомпьютером. Интерфейс имеет средства управления вычислительным процессом для пользователей и средства администрирования суперкомпьютера. Внедрен на суперкомпьютерах НАНУ в рамках программы развития грид-технологий в Украине.
format Article
author Головинський, А.Л.
author_facet Головинський, А.Л.
author_sort Головинський, А.Л.
title Графічний інтерфейс суперкомп'ютера на основі Веб-технологій
title_short Графічний інтерфейс суперкомп'ютера на основі Веб-технологій
title_full Графічний інтерфейс суперкомп'ютера на основі Веб-технологій
title_fullStr Графічний інтерфейс суперкомп'ютера на основі Веб-технологій
title_full_unstemmed Графічний інтерфейс суперкомп'ютера на основі Веб-технологій
title_sort графічний інтерфейс суперкомп'ютера на основі веб-технологій
publisher Міжнародний науково-навчальний центр інформаційних технологій і систем НАН та МОН України
publishDate 2010
topic_facet Программная инженерия и программные средства
url http://dspace.nbuv.gov.ua/handle/123456789/82831
citation_txt Графічний інтерфейс суперкомп'ютера на основі Веб-технологій / А.Л. Головинський // Управляющие системы и машины. — 2010. — № 3. — С. 54-61. — Бібліогр.: 8 назв. — укр., рос.
series Управляющие системы и машины
work_keys_str_mv AT golovinsʹkijal grafíčnijínterfejssuperkompûteranaosnovívebtehnologíj
first_indexed 2025-07-06T09:30:28Z
last_indexed 2025-07-06T09:30:28Z
_version_ 1836889386947444736
fulltext 54 УСиМ, 2010, № 3 Программная инженерия и программные средства УДК 681.322 A.Л. Головинський Графічний інтерфейс суперкомп'ютера на основі веб-технологій Описан графический интерфейс управления суперкомпьютером. Интерфейс имеет средства управления вычислительным процес- сом для пользователей и средства администрирования суперкомпьютера. Внедрен на суперкомпьютерах НАНУ в рамках про- граммы развития грид-технологий в Украине. A graphical interface of the supercomputer management is described. The interface has the facilities of the computing process control for users and the administrative facilities of the supercomputer monitoring and management. The interface is implemented on super- computers of NAS of Ukraine within the program of the -development of grid-technologies in Ukraine. Описано графічний інтерфейс управління суперкомп'ютером. Інтерфейс має засоби керування обчислювальним процесом для користувачів та засоби адміністрування суперкомп'ютера. Впроваджено на суперкомп'ютерах НАНУ в межах програми розви- тку грід-технологій в Україні. Вступ. Графічний інтерфейс управління супер- комп'ютером є наступною ланкою у розвитку кластера СКІТ (Супер-комп’ютер для інфор- маційних технологій) Інституту кібернетики [1]. Досвід роботи з користувачами кластера, на- копичений науковцями та програмістами, до- зволив розробити системне програмне забез- печення, що не має аналогів в Україні. Крім архітектури СКІТ інтерфейс підтримує низку споріднених типів архітектур суперком- п'ютерів, зокрема Rocks Cluster [2], менеджери ресурcів кластера SLURM [3], Torque [4], Sun Grid Engine [5]. Концепція графічного інтерфейсу корис- тувача кластера Задача інтерфейсу – забезпечити виконання всіх можливих операцій користувача лише за- собами інтерфейсу. Він має якнайкраще відпо- відати користувачеві, враховувати його інтере- си, звички, його задачі. Більшість науковців пра- цює з програмними пакетами. Їм необхідне зруч- не, не переобтяжене додатковими функціями середовище запуску паралельних програм та ре- дагування файлів вхідних даних. Прикладні про- грамісти використовують кластер як засіб на- лагодження паралельних програм. Їм потрібне середовище для компіляції з підтримкою по- пулярних компіляторів та прикладних бібліо- тек, редактор для початкових текстів програм. Наведемо основні операції, які виконують користувачі комплексу:  файлові операції;  обчислення задач на ресурсах кластера;  перегляд процесу та результату виконання задач;  взаємодія між користувачами та адмініст- раторами. Розглянемо ці операції. Файлові операції. Файли користувачів зна- ходяться у персональних каталогах, захищених від доступу сторонніх осіб. Інтерфейс доступу до файлів забезпечує всі традиційні операції з ними: створення, редагування, видалення тощо. Додатково передбачено сортування за полями ім'я, розмір, час створення, що забезпечує зруч- ність у роботі з великою кількістю файлів у каталогах. Обсяг файлової системи кластера у 30 Тб зумовлює потребу в пошуку за такою систе- мою. У графічному інтерфейсі передбачено по- шук за регулярними виразами, датою ство- рення файлу. Обмін даними між робочою станцією та клас- тером здійснюється шляхом завантаження та надсилання файлів. Для ефективної роботи пе- редбачено також обмін каталогами, що забез- печується їх попередньою архівацією. УСиМ, 2010, № 3 55 Редагування текстових файлів здійснюється за підтримки підсвічування синтаксису мов про- грамування. Обчислення задач на ресурсах кластера. По- становка задачі у чергу здійснюється через від- повідний інтерфейс, який дозволяє задати всі необхідні параметри обчислювальної задачі та менеджера ресурсів кластера. Для початкових текстів програм передбаче- но інтелектуальну систему компіляції, яка ана- лізує текст програми та обирає відповідно мо- ву програмування та сценарій компіляції. В інтерфейсі передбачено режим роботи з встановленими загальносистемними програм- ними пакетами. У цьому режимі деякі параме- три запуску задаються автоматично, що спро- щує роботу з ними. Перегляд процесу та результату виконан- ня задач. Основним засобом контролю проце- су виконання задачі є перегляд в реальному ча- сі журналу задачі, у якому відображено стан виконання та помилки. Для цього підтримуєть- ся окремий режим перегляду файлів, слідкуван- ня за файлом. При цьому всі зміни у файлі жур- налу одразу відображаються у відповідному вік- ні. Додатковими засобами контролю є перегляд рівня завантаження процесорів, обсягу зайнятої задачею оперативної пам'яті вузлів, на яких ви- конується задача. Взаємодія між користувачами та адміні- страторами. Для спілкування між користува- чами та адміністраторами передбачено систему передачі повідомлень та форум. Деяким корис- тувачам потрібно перемикатись на інших корис- тувачів, таку можливість також передбачено. Графічний інтерфейс адміністратора клас- тера Адміністратор виконує функції організації обчислювального процесу суперкомп'ютера. Ко- жен адміністратор має обліковий запис, як і зви- чайний користувач, але з розширеними мож- ливостями. Наведемо специфічні функції адмі- ністратора:  вхід у систему від імені довільного кори- стувача;  адміністрування черги задач;  перегляд стану обладнання кластера;  управління ресурсами кластера;  робота з базою облікових записів користу- вачів;  запуск діагностичних задач;  перегляд системних журналів. Опишемо ці функції. Вхід у систему від імені довільного корис- тувача. Потреба у такому засобі виникає за на- дання користувачу допомоги з роботою на клас- тері. Вхід від імені спричинює повторюваність помилок і дозволяє локалізувати їх у тому се- редовищі, де вони виникають. Адміністрування черги задач. Черга задач вимагає від адміністратора постійного нагля- ду. В інтерфейсі передбачено можливість пе- регляду параметрів задач, скасування їх у ра- зі помилок. Перегляд стану обладнання кластера. Стан обладнання потребує постійної уваги з боку ад- міністратора. Вчасне інформування про аварії є однією з основних задач інтерфейсу. Засоби моніторингу передбачають перегляд стану ву- злів, системи збереження даних, температури у кластерному залі тощо. Управління ресурсами кластера. Основним ресурсом кластера є обчислювальні вузли. Адмі- ністратор має можливість динамічно змінюва- ти кількість доступних вузлів. Передбачено мож- ливості вимкнення, увімкнення, блокування вуз- лів, а також призупинення всієї черги задач. Робота з базою облікових записів користу- вачів передбачає перегляд всієї бази, зміну полів записів, реєстрацію та видалення користувачів. Запуск діагностичних задач. Діагностичні задачі є особливим класом. Вони дозволяють ви- значити характеристики системи, перевірити на- дійність кластера в цілому. Запуск таких задач може здійснюватись за розкладом та на вимо- гу. Передбачено інтелектуальний аналіз журналу діагностики з визначенням компонент із зани- женими характеристиками. Перегляд системних журналів компоне- нтів кластера дозволяє визначити невідомі ра- ніше проблеми, детектування яких не перед- бачено у відповідних розділах моніторингу. Можлива фільтрація журналів за певними клю- човими словами, що спрощує аналіз великих обсягів тексту. 56 УСиМ, 2010, № 3 Веб-портал кластерних обчислень Графічний інтерфейс має бути доступним з довільної робочої станції користувача та адмі- ністратора, бути кросплатформним і не потре- бувати встановлення додаткового програмного забезпечення. Саме тому за технологічну ос- нову для реалізації даного проекту обрано веб- сервіси. Вони надають найкращу кросплатфо- рмність, їх засобів досить для виконання зада- ного кола задач. Загальний вигляд інтерфейсу показано на рис. 1. Рис. 1. Графічний інтерфейс управління суперкомп'ютером Структура інтерфейсу Інтерфейс має модульну будову і складаєть- ся з двох шарів програмного забезпечення: веб- частини, відповідальної за діалог з користува- чем, та проміжного рівня взаємодії з систем- ним програмним забезпеченням суперкомп'ю- тера (рис. 2). Серед модулів можна виділити наступні: підсистему авторизації та роботи з базою ко- ристувачів, модулі взаємодії з менеджером ре- сурсів кластера та модулі діагностики різних підсистем суперкомп'ютера. Модуль авторизації. Підтримується автори- зація системами PAM та LDAP. Авторизація здійснюється безпосередньо, без проміжного програмного забезпечення. Робота з базою ко- ристувачів складається з операцій авторизації користувача, додавання та видалення користу- вачів, редагування їх облікових даних. Для роботи з LDAP у файлі конфігурації hydra-adm.conf вказується адреса ldap-сервера, суфікс бази, облікові дані адміністратора бази. hydra register_user modify_user launch gettemp gethdfail sibfo squeue Рис. 2. Структура ПЗ інтерфейсу Для роботи з PAM використовується модуль php-auth-pam, який встановлюється та налаш- товується окремо. Модулі діагностики. Розроблені тести ана- лізують основні параметри роботи суперкомп'ю- тера: стан жорстких дисків компонентів, мере- жевих з'єднань, мережі Infiniband, температуру вузлів, дані сенсорів IPMI. Скрипти діагностики та моніторингу знахо- дяться у проміжному рівні програмного забез- печення. Вони виконуються від імені суперко- ристувача на шлюзі кластера. Виконання здій- снює системний планувальник cron згідно роз- кладу. Розклад встановлюється відповідно до потреб адміністраторів у наданій інформації. Виконання адміністративних операцій. Ча- стина адміністративних операцій має викону- ватися від імені суперкористувача. До таких операцій відносяться редагування бази корис- тувачів, видалення довільних задач з черги ме- неджера ресурсів. Для виконання таких задач в інтерфейсі передбачено наступну структуру. У суперкомп'ютері створюється службовий користувач portaladmin, який через sudo може виконувати задані команди із /opt/hydra/lib від імені root. Отже, графічний інтерфейс ініціює виконання операції від імені portaladmin, після чого відбувається переключення на суперкори- стувача і виконання команди. Дистанціювання веб-сервера від суперко- мп'ютера. Високопродуктивні файлові системи часто є недостатньо надійними. Аварії у фай- УСиМ, 2010, № 3 57 лових системах Lustre [6], NFS–RDMA [7] най- частіше є причинами зупинок у роботі супер- комп'ютерів, оскільки ведуть до фатальних збоїв у роботі компонентів: серверів, вузлів, зокрема веб-сервера. Для того, щоб розв'язати проблему надійності роботи веб-сервера, розроблено спеціалізоване клієнт-серверне ПЗ, яке дозволяє скриптам веб- интерфейсу ініціювати виконання команд на шлюзі кластера від імені користувачів та адмі- ністраторів, а також обмінюватись даними. Клієнтська частина hctl знаходиться на веб- сервері. Серверна hydrad виконується як сис- темна служба на шлюзі суперкомп'ютера. Дане ПЗ працює у таких режимах:  виконання команд користувача та надання результату виконання;  читання даних з файла;  запис даних, отриманих веб-сервером, у файл на файловій системі кластера (реверсний режим передачі даних);  виконання команд адміністратора від імені суперкористувача відбувається через службо- вого користувача portaladmin, який перемика- ється на суперкористувача і виконує команду із списку дозволених. Таким чином, навіть у випадку значної ава- рії, веб-сервер буде працювати і користувачі зможуть отримати інформацію про причини проблеми, строки усунення тощо. Запуск задач за допомогою менеджера ре- сурсів кластера. Запуск задачі на виконання здійснюється через відповідну форму інтерфей- су (рис. 3). Користувач задає параметри задачі – назву файла з програмою, параметри командного ря- дка, кількість процесорів, час виконання, оби- рає MPI-середовище. У разі потреби вказуєть- ся компіляція програми з початкових текстів. Тоді автоматично створюється сценарій компі- ляції та запускається компіляція, а після її ус- пішного завершення виконується програма. Структуру запуску обчислювальної задачі по- казано на рис. 4. Запуск здійснюється через відповідні моду- лі графічного інтерфейсу. Користувач задає параметри задачі на сторінці «Запуск задач». Всі дані передаються модулю launch, який здій- снює запуск через менеджер ресурсів кластера. Тип менеджера задається у файлі конфігурації інтерфейсу. Далі задача стає у чергу і після на- дання їй ресурсів виконується на обчислюва- льних вузлах. Рис. 3. Форма запуску задачі Web-form progname cmdline ncpus timelim mpi hctl launch task_parms SLURM module launch PBC module SLURM sbatch qsub Torque / Sun Grid Engine Queue node 01 process 01 process 02 process 03 process 04 node 02 process 05 process 06 process 07 process 08 node 03 process 09 process 10 process 11 process 12 node 04 process 13 process 14 process 15 process 16 Рис. 4. Структура запуску задачі Інтерактивна взаємодія з користувачем Деякі компоненти інтерфейсу відображають інформацію, яка часто змінюється. До таких на- лежать модулі ресурсів, черги задач, перегляду вихідного файлу задачі, що виконується. Інтер- фейс здійснює оновлення інформації без необ- хідності перезавантаження сторінки за допомо- гою технології AJAX [8]. Такий підхід дозволяє користувачам здійснювати інтерактивну робо- ту із своїми обчислювальними задачами на клас- 58 УСиМ, 2010, № 3 тері, що є суттєвим для багатьох досліджень у галузі фізики та хімії з не повністю формалізо- ваними алгоритмами. Висновок. Описана програмна система за- безпечує веб-інтерфейс керування суперком- п'ютером для користувачів та адміністраторів. Інтерфейс впроваджено на суперкомп'ютерах Інституту кібернетики НАН України. Описане середовище надасть поштовх до ширшого ви- користання вітчизняних багатопроцесорних об- числювальних систем, оскільки значно спро- щує їх використання науковцями та програміс- тами. 1. Рябчун С.Г. Головинский А.Л. Перспективы разви- тия суперкомпьютеров кластерной архитектуры в Украине // Пр. конф. «50 років Інституту кіберне- тики імені В.М. Глушкова НАН України», Київ, 2008. – С. 236–241. 2. Rocks Cluster: www.rocksclusters.org 3. SLURM homepage: www.llnl.gov/linux/slurm 4. Torque: http://www.clusterresources.com/products/toque- resource-manager.php 5. Sun Grid Engine: http://gridengine.sunsource.net/ 6. Lustre Filesystem homepage: www.lustre.org/ 7. NFS–RDMA homepage: http://nfs-rdma.sourceforge.net/ 8. AJAX: http://en.wikipedia.org/wiki/Ajax_(programming) Поступила 16.10.2009 Тел. для справок: (044) 526-3209 (Киев) © A.Л. Головинский, 2010  A.Л. Головинский Графический интерфейс суперкомпьютера на основе веб-технологий Введение. Графический интерфейс управления суперком- пьютером – следующее звено в развитии кластера СКИТ (Суперкомпьютер для информационных технологий) Ин- ститута кибернетики [1]. Опыт роботы с пользователями кластера, накопленный учеными и программистами, позво- лил разработать системное программное обеспечение, не имеющее аналогов в Украине. Кроме архитектуры СКИТ интерфейс поддерживает ряд родственных типов архитектур суперкомпьютеров, в частности Rocks Cluster [2], менеджеры ресурсов клас- тера SLURM [3], Torque [4], Sun Grid Engine [5]. Концепция графического интерфейса пользова- теля кластера Задача интерфейса – обеспечить выполнение всех воз- можных операций пользователя только средствами ин- терфейса. Он должен как можно полнее соответствовать пользователю, учитывать его интересы, привычки, его за- дачи. Большинство ученых работают с программными па- кетами. Им необходима удобная, не перегруженная до- полнительными функциями среда для запуска параллель- ных программ и редактирования файлов входных дан- ных. Прикладные программисты используют кластер как инструмент настройки параллельных программ. Им не- обходима среда для компиляции с поддержкой популяр- ных компиляторов и прикладных библиотек, редактор для исходных текстов программ. Приведем основные операции, выполняемые поль- зователями комплекса:  файловые операции;  вычисление задач на ресурсах кластера;  пересмотр процесса решения и результата выполне- ния задач;  взаимодействие между пользователями и админи- страторами. Рассмотрим эти операции. Файловые операции. Файлы пользователей находят- ся в персональных каталогах, защищенных от доступа посторонних лиц. Интерфейс доступа к файлам обеспе- чивает все традиционные операции с файлами: создание, редактирование, удаление и т.д. Дополнительно преду- смотрены сортировки по полям имя, размер, время соз- дания, что обеспечивает удобство в работе с каталогами при большом количестве файлов. Объем файловой системы кластера в 30 Тб обуслав- ливает необходимость в поиске по файловой системе. В графическом интерфейсе предусмотрен поиск по регуляр- ным выражениям, по дате создания файла. Обмен данными между рабочей станцией и кластером осуществляется путем загрузки и отправки файлов. Для эффективной работы предусмотрен также обмен катало- гами, который обеспечивается их предварительной ар- хивацией. Редактирование текстовых файлов осуществляется с поддержкой подсветки синтаксиса языков программи- рования. Вычисление задач на ресурсах кластера. Постанов- ка задачи в очередь осуществляется через соответствую- щий интерфейс, позволяющий задать все необходимые параметры вычислительной задачи и менеджера ресур- сов кластера. Для исходных текстов программ предусмотрена ин- теллектуальная система компиляции, анализирующая текст программы и выбирающая подходящий язык про- граммирования и сценарий компиляции. В интерфейсе предусмотрен режим работы с установ- ленными общесистемно программными пакетами. В этом режиме некоторые параметры запуска задаются автомати- чески, что значительно упрощает работу с ними. УСиМ, 2010, № 3 59 Просмотр хода выполнения процесса и результа- та выполнения задач. Главное средство контроля про- цесса выполнения задачи – просмотр в реальном време- ни журнала задач, в котором отражается состояние вы- полнения и ошибки. Для этого поддерживается отдель- ный режим просмотра файлов, слежения за файлом. При этом все изменения в файле журнала сразу же отобража- ются в соответствующем окне. Дополнительными сред- ствами контроля выступают просмотр уровня загрузки процессоров, объема занятой задачей оперативной памя- ти на узлах. Взаимодействие между пользователями и адми- нистраторами. Для общения между пользователями и администраторами предусмотрена система передачи сооб- щений и форум. Некоторым пользователям требуется переключаться на других пользователей, что также пре- дусмотрено. Графический интерфейс администратора кластера Администратор выполняет функции организации вы- числительного процесса суперкомпьютера. Каждый адми- нистратор имеет учетную запись, как и обычный пользова- тель, но с расширенными возможностями. Специфические функции администратора таковы:  вход в систему от имени произвольного пользователя;  администрирование очереди задач;  просмотр состояния оборудования кластера;  управление ресурсами кластера;  работа с базой учетных записей пользователей;  запуск диагностических задач;  просмотр системных журналов. Опишем эти функции. Вход в систему от имени произвольного пользова- теля. Необходимость в таком средстве возникает при за- труднениях в работе на кластере. Вход от имени позволя- ет достичь повторяемости ошибок и локализовать их в среде возникновения. Администрирование очереди задач. Очередь задач требует от администратора постоянного наблюдения. В интерфейсе предусмотрена возможность пересмотра пара- метров задач в очереди и отмены их в случае возникно- вения ошибки. Просмотр состояния оборудования кластера. Обо- рудование нуждается в постоянном внимании со сторо- ны администратора. Своевременное информирование об авариях – одна из основных задач интерфейса. Средства мониторинга включают в себя просмотр состояния уз- лов, системы сохранения данных, температуры в кла- стерном зале и др. Управление ресурсами кластера. Основным ресур- сом кластера есть вычислительные узлы. Администратор имеет возможность динамически менять общее количе- ство узлов, доступных для назначения задачам. Преду- смотрены возможности отключения, включения, блоки- ровки назначения узлов на задачи, возможность блоки- ровки всей очереди задач. Также предусмотрена воз- можность приостановки всей очереди задач. Работа с базой учетных записей пользователей предполагает просмотр всей базы, изменение полей запи- сей, регистрацию и удаление пользователей. Запуск диагностических задач. Эти задачи представ- ляют собой особенный класс. Они позволяют определить характеристики системы, проверить надежность класте- ра в целом. Запуск таких задач может быть осуществлен как по расписанию, так и по требованию. Предусмотрен интеллектуальный анализ журнала диагностики с опреде- лением компонент с пониженными характеристиками. Просмотр системных журналов. Просмотр журна- лов компонент кластера позволяет выявить неизвестные проблемы, детектирование которых не предусмотрено в соответствующих разделах мониторинга. Предусмотре- на возможность фильтрации журналов по определенным ключевым словам, что упрощает анализ больших объе- мов текста. Веб-портал кластерных вычислений Графический интерфейс должен быть доступным с произвольной рабочей станции пользователя и админи- стратора. Поэтому он должен быть кроссплатформенным и не нуждаться в установлении дополнительного програм- много обеспечения. Именно поэтому за технологическую основу для реализации данного проекта избраны веб-сер- висы. Они предоставляют лучшую кроссплатформен- ность и их средств достаточно для выполнения заданно- го круга задач (рис. 1). Рис. 1. Графический интерфейс управления суперкомпьютером Структура интерфейса Интерфейс имеет модульное строение и состоит из двух слоев программного обеспечения: веб-части, ответ- ственной за диалог с пользователем, и промежуточного уровня взаимодействия с системным программным обес- печением суперкомпьютера (рис. 2.) Среди модулей можно выделить следующие: под- систему авторизации и работы с базой пользователей, модуль взаимодействия с менеджером ресурсов кла- стера и модули диагностики разных подсистем супер- компьютера. Модуль авторизации. Поддерживается авторизация системами PAM и LDAP. Осуществляется она непосред- 60 УСиМ, 2010, № 3 ственно, без промежуточного программного обеспече- ния. Работа с базой пользователей включает в себя опе- рации авторизации пользователя, добавление и удаление пользователей, редактирование их учетных записей. hydra register_user modify_user launch gettemp gethdfail sibfo squeue Рис. 2. Структура ПО интерфейса Для работы с LDAP в файле конфигурации hydra- adm.conf указывается адрес ldap-сервиса, суффикс базы, учетные данные администратора базы. Для работы с PAM используется модуль php-auth-pam, настраиваемый отдельно. Модули диагностики. Разработанные тесты анализи- руют основные параметры работы суперкомпьютера: со- стояние жестких дисков компонент, сетевых соединений, сети Infiniband, температуры узлов, данные сенсоров IPMI. Скрипты диагностики и мониторинга находятся на промежуточном уровне программного обеспечения. Они выполняются от имени суперпользователя на шлюзе кла- стера. Выполнение осуществляет системный планиров- щик cron в соответствии с расписанием, которое уста- навливается в соответствии с потребностями админи- страторов в предоставляемой информации. Выполнение административных операций. Часть административных операций выполнялась от имени су- перпользователя. Это: редактирование базы пользовате- лей, удаление произвольных задач из очереди менедже- ра ресурсов. Для выполнения таких задач в интерфейсе предусмотрена следующая структура. В суперкомпьютере создается служебный пользова- тель portaladmin, который через sudo может выполнять за- данные команды из /opt/hydra/lib от имени root. Таким образом, графический интерфейс инициирует выполне- ние операции от имени portaladmin, после чего происхо- дит переключение на суперпользователя и выполнение команды. Дистанцирование веб-сервера от суперкомпьютера. Высокопродуктивные файловые системы часто недоста- точно надежны. Аварии в файловых системах Lustre [6], NFS–RDMA [7] чаще всего являются причиной остано- вок в работе суперкомпьютеров, поскольку ведут к фа- тальным сбоям в работе компонент: серверов, узлов, в частности веб-сервера. Для решения проблемы надежности работы веб-сер- вера разработано специализированное клиент-серверное ПО, позволяющее скриптам веб-интерфейса иницииро- вать выполнение команд на шлюзе кластера от имени пользователей и администраторов, а также обменивать- ся данными. Клиентская часть hctl находится на веб-сервере. Сер- верная hydrad выполняется как системная служба на шлю- зе суперкомпьютера. Данное ПО работает в режимах:  выполнения команд пользователя и предоставления результата выполнения;  чтения данных с файла;  записи данных, полученных веб-сервером, в файл на файловой системе кластера (реверсный режим пере- дачи данных);  выполнения команд администратора от имени супер- пользователя, осуществляемое через служебного пользо- вателя portaladmin, который переключается на суперполь- зователя и выполняет команду из списка разрешенных. Таким образом, даже в случае значительной ава- рии, веб-сервер будет работать и пользователи смогут получить информацию о причине проблемы, сроки устра- нения и др. Запуск задач с помощью менеджера ресурсов кла- стера. Запуск задачи на выполнение осуществляется через соответствующую форму интерфейса (рис. 3). Рис. 3. Форма запуска задачи Пользователь задает параметры задачи и название фай- ла с программой, параметры командной строки, количе- ство процессоров, время выполнения, выбирает МРІ-сре- ду. При необходимости указывается компиляция про- граммы из исходных текстов. Тогда автоматически соз- дается сценарий компиляции программы из ее исходных текстов и запускается компиляция, а после ее успешного завершения выполняется программа. Структура запуска вычислительной задачи показана на рис. 4. Запуск выполняется через соответствующие модули графического интерфейса. Пользователь задает парамет- УСиМ, 2010, № 3 61 ры задачи на странице «Запуск задачи». Все данные пе- редаются модулю launch, который проводит запуск че- рез менеджер ресурсов кластера. Тип менеджера задает- ся в файле конфигурации интерфейса. Затем задача ста- новится в очередь и после предоставления ей ресурсов начинает выполнятся на вычислительных узлах. Интерактивное взаимодействие с пользователем Некоторые компоненты интерфейса отображают ин- формацию, которая часто изменяется. К таким принад- лежат модули ресурсов, очереди задач, просмотра файла вывода выполняемой задачи. Интерфейс осуществляет об- новление информации без необходимости перезагрузки страницы с помощью технологии AJAX [8]. Такой под- ход позволяет пользователям осуществлять интерактив- ную работу со своими вычислительными задачами на кластере, что существенно для многих исследований в области физики и химии с не полностью формализован- ными алгоритмами. Заключение. Описанная программная система обес- печивает веб-интерфейс управлением суперкомпьюте- ром для пользователей и администраторов. Система вне- дрена на суперкомпьютерах Института кибернетики НАН Украины. Описанная среда даст толчок к более широко- му использованию отечественных многопроцессорных вы- числительных систем, поскольку значительно упрощает их использование учеными и программистами.  Окончание статьи В.Ю. Мейтуса. Разработка методов создания онтологий, ко- торые можно было бы использовать для раз- ных предметных областей, и алгоритмов или схем преобразования для тех или других клас- сов задач, является темой для исследования, нуждающейся в определении круга проблем, которые позволили бы получить существенные результаты в этом направлении создания ИС. Заключение. Подводя итоги, отметим, что существуют все основания для создания ИС, адекватных поведению человека в большей сте- пени, чем ранее созданные системы. Предлага- емая программа исследований намечает основ- ные шаги и ставит основные вопросы на этом пути. Теперь главное заключается в том, чтобы объединить теоретические предпосылки и прак- тические результаты в едином продукте, кото- рый заслуженно получит название интеллекту- ального. 1. Уотермен Д. Руководство по экспертным систе- мам. – М.: Мир, 1989. – 388 с. 2. Мейтус В.Ю. К проблеме интеллектуализации ком- пьютерных систем // Математические машины и системы. – 2008. – № 2. – С. 24–37. 3. Глибовець М.М., Олецький О.В. Штучний інтелект. – К.: КМ Академія, 2002. – 366 с. 4. Карнап Р. Значение и необходимость. – М.: Мир, 1959. – 302 с. 5. Андон Ф.И., Яшунин А.Э., Резниченко В.А. Логиче- ские модели интеллектуальных информационных систем. – К.: Наук. думка, 1999. – 396 с. 6. Голдблатт Р. Топосы. Категорный анализ логики. – М.: Мир, 1983. – 488 с. Поступила 20.11.2009 Тел. для справок: (044) 526-1319 (Киев) E-mail: vmeitus@gmail.com © В.Ю. Мейтус, 2010  Web-form progname cmdline ncpus timelim mpi hctl launch task_parms SLURM module launch PBC module SLURM sbatch qsub Torque / Sun Grid Engine Queue node 01 process 01 process 02 process 03 process 04 node 02 process 05 process 06 process 07 process 08 node 03 process 09 process 10 process 11 process 12 node 04 process 13 process 14 process 15 process 16 Рис. 4. Структура запуска задачи << /ASCII85EncodePages false /AllowTransparency false /AutoPositionEPSFiles true /AutoRotatePages /None /Binding /Left /CalGrayProfile (Dot Gain 20%) /CalRGBProfile (sRGB IEC61966-2.1) /CalCMYKProfile (U.S. Web Coated \050SWOP\051 v2) /sRGBProfile (sRGB IEC61966-2.1) /CannotEmbedFontPolicy /Error /CompatibilityLevel 1.4 /CompressObjects /Tags /CompressPages true /ConvertImagesToIndexed true /PassThroughJPEGImages true /CreateJobTicket false /DefaultRenderingIntent /Default /DetectBlends true /DetectCurves 0.0000 /ColorConversionStrategy /CMYK /DoThumbnails false /EmbedAllFonts true /EmbedOpenType false /ParseICCProfilesInComments true /EmbedJobOptions true /DSCReportingLevel 0 /EmitDSCWarnings false /EndPage -1 /ImageMemory 1048576 /LockDistillerParams false /MaxSubsetPct 100 /Optimize true /OPM 1 /ParseDSCComments true /ParseDSCCommentsForDocInfo true /PreserveCopyPage true /PreserveDICMYKValues true /PreserveEPSInfo true /PreserveFlatness true /PreserveHalftoneInfo false /PreserveOPIComments true /PreserveOverprintSettings true /StartPage 1 /SubsetFonts true /TransferFunctionInfo /Apply /UCRandBGInfo /Preserve /UsePrologue false /ColorSettingsFile () /AlwaysEmbed [ true ] /NeverEmbed [ true ] /AntiAliasColorImages false /CropColorImages true /ColorImageMinResolution 300 /ColorImageMinResolutionPolicy /OK /DownsampleColorImages true /ColorImageDownsampleType /Bicubic /ColorImageResolution 300 /ColorImageDepth -1 /ColorImageMinDownsampleDepth 1 /ColorImageDownsampleThreshold 1.50000 /EncodeColorImages true /ColorImageFilter /DCTEncode /AutoFilterColorImages true /ColorImageAutoFilterStrategy /JPEG /ColorACSImageDict << /QFactor 0.15 /HSamples [1 1 1 1] /VSamples [1 1 1 1] >> /ColorImageDict << /QFactor 0.15 /HSamples [1 1 1 1] /VSamples [1 1 1 1] >> /JPEG2000ColorACSImageDict << /TileWidth 256 /TileHeight 256 /Quality 30 >> /JPEG2000ColorImageDict << /TileWidth 256 /TileHeight 256 /Quality 30 >> /AntiAliasGrayImages false /CropGrayImages true /GrayImageMinResolution 300 /GrayImageMinResolutionPolicy /OK /DownsampleGrayImages true /GrayImageDownsampleType /Bicubic /GrayImageResolution 300 /GrayImageDepth -1 /GrayImageMinDownsampleDepth 2 /GrayImageDownsampleThreshold 1.50000 /EncodeGrayImages true /GrayImageFilter /DCTEncode /AutoFilterGrayImages true /GrayImageAutoFilterStrategy /JPEG /GrayACSImageDict << /QFactor 0.15 /HSamples [1 1 1 1] /VSamples [1 1 1 1] >> /GrayImageDict << /QFactor 0.15 /HSamples [1 1 1 1] /VSamples [1 1 1 1] >> /JPEG2000GrayACSImageDict << /TileWidth 256 /TileHeight 256 /Quality 30 >> /JPEG2000GrayImageDict << /TileWidth 256 /TileHeight 256 /Quality 30 >> /AntiAliasMonoImages false /CropMonoImages true /MonoImageMinResolution 1200 /MonoImageMinResolutionPolicy /OK /DownsampleMonoImages true /MonoImageDownsampleType /Bicubic /MonoImageResolution 1200 /MonoImageDepth -1 /MonoImageDownsampleThreshold 1.50000 /EncodeMonoImages true /MonoImageFilter /CCITTFaxEncode /MonoImageDict << /K -1 >> /AllowPSXObjects false /CheckCompliance [ /None ] /PDFX1aCheck false /PDFX3Check false /PDFXCompliantPDFOnly false /PDFXNoTrimBoxError true /PDFXTrimBoxToMediaBoxOffset [ 0.00000 0.00000 0.00000 0.00000 ] /PDFXSetBleedBoxToMediaBox true /PDFXBleedBoxToTrimBoxOffset [ 0.00000 0.00000 0.00000 0.00000 ] /PDFXOutputIntentProfile () /PDFXOutputConditionIdentifier () /PDFXOutputCondition () /PDFXRegistryName () /PDFXTrapped /False /CreateJDFFile false /Description << /ARA <FEFF06270633062A062E062F0645002006470630064700200627064406250639062F0627062F0627062A002006440625064606340627062100200648062B062706260642002000410064006F00620065002000500044004600200645062A064806270641064206290020064406440637062806270639062900200641064A00200627064406450637062706280639002006300627062A0020062F0631062C0627062A002006270644062C0648062F0629002006270644063906270644064A0629061B0020064A06450643064600200641062A062D00200648062B0627062606420020005000440046002006270644064506460634062306290020062806270633062A062E062F062706450020004100630072006F0062006100740020064800410064006F006200650020005200650061006400650072002006250635062F0627063100200035002E0030002006480627064406250635062F062706310627062A0020062706440623062D062F062B002E0635062F0627063100200035002E0030002006480627064406250635062F062706310627062A0020062706440623062D062F062B002E> /BGR <FEFF04180437043f043e043b043704320430043904420435002004420435043704380020043d0430044104420440043e0439043a0438002c00200437043000200434043000200441044a0437043404300432043004420435002000410064006f00620065002000500044004600200434043e043a0443043c0435043d04420438002c0020043c0430043a04410438043c0430043b043d043e0020043f044004380433043e04340435043d04380020043704300020043204380441043e043a043e043a0430044704350441044204320435043d0020043f04350447043004420020043704300020043f044004350434043f0435044704300442043d04300020043f043e04340433043e0442043e0432043a0430002e002000200421044a04370434043004340435043d043804420435002000500044004600200434043e043a0443043c0435043d044204380020043c043e0433043004420020043404300020044104350020043e0442043204300440044f0442002004410020004100630072006f00620061007400200438002000410064006f00620065002000520065006100640065007200200035002e00300020043800200441043b0435043404320430044904380020043204350440044104380438002e> /CHS <FEFF4f7f75288fd94e9b8bbe5b9a521b5efa7684002000410064006f006200650020005000440046002065876863900275284e8e9ad88d2891cf76845370524d53705237300260a853ef4ee54f7f75280020004100630072006f0062006100740020548c002000410064006f00620065002000520065006100640065007200200035002e003000204ee553ca66f49ad87248672c676562535f00521b5efa768400200050004400460020658768633002> /CHT <FEFF4f7f752890194e9b8a2d7f6e5efa7acb7684002000410064006f006200650020005000440046002065874ef69069752865bc9ad854c18cea76845370524d5370523786557406300260a853ef4ee54f7f75280020004100630072006f0062006100740020548c002000410064006f00620065002000520065006100640065007200200035002e003000204ee553ca66f49ad87248672c4f86958b555f5df25efa7acb76840020005000440046002065874ef63002> /CZE <FEFF005400610074006f0020006e006100730074006100760065006e00ed00200070006f0075017e0069006a007400650020006b0020007600790074007600e101590065006e00ed00200064006f006b0075006d0065006e0074016f002000410064006f006200650020005000440046002c0020006b00740065007200e90020007300650020006e0065006a006c00e90070006500200068006f006400ed002000700072006f0020006b00760061006c00690074006e00ed0020007400690073006b00200061002000700072006500700072006500730073002e002000200056007900740076006f01590065006e00e900200064006f006b0075006d0065006e007400790020005000440046002000620075006400650020006d006f017e006e00e90020006f007400650076015900ed007400200076002000700072006f006700720061006d0065006300680020004100630072006f00620061007400200061002000410064006f00620065002000520065006100640065007200200035002e0030002000610020006e006f0076011b006a016100ed00630068002e> /DAN <FEFF004200720075006700200069006e0064007300740069006c006c0069006e006700650072006e0065002000740069006c0020006100740020006f007000720065007400740065002000410064006f006200650020005000440046002d0064006f006b0075006d0065006e007400650072002c0020006400650072002000620065006400730074002000650067006e006500720020007300690067002000740069006c002000700072006500700072006500730073002d007500640073006b007200690076006e0069006e00670020006100660020006800f8006a0020006b00760061006c0069007400650074002e0020004400650020006f007000720065007400740065006400650020005000440046002d0064006f006b0075006d0065006e0074006500720020006b0061006e002000e50062006e00650073002000690020004100630072006f00620061007400200065006c006c006500720020004100630072006f006200610074002000520065006100640065007200200035002e00300020006f00670020006e0079006500720065002e> /DEU <FEFF00560065007200770065006e00640065006e0020005300690065002000640069006500730065002000450069006e007300740065006c006c0075006e00670065006e0020007a0075006d002000450072007300740065006c006c0065006e00200076006f006e002000410064006f006200650020005000440046002d0044006f006b0075006d0065006e00740065006e002c00200076006f006e002000640065006e0065006e002000530069006500200068006f006300680077006500720074006900670065002000500072006500700072006500730073002d0044007200750063006b0065002000650072007a0065007500670065006e0020006d00f60063006800740065006e002e002000450072007300740065006c006c007400650020005000440046002d0044006f006b0075006d0065006e007400650020006b00f6006e006e0065006e0020006d006900740020004100630072006f00620061007400200075006e0064002000410064006f00620065002000520065006100640065007200200035002e00300020006f0064006500720020006800f600680065007200200067006500f600660066006e00650074002000770065007200640065006e002e> /ESP <FEFF005500740069006c0069006300650020006500730074006100200063006f006e0066006900670075007200610063006900f3006e0020007000610072006100200063007200650061007200200064006f00630075006d0065006e0074006f00730020005000440046002000640065002000410064006f0062006500200061006400650063007500610064006f00730020007000610072006100200069006d0070007200650073006900f3006e0020007000720065002d0065006400690074006f007200690061006c00200064006500200061006c00740061002000630061006c0069006400610064002e002000530065002000700075006500640065006e00200061006200720069007200200064006f00630075006d0065006e0074006f00730020005000440046002000630072006500610064006f007300200063006f006e0020004100630072006f006200610074002c002000410064006f00620065002000520065006100640065007200200035002e003000200079002000760065007200730069006f006e0065007300200070006f00730074006500720069006f007200650073002e> /ETI <FEFF004b00610073007500740061006700650020006e0065006900640020007300e4007400740065006900640020006b00760061006c006900740065006500740073006500200074007200fc006b006900650065006c007300650020007000720069006e00740069006d0069007300650020006a0061006f006b007300200073006f00620069006c0069006b0065002000410064006f006200650020005000440046002d0064006f006b0075006d0065006e00740069006400650020006c006f006f006d006900730065006b0073002e00200020004c006f006f0064007500640020005000440046002d0064006f006b0075006d0065006e00740065002000730061006100740065002000610076006100640061002000700072006f006700720061006d006d006900640065006700610020004100630072006f0062006100740020006e0069006e0067002000410064006f00620065002000520065006100640065007200200035002e00300020006a00610020007500750065006d006100740065002000760065007200730069006f006f006e00690064006500670061002e000d000a> /FRA <FEFF005500740069006c006900730065007a00200063006500730020006f007000740069006f006e00730020006100660069006e00200064006500200063007200e900650072002000640065007300200064006f00630075006d0065006e00740073002000410064006f00620065002000500044004600200070006f0075007200200075006e00650020007100750061006c0069007400e90020006400270069006d007000720065007300730069006f006e00200070007200e9007000720065007300730065002e0020004c0065007300200064006f00630075006d0065006e00740073002000500044004600200063007200e900e90073002000700065007500760065006e0074002000ea0074007200650020006f007500760065007200740073002000640061006e00730020004100630072006f006200610074002c002000610069006e00730069002000710075002700410064006f00620065002000520065006100640065007200200035002e0030002000650074002000760065007200730069006f006e007300200075006c007400e90072006900650075007200650073002e> /GRE <FEFF03a703c103b703c303b903bc03bf03c003bf03b903ae03c303c403b5002003b103c503c403ad03c2002003c403b903c2002003c103c503b803bc03af03c303b503b903c2002003b303b903b1002003bd03b1002003b403b703bc03b903bf03c503c103b303ae03c303b503c403b5002003ad03b303b303c103b103c603b1002000410064006f006200650020005000440046002003c003bf03c5002003b503af03bd03b103b9002003ba03b103c42019002003b503be03bf03c703ae03bd002003ba03b103c403ac03bb03bb03b703bb03b1002003b303b903b1002003c003c103bf002d03b503ba03c403c503c003c903c403b903ba03ad03c2002003b503c103b303b103c303af03b503c2002003c503c803b703bb03ae03c2002003c003bf03b903cc03c403b703c403b103c2002e0020002003a403b10020005000440046002003ad03b303b303c103b103c603b1002003c003bf03c5002003ad03c703b503c403b5002003b403b703bc03b903bf03c503c103b303ae03c303b503b9002003bc03c003bf03c103bf03cd03bd002003bd03b1002003b103bd03bf03b903c703c403bf03cd03bd002003bc03b5002003c403bf0020004100630072006f006200610074002c002003c403bf002000410064006f00620065002000520065006100640065007200200035002e0030002003ba03b103b9002003bc03b503c403b103b303b503bd03ad03c303c403b503c103b503c2002003b503ba03b403cc03c303b503b903c2002e> /HEB <FEFF05D405E905EA05DE05E905D5002005D105D405D205D305E805D505EA002005D005DC05D4002005DB05D305D9002005DC05D905E605D505E8002005DE05E105DE05DB05D9002000410064006F006200650020005000440046002005D405DE05D505EA05D005DE05D905DD002005DC05D405D305E405E105EA002005E705D305DD002D05D305E405D505E1002005D005D905DB05D505EA05D905EA002E002005DE05E105DE05DB05D90020005000440046002005E905E005D505E605E805D5002005E005D905EA05E005D905DD002005DC05E405EA05D905D705D4002005D105D005DE05E605E205D505EA0020004100630072006F006200610074002005D5002D00410064006F00620065002000520065006100640065007200200035002E0030002005D505D205E805E105D005D505EA002005DE05EA05E705D305DE05D505EA002005D905D505EA05E8002E05D005DE05D905DD002005DC002D005000440046002F0058002D0033002C002005E205D905D905E005D5002005D105DE05D305E805D905DA002005DC05DE05E905EA05DE05E9002005E905DC0020004100630072006F006200610074002E002005DE05E105DE05DB05D90020005000440046002005E905E005D505E605E805D5002005E005D905EA05E005D905DD002005DC05E405EA05D905D705D4002005D105D005DE05E605E205D505EA0020004100630072006F006200610074002005D5002D00410064006F00620065002000520065006100640065007200200035002E0030002005D505D205E805E105D005D505EA002005DE05EA05E705D305DE05D505EA002005D905D505EA05E8002E> /HRV (Za stvaranje Adobe PDF dokumenata najpogodnijih za visokokvalitetni ispis prije tiskanja koristite ove postavke. Stvoreni PDF dokumenti mogu se otvoriti Acrobat i Adobe Reader 5.0 i kasnijim verzijama.) /HUN <FEFF004b0069007600e1006c00f30020006d0069006e0151007300e9006701710020006e0079006f006d00640061006900200065006c0151006b00e90073007a00ed007401510020006e0079006f006d00740061007400e100730068006f007a0020006c006500670069006e006b00e1006200620020006d0065006700660065006c0065006c0151002000410064006f00620065002000500044004600200064006f006b0075006d0065006e00740075006d006f006b0061007400200065007a0065006b006b0065006c0020006100200062006500e1006c006c00ed007400e10073006f006b006b0061006c0020006b00e90073007a00ed0074006800650074002e0020002000410020006c00e90074007200650068006f007a006f00740074002000500044004600200064006f006b0075006d0065006e00740075006d006f006b00200061007a0020004100630072006f006200610074002000e9007300200061007a002000410064006f00620065002000520065006100640065007200200035002e0030002c0020007600610067007900200061007a002000610074007400f3006c0020006b00e9007301510062006200690020007600650072007a006900f3006b006b0061006c0020006e00790069007400680061007400f3006b0020006d00650067002e> /ITA <FEFF005500740069006c0069007a007a006100720065002000710075006500730074006500200069006d0070006f007300740061007a0069006f006e00690020007000650072002000630072006500610072006500200064006f00630075006d0065006e00740069002000410064006f00620065002000500044004600200070006900f900200061006400610074007400690020006100200075006e00610020007000720065007300740061006d0070006100200064006900200061006c007400610020007100750061006c0069007400e0002e0020004900200064006f00630075006d0065006e007400690020005000440046002000630072006500610074006900200070006f00730073006f006e006f0020006500730073006500720065002000610070006500720074006900200063006f006e0020004100630072006f00620061007400200065002000410064006f00620065002000520065006100640065007200200035002e003000200065002000760065007200730069006f006e006900200073007500630063006500730073006900760065002e> /JPN <FEFF9ad854c18cea306a30d730ea30d730ec30b951fa529b7528002000410064006f0062006500200050004400460020658766f8306e4f5c6210306b4f7f75283057307e305930023053306e8a2d5b9a30674f5c62103055308c305f0020005000440046002030d530a130a430eb306f3001004100630072006f0062006100740020304a30883073002000410064006f00620065002000520065006100640065007200200035002e003000204ee5964d3067958b304f30533068304c3067304d307e305930023053306e8a2d5b9a306b306f30d530a930f330c8306e57cb30818fbc307f304c5fc59808306730593002> /KOR <FEFFc7740020c124c815c7440020c0acc6a9d558c5ec0020ace0d488c9c80020c2dcd5d80020c778c1c4c5d00020ac00c7a50020c801d569d55c002000410064006f0062006500200050004400460020bb38c11cb97c0020c791c131d569b2c8b2e4002e0020c774b807ac8c0020c791c131b41c00200050004400460020bb38c11cb2940020004100630072006f0062006100740020bc0f002000410064006f00620065002000520065006100640065007200200035002e00300020c774c0c1c5d0c11c0020c5f40020c2180020c788c2b5b2c8b2e4002e> /LTH <FEFF004e006100750064006f006b0069007400650020016100690075006f007300200070006100720061006d006500740072007500730020006e006f0072011700640061006d00690020006b0075007200740069002000410064006f00620065002000500044004600200064006f006b0075006d0065006e007400750073002c0020006b00750072006900650020006c0061006200690061007500730069006100690020007000720069007400610069006b007900740069002000610075006b01610074006f00730020006b006f006b007900620117007300200070006100720065006e006700740069006e00690061006d00200073007000610075007300640069006e0069006d00750069002e0020002000530075006b0075007200740069002000500044004600200064006f006b0075006d0065006e007400610069002000670061006c006900200062016b007400690020006100740069006400610072006f006d00690020004100630072006f006200610074002000690072002000410064006f00620065002000520065006100640065007200200035002e0030002000610072002000760117006c00650073006e0117006d00690073002000760065007200730069006a006f006d00690073002e> /LVI <FEFF0049007a006d0061006e0074006f006a00690065007400200161006f00730020006900650073007400610074012b006a0075006d00750073002c0020006c0061006900200076006500690064006f00740075002000410064006f00620065002000500044004600200064006f006b0075006d0065006e007400750073002c0020006b006100730020006900720020012b00700061016100690020007000690065006d01130072006f00740069002000610075006700730074006100730020006b00760061006c0069007401010074006500730020007000690072006d007300690065007300700069006501610061006e006100730020006400720075006b00610069002e00200049007a0076006500690064006f006a006900650074002000500044004600200064006f006b0075006d0065006e007400750073002c0020006b006f002000760061007200200061007400760113007200740020006100720020004100630072006f00620061007400200075006e002000410064006f00620065002000520065006100640065007200200035002e0030002c0020006b0101002000610072012b00200074006f0020006a00610075006e0101006b0101006d002000760065007200730069006a0101006d002e> /NLD (Gebruik deze instellingen om Adobe PDF-documenten te maken die zijn geoptimaliseerd voor prepress-afdrukken van hoge kwaliteit. De gemaakte PDF-documenten kunnen worden geopend met Acrobat en Adobe Reader 5.0 en hoger.) /NOR <FEFF004200720075006b00200064006900730073006500200069006e006e007300740069006c006c0069006e00670065006e0065002000740069006c002000e50020006f0070007000720065007400740065002000410064006f006200650020005000440046002d0064006f006b0075006d0065006e00740065007200200073006f006d00200065007200200062006500730074002000650067006e0065007400200066006f00720020006600f80072007400720079006b006b0073007500740073006b00720069006600740020006100760020006800f800790020006b00760061006c0069007400650074002e0020005000440046002d0064006f006b0075006d0065006e00740065006e00650020006b0061006e002000e50070006e00650073002000690020004100630072006f00620061007400200065006c006c00650072002000410064006f00620065002000520065006100640065007200200035002e003000200065006c006c00650072002000730065006e006500720065002e> /POL <FEFF0055007300740061007700690065006e0069006100200064006f002000740077006f0072007a0065006e0069006100200064006f006b0075006d0065006e007400f300770020005000440046002000700072007a0065007a006e00610063007a006f006e00790063006800200064006f002000770079006400720075006b00f30077002000770020007700790073006f006b00690065006a0020006a0061006b006f015b00630069002e002000200044006f006b0075006d0065006e0074007900200050004400460020006d006f017c006e00610020006f007400770069006500720061010700200077002000700072006f006700720061006d006900650020004100630072006f00620061007400200069002000410064006f00620065002000520065006100640065007200200035002e0030002000690020006e006f00770073007a0079006d002e> /PTB <FEFF005500740069006c0069007a006500200065007300730061007300200063006f006e00660069006700750072006100e700f50065007300200064006500200066006f0072006d00610020006100200063007200690061007200200064006f00630075006d0065006e0074006f0073002000410064006f0062006500200050004400460020006d00610069007300200061006400650071007500610064006f00730020007000610072006100200070007200e9002d0069006d0070007200650073007300f50065007300200064006500200061006c007400610020007100750061006c00690064006100640065002e0020004f007300200064006f00630075006d0065006e0074006f00730020005000440046002000630072006900610064006f007300200070006f00640065006d0020007300650072002000610062006500720074006f007300200063006f006d0020006f0020004100630072006f006200610074002000650020006f002000410064006f00620065002000520065006100640065007200200035002e0030002000650020007600650072007300f50065007300200070006f00730074006500720069006f007200650073002e> /RUM <FEFF005500740069006c0069007a00610163006900200061006300650073007400650020007300650074010300720069002000700065006e007400720075002000610020006300720065006100200064006f00630075006d0065006e00740065002000410064006f006200650020005000440046002000610064006500630076006100740065002000700065006e0074007200750020007400690070010300720069007200650061002000700072006500700072006500730073002000640065002000630061006c006900740061007400650020007300750070006500720069006f006100720103002e002000200044006f00630075006d0065006e00740065006c00650020005000440046002000630072006500610074006500200070006f00740020006600690020006400650073006300680069007300650020006300750020004100630072006f006200610074002c002000410064006f00620065002000520065006100640065007200200035002e00300020015f00690020007600650072007300690075006e0069006c006500200075006c0074006500720069006f006100720065002e> /RUS <FEFF04180441043f043e043b044c04370443043904420435002004340430043d043d044b04350020043d0430044104420440043e0439043a043800200434043b044f00200441043e043704340430043d0438044f00200434043e043a0443043c0435043d0442043e0432002000410064006f006200650020005000440046002c0020043c0430043a04410438043c0430043b044c043d043e0020043f043e04340445043e0434044f04490438044500200434043b044f00200432044b0441043e043a043e043a0430044704350441044204320435043d043d043e0433043e00200434043e043f0435044704300442043d043e0433043e00200432044b0432043e04340430002e002000200421043e043704340430043d043d044b04350020005000440046002d0434043e043a0443043c0435043d0442044b0020043c043e0436043d043e0020043e0442043a0440044b043204300442044c002004410020043f043e043c043e0449044c044e0020004100630072006f00620061007400200438002000410064006f00620065002000520065006100640065007200200035002e00300020043800200431043e043b043504350020043f043e04370434043d043804450020043204350440044104380439002e> /SKY <FEFF0054006900650074006f0020006e006100730074006100760065006e0069006100200070006f0075017e0069007400650020006e00610020007600790074007600e100720061006e0069006500200064006f006b0075006d0065006e0074006f0076002000410064006f006200650020005000440046002c0020006b0074006f007200e90020007300610020006e0061006a006c0065007001610069006500200068006f0064006900610020006e00610020006b00760061006c00690074006e00fa00200074006c0061010d00200061002000700072006500700072006500730073002e00200056007900740076006f00720065006e00e900200064006f006b0075006d0065006e007400790020005000440046002000620075006400650020006d006f017e006e00e90020006f00740076006f00720069016500200076002000700072006f006700720061006d006f006300680020004100630072006f00620061007400200061002000410064006f00620065002000520065006100640065007200200035002e0030002000610020006e006f0076016100ed00630068002e> /SLV <FEFF005400650020006e006100730074006100760069007400760065002000750070006f0072006100620069007400650020007a00610020007500730074007600610072006a0061006e006a006500200064006f006b0075006d0065006e0074006f0076002000410064006f006200650020005000440046002c0020006b006900200073006f0020006e0061006a007000720069006d00650072006e0065006a016100690020007a00610020006b0061006b006f0076006f00730074006e006f0020007400690073006b0061006e006a00650020007300200070007200690070007200610076006f0020006e00610020007400690073006b002e00200020005500730074007600610072006a0065006e006500200064006f006b0075006d0065006e0074006500200050004400460020006a00650020006d006f0067006f010d00650020006f0064007000720065007400690020007a0020004100630072006f00620061007400200069006e002000410064006f00620065002000520065006100640065007200200035002e003000200069006e0020006e006f00760065006a01610069006d002e> /SUO <FEFF004b00e40079007400e40020006e00e40069007400e4002000610073006500740075006b007300690061002c0020006b0075006e0020006c0075006f00740020006c00e400680069006e006e00e4002000760061006100740069007600610061006e0020007000610069006e006100740075006b00730065006e002000760061006c006d0069007300740065006c00750074007900f6006800f6006e00200073006f00700069007600690061002000410064006f0062006500200050004400460020002d0064006f006b0075006d0065006e007400740065006a0061002e0020004c0075006f0064007500740020005000440046002d0064006f006b0075006d0065006e00740069007400200076006f0069006400610061006e0020006100760061007400610020004100630072006f0062006100740069006c006c00610020006a0061002000410064006f00620065002000520065006100640065007200200035002e0030003a006c006c00610020006a006100200075007500640065006d006d0069006c006c0061002e> /SVE <FEFF0041006e007600e4006e00640020006400650020006800e4007200200069006e0073007400e4006c006c006e0069006e006700610072006e00610020006f006d002000640075002000760069006c006c00200073006b006100700061002000410064006f006200650020005000440046002d0064006f006b0075006d0065006e007400200073006f006d002000e400720020006c00e4006d0070006c0069006700610020006600f60072002000700072006500700072006500730073002d007500740073006b00720069006600740020006d006500640020006800f600670020006b00760061006c0069007400650074002e002000200053006b006100700061006400650020005000440046002d0064006f006b0075006d0065006e00740020006b0061006e002000f600700070006e00610073002000690020004100630072006f0062006100740020006f00630068002000410064006f00620065002000520065006100640065007200200035002e00300020006f00630068002000730065006e006100720065002e> /TUR <FEFF005900fc006b00730065006b0020006b0061006c006900740065006c0069002000f6006e002000790061007a006401310072006d00610020006200610073006b013100730131006e006100200065006e0020006900790069002000750079006100620069006c006500630065006b002000410064006f006200650020005000440046002000620065006c00670065006c0065007200690020006f006c0075015f007400750072006d0061006b0020006900e70069006e00200062007500200061007900610072006c0061007201310020006b0075006c006c0061006e0131006e002e00200020004f006c0075015f0074007500720075006c0061006e0020005000440046002000620065006c00670065006c0065007200690020004100630072006f006200610074002000760065002000410064006f00620065002000520065006100640065007200200035002e003000200076006500200073006f006e0072006100730131006e00640061006b00690020007300fc007200fc006d006c00650072006c00650020006100e70131006c006100620069006c00690072002e> /UKR <FEFF04120438043a043e0440043804410442043e043204430439044204350020044604560020043f043004400430043c043504420440043800200434043b044f0020044104420432043e04400435043d043d044f00200434043e043a0443043c0435043d044204560432002000410064006f006200650020005000440046002c0020044f043a04560020043d04300439043a04400430044904350020043f045604340445043e0434044f0442044c00200434043b044f0020043204380441043e043a043e044f043a04560441043d043e0433043e0020043f0435044004350434043404400443043a043e0432043e0433043e0020043404400443043a0443002e00200020042104420432043e04400435043d045600200434043e043a0443043c0435043d0442043800200050004400460020043c043e0436043d04300020043204560434043a0440043804420438002004430020004100630072006f006200610074002004420430002000410064006f00620065002000520065006100640065007200200035002e0030002004300431043e0020043f04560437043d04560448043e04570020043204350440044104560457002e> /ENU (Use these settings to create Adobe PDF documents best suited for high-quality prepress printing. Created PDF documents can be opened with Acrobat and Adobe Reader 5.0 and later.) >> /Namespace [ (Adobe) (Common) (1.0) ] /OtherNamespaces [ << /AsReaderSpreads false /CropImagesToFrames true /ErrorControl /WarnAndContinue /FlattenerIgnoreSpreadOverrides false /IncludeGuidesGrids false /IncludeNonPrinting false /IncludeSlug false /Namespace [ (Adobe) (InDesign) (4.0) ] /OmitPlacedBitmaps false /OmitPlacedEPS false /OmitPlacedPDF false /SimulateOverprint /Legacy >> << /AddBleedMarks false /AddColorBars false /AddCropMarks false /AddPageInfo false /AddRegMarks false /ConvertColors /ConvertToCMYK /DestinationProfileName () /DestinationProfileSelector /DocumentCMYK /Downsample16BitImages true /FlattenerPreset << /PresetSelector /MediumResolution >> /FormElements false /GenerateStructure false /IncludeBookmarks false /IncludeHyperlinks false /IncludeInteractive false /IncludeLayers false /IncludeProfiles false /MultimediaHandling /UseObjectSettings /Namespace [ (Adobe) (CreativeSuite) (2.0) ] /PDFXOutputIntentProfileSelector /DocumentCMYK /PreserveEditing true /UntaggedCMYKHandling /LeaveUntagged /UntaggedRGBHandling /UseDocumentProfile /UseDocumentBleed false >> ] >> setdistillerparams << /HWResolution [2400 2400] /PageSize [612.000 792.000] >> setpagedevice