Двовимірна модель навчання у спайкових нейронних мережах з гомеостазом та навчанням з підкріпленням
The huge complexity of molecular mechanisms that support memory formation makes it difficult to build simple, but precise and sufficient models for an efficient simulation of large neural networks. In this paper, we propose the phenomenological model of a learning rule that describes the synaptic st...
Збережено в:
| Дата: | 2017 |
|---|---|
| Автор: | |
| Формат: | Стаття |
| Мова: | Ukrainian |
| Опубліковано: |
The National Technical University of Ukraine "Igor Sikorsky Kyiv Polytechnic Institute"
2017
|
| Теми: | |
| Онлайн доступ: | http://journal.iasa.kpi.ua/article/view/86521 |
| Теги: |
Додати тег
Немає тегів, Будьте першим, хто поставить тег для цього запису!
|
| Назва журналу: | System research and information technologies |
Репозитарії
System research and information technologies| id |
journaliasakpiua-article-86521 |
|---|---|
| record_format |
ojs |
| spelling |
journaliasakpiua-article-865212018-03-30T15:35:30Z Two dimensional model of learning in spiking neural networks with homeostasis and reward Двумерная модель обучения в спайковых нейронных сетях с гомеостазом и обучением с подкреплением Двовимірна модель навчання у спайкових нейронних мережах з гомеостазом та навчанням з підкріпленням Osaulenko, Viacheslav M. learning rules spiking neural networks reward learning правила обучения спайковые нейронные сети обучение с подкреплением правила навчання спайкові нейронні мережі навчання з підкріпленням The huge complexity of molecular mechanisms that support memory formation makes it difficult to build simple, but precise and sufficient models for an efficient simulation of large neural networks. In this paper, we propose the phenomenological model of a learning rule that describes the synaptic strength via slow and fast variables. Two variables interact with each other in a bidirectional manner that allows to combine the reward and unsupervised learning. Results show the stability of synaptic strength due to coupling of two variables and fast homeostatic plasticity. The multiplicative approach of synaptic scaling preserves memory patterns of statistically more frequent input signals. Similar to the eligibility traces approach, the model tracks recent synaptic changes and allows to reinforce these changes. Also, we speculate on a possible biophysical interpretation of such a model that includes the fast movement of receptors to the membrane and their stabilization into clusters. Сложность молекулярных механизмов, которые поддерживают формирование памяти, затрудняет построение простых, но точных и исчерпывающих моделей для эффективного моделирования больших нейронных сетей. Предложена феноменологическая модель правила обучения, описывающая силу связи нейронов посредством медленной и быстрой переменных. Их взаимодействие позволяет сочетать обучение с подкреплением и обучение без учителя. Результаты показывают стабильность силы связи за счет сочетания двух переменных и быстрой гомеостатической пластичности. Мультипликативный способ масштабирования весов сохраняет паттерны памяти статистически более частых входных сигналов. Схожим образом к подходу дополнительных следов модель отслеживает последние изменения весов и позволяет их усилить. Приведены соображения о возможной биофизической интерпретации модели, которая включает в себя быстрое перемещение рецепторов к мембране и стабилизации их в кластеры. Cкладність молекулярних механізмів, що підтримують формування пам’яті, заважає побудові простих, але вичерпних моделей для ефективної симуляції великих нейронних мереж. Запропоновано феноменологічну модель правила навчання, що описує силу зв’язку через повільну і швидку змінні. Їх взаємодія дозволяє об’єднати навчання без учителя та навчання з підкріпленням. Результати симуляції свідчать про стабільність сили зв’язку завдяки взаємодії двох змінних та швидкій формі гомеостатичної пластичності. Мультиплікативна форма масштабування ваг зберігає патерни пам’яті статистично більш частих стимулів. Подібним чином до підходу допоміжних слідів модель відслідковує нещодавні зміни сили зв’язку між нейронами і дозволяє їх підсилити. Наведено міркування про можливу біологічну інтерпретацію запропонованої моделі, що включає швидке переміщення рецепторів до мембрани і стабілізацію їх у кластери. The National Technical University of Ukraine "Igor Sikorsky Kyiv Polytechnic Institute" 2017-06-26 Article Article application/pdf http://journal.iasa.kpi.ua/article/view/86521 10.20535/SRIT.2308-8893.2017.1.12 System research and information technologies; No. 2 (2017); 130-140 Системные исследования и информационные технологии; № 2 (2017); 130-140 Системні дослідження та інформаційні технології; № 2 (2017); 130-140 2308-8893 1681-6048 uk http://journal.iasa.kpi.ua/article/view/86521/103785 Copyright (c) 2021 System research and information technologies |
| institution |
System research and information technologies |
| baseUrl_str |
|
| datestamp_date |
2018-03-30T15:35:30Z |
| collection |
OJS |
| language |
Ukrainian |
| topic |
правила навчання спайкові нейронні мережі навчання з підкріпленням |
| spellingShingle |
правила навчання спайкові нейронні мережі навчання з підкріпленням Osaulenko, Viacheslav M. Двовимірна модель навчання у спайкових нейронних мережах з гомеостазом та навчанням з підкріпленням |
| topic_facet |
learning rules spiking neural networks reward learning правила обучения спайковые нейронные сети обучение с подкреплением правила навчання спайкові нейронні мережі навчання з підкріпленням |
| format |
Article |
| author |
Osaulenko, Viacheslav M. |
| author_facet |
Osaulenko, Viacheslav M. |
| author_sort |
Osaulenko, Viacheslav M. |
| title |
Двовимірна модель навчання у спайкових нейронних мережах з гомеостазом та навчанням з підкріпленням |
| title_short |
Двовимірна модель навчання у спайкових нейронних мережах з гомеостазом та навчанням з підкріпленням |
| title_full |
Двовимірна модель навчання у спайкових нейронних мережах з гомеостазом та навчанням з підкріпленням |
| title_fullStr |
Двовимірна модель навчання у спайкових нейронних мережах з гомеостазом та навчанням з підкріпленням |
| title_full_unstemmed |
Двовимірна модель навчання у спайкових нейронних мережах з гомеостазом та навчанням з підкріпленням |
| title_sort |
двовимірна модель навчання у спайкових нейронних мережах з гомеостазом та навчанням з підкріпленням |
| title_alt |
Two dimensional model of learning in spiking neural networks with homeostasis and reward Двумерная модель обучения в спайковых нейронных сетях с гомеостазом и обучением с подкреплением |
| description |
The huge complexity of molecular mechanisms that support memory formation makes it difficult to build simple, but precise and sufficient models for an efficient simulation of large neural networks. In this paper, we propose the phenomenological model of a learning rule that describes the synaptic strength via slow and fast variables. Two variables interact with each other in a bidirectional manner that allows to combine the reward and unsupervised learning. Results show the stability of synaptic strength due to coupling of two variables and fast homeostatic plasticity. The multiplicative approach of synaptic scaling preserves memory patterns of statistically more frequent input signals. Similar to the eligibility traces approach, the model tracks recent synaptic changes and allows to reinforce these changes. Also, we speculate on a possible biophysical interpretation of such a model that includes the fast movement of receptors to the membrane and their stabilization into clusters. |
| publisher |
The National Technical University of Ukraine "Igor Sikorsky Kyiv Polytechnic Institute" |
| publishDate |
2017 |
| url |
http://journal.iasa.kpi.ua/article/view/86521 |
| work_keys_str_mv |
AT osaulenkoviacheslavm twodimensionalmodeloflearninginspikingneuralnetworkswithhomeostasisandreward AT osaulenkoviacheslavm dvumernaâmodelʹobučeniâvspajkovyhnejronnyhsetâhsgomeostazomiobučeniemspodkrepleniem AT osaulenkoviacheslavm dvovimírnamodelʹnavčannâuspajkovihnejronnihmerežahzgomeostazomtanavčannâmzpídkríplennâm |
| first_indexed |
2025-07-17T10:22:03Z |
| last_indexed |
2025-07-17T10:22:03Z |
| _version_ |
1837889197361332224 |