621.326

рекурентна нейронна мережа
алгоритми навчання
recurrent neural network
learning algorithm

Обґрунтовано використання рекурентної нейронної мережі для реалізації адаптивного керування в нелінійних замкнених динамічних системах. Проведено аналіз методів, що реалізують різні типи алгоритмів для налаштування ваг та зміщень нейронів. З метою оцінювання ефективності використання проведено навчання рекурентної НМ із застосуванням кількох видів алгоритмів з різними способами навчання, що відрізняються за швидкодією та мінімальним значенням помилки навчання. Запропоновано спосіб визначення ефективного алгоритму для навчання рекурентної НМ Елмана із додатковими зворотними зв’язками, який включає навчання НМ на тестовій траєкторії і перевірку її роботи для вхідних значень, що не входили в навчаючу послідовність. Порівняльний аналіз ефективності використання алгоритму для навчання рекурентної НМ дає змогу оцінити результативність роботи регулятора на стадії виконання навчання НМ. Отримані результати досліджень показали доцільність використання алгоритму навчання, що використовує метод регуляризації як найефективніший за точністю навчання.
The fundamental property of neural networks (NN) is their ability to the learning, that allows to use them successfully in control system by difficult dynamic object. The use of recurrent neural network is reasonable for an implementation of the adaptive control in the nonlinear closed dynamical system. However, the efficiency of the use of this structure needs the learning of the created NN and the choice of the effective algorithm diminishes time that is spent for the selection of NN coefficients and makes the error between an initial signal and a target vector minimal. Some types of algorithms which include methods for the learning of the recurrent NN have been created and each of them is characterized by fast-acting, minimum value of error of learning, but for the specific task the analysis of the efficiency of the application of these algorithms should be conducted. The analysis of methods that realize different types of algorithms to arrange scales and displacements of neurons has been conducted. As the quality of NN work will not depend on speed of learning, and after learning the error will not reach a set value. The method of determination of the effective algorithm is proposed to the learning of Elman recurrent NN with the additional reverse copulas that includes the learning of NN on a test trajectory and verification of its work for the entrance values that weren’t in a teaching sequence. In the research process the time of realization of the learning was taken into account and the control of the error of the initial signal recreation was conducted too. The received values are shown in the comparative table and are also depicted in the charts of dependence of an error, which appears after testing of studied NN with the use of the offered algorithms. The comparative analysis of the efficiency of the use of algorithm for the learning of recurrent NN gives us an opportunity to estimate the effectiveness of the work of regulator of the stage of an implementation of NN learning. The received result of the research testifies reasonable use of the normalization method as the most effective.

1. Паламар, М.І. Застосування рекурентної нейронної мережі для керування об’єктами із невизначеними динамічним параметрами [Текст] / М.І. Паламар, О.Б. Гнатюк, М.О. Стрембіцький // Вісник Вінницького політехнічного інституту. – 2013. – No2. – С.5–10.
2. Дебок, Г. Анализ финансовых данных с помощью самоорганизующихся карт [Текст] / Г. Дебок, Т. Кохонен. – М.: АЛЬПИНА, 2001. – 317 с.
3. Паламар, М.І. Використання модифікованої рекурентної нейронної мережі Елмана для ідентифікації динамічних об’єктів [Текст] / М.І. Паламар, М.О. Стрембіцький, В.О. Стрембіцький // Матеріали Всеукраїнської науково-технічної конференції. – 2013. – С.51–53.
4. Головко, В.А. Нейронные сети: обучение, организация и применение. Учеб. пособие для вузов [Текст] / В.А. Головко // Общая ред. А.И. Галушкина. – М.: ИПРЖР, 2001. – 256 с.
5. Нaкoнeчний, М.В. Oсoбливoстi iдeнтифiкaцiї динaмiчних oб’єктiв зa дoпoмoгoю рeкурeнтних нeйрoнних мeрeж [Текст] / М.В. Нaкoнeчний, Ю.М. Нaкoнeчний // Вiсник НУ «Львiвськa пoлiтeхнiкa», «Aвтoмaтикa, вимiрювaння тa кeрувaння». – 2009. – No639. – С.107–116.
6. Терехов, В.А. Нейросетевые системы управления: учеб. пособие для вузов [Текст] / В.А. Терехов, Д.В. Ефимов, И.Ю. Тюкин. – М.: Высш. школа 2002. – 183 с.
7. Саймон Хайкин Нейронные сети: полный курс. – М.: Вильямс, 2006. – 1104 с.

1. Palamar, M.I. Zastosuvannia rekurentnoi neironnoi merezhi dlia keruvannia obiektamy iz nevyznachenymy dynamichnym parametramy [Text] / M.I. Palamar, O.B. Hnatiuk, M.O. Strembitskyi // Visnyk Vinnytskoho politekhnichnoho instytutu. – 2013. – No2. – P.5–10.
2. Debok, H. Analiz finansovykh dannykh s pomoshchiu samoorhanizuiushchikhsia kart [Text] / H. Debok, T. Kokhonen. – M.: ALPINA, 2001. – 317 p.
3. Palamar, M.I. Vykorystannia modyfikovanoi rekurentnoi neironnoi merezhi Elmana dlia identyfikatsii dynamichnykh obiektiv [Text] / M.I. Palamar, M.O. Strembitskyi, V.O. Strembitskyi // Materialy Vseukrainskoi naukovo-tekhnichnoi konferentsii. – 2013. – P.51–53.
4. Holovko, V.A. Neironnye seti: obuchenie, orhanizatsiia i primenenie. Ucheb. posobie dlia vuzov [Text] / V.A. Holovko // Obshchaia red. A.I. Halushkina. – M.: IPRZhR, 2001. – 256 p.
5. Nakonechnyi, M.V. Osoblyvosti identyfikatsii dynamichnykh obiektiv za dopomohoiu rekurentnykh neironnykh merezh [Text] / M.V. Nakonechnyi, Yu.M. Nakonechnyi // Visnyk NU "Lvivska politekhnika", "Avtomatyka, vymiriuvannia ta keruvannia". – 2009. – No639. – P.107–116.
6. Terekhov, V.A. Neirosetevye sistemy upravleniia: ucheb. posobie dlia vuzov [Text] / V.A. Terekhov, D.V. Efimov, I.Iu. Tiukin. – M.: Vyssh. shkola 2002. – 183 p.
7. Saimon Khaikin Neironnye seti: polnyi kurs. – M.: Viliams, 2006. – 1104 p.