Оптимізація ваги нейронної мережі прямого розповсюдження на основі ортогонального генетичного алгоритму
- Деталі
- Категорія: IT-технології
- Останнє оновлення: Субота, 02 квітня 2016, 14:08
- Опубліковано: Субота, 02 квітня 2016, 14:08
- Перегляди: 5486
Автори:
Сяоцюнь Цінь, Хунаньський університет міжнародної економіки, м. Чанша, провінція Хунань, КНР
Є Чень, Хунаньський університет міжнародної економіки, м. Чанша, провінція Хунань, КНР
Реферат:
Мета. Штучна нейронна мережа успішно застосовується в таких областях як розпізнавання образів, інтелектуальне управління, комбінаторна оптимізація та прогнозування. Спільне використання нейронних мереж із традиційними методами сприятиме подальшому розвитку технологій штучного інтелекту та обробки інформації. У дослідженні були поєднані ортогональний генетичний алгоритм (OGA) та навчання нейронних мереж методом зворотного поширення помилки. Отримана модифікована нейронна мережа OGANet, що ефективно застосовується для оптимізації ваги нейронних мереж прямого по-ширення.
Методика. З метою усунення недоліків традиційного навчання нейронних мереж методом зворотного поширення помилки, а саме схильності до попадання в “пастку” локального оптимуму та низької точності навчання, запропоновано метод навчання на основі OGA-алгоритма, що оптимізує вагу нейронної мережі, навченої методом зворотного поширення помилки. Він позитивно впливає на здатності нелінійного картування й покращує навченість розглянутих нейронних мереж.
Результат. Були поєднані базова штучна нейронна мережа та ортогональний генетичний алгоритм. Отримано OGANet-алгоритм і підтверджена його ефективність. Результат експерименту показав, що OGANet має високу точність навчання, швидку збіжність і перевершує інші методи навчання нейронних мереж за продуктивністю.
Наукова новизна. Обґрунтована оптимізація ваги нейронних мереж прямого поширення, що ґрунтується на OGA-алгоритмі. Аналіз результатів навчання покращеної нейронної мережі підтвердив, що OGANet не лише має велику швидкість навчання, але й долає, у деякій мірі, такий недолік традиційного навчання нейронних мереж методом зворотного поширення помилки, як схильність до попадання в “пастку” локального оптимуму.
Практична значимість. Здібність розглянутої нейронної мережі до нелінійної саморегульованої обробки інформації дозволяють здолати недоліки традиційних методів штучного інтелекту. Даний метод ефективно поєднує переваги генетичного алгоритму та навчання нейронних мереж методом зворотного поширення помилки, пропонує гарний компроміс між глобальним пошуком ортогонального генетичного алгоритму та навчанням нейронної мережі.
Список літератури / References:
1. Pławiak, P., 2014. An estimation of the state of consumption of a positive displacement pump based on dynamic pressure or vibrations using neural networks. Neurocomputing, vol.144, no.20, pp. 471−483.
2. Renbo Luo, Wenzhi Liao and Youguo Pi., 2014. Discriminative supervised neighborhood preserving embedding feature extraction for hyperspectral image classification. TEL-KOMNIK Indonesian Journal of Electrical Engineering, vol. 12, no.6, pp. 4200−4205.
3. Buse Melis Ozyildirim and Mutlu Avci, 2014. Logarithmic learning for generalized classifier neural network. Neural Networks, vol.60, no.12, pp. 133−140.
4. Hrvoje Krstić, Željko Koški, Irena Ištoka Otković, Martina Španić, 2014. Application of Neural Networks in Predicting Airtightness of Residential Units. Energy and Buildings, vol. 84, no.12, pp. 160−168.
5. R. Krishnamoorthi and S. Sathiya Devi, 2013. A simple computational model for image retrieval with weighted multi-features based on orthogonal polynomials and genetic algorithm. Neurocomputing, vol.116, no.20, pp. 165−181.
6. Susmita Mall, S. Chakraverty, 2014. Chebyshev neural network based model for solving Lane–Emden type equations. Applied Mathematics and Computation, vol.247, no.15, pp. 100−114.
7. Tomás Rodríguez García, Nicoletta González Cancelas, Francisco Soler-Flores, 2014. The artificial neural networks to obtain port planning parameters. Procedia-Social and Behavioral Sciences, vol.162, no.19, pp. 168−177.
8. Donghong Zhao, 2014. Total variation differential equation with wavelet transform for image restoration. TELKOMNIKA Indonesian Journal of Electrical Engineering, vol.12, no.6, pp. 4747−4755.
9. Mohammad Khanzadeh and Moslem Malekshahi, Ali Rahmati, 2013. Optimization of loss in orthogonal bend waveguide: Genetic algorithm simulation. Alexandria Engineering Journal, vol.52, no.3, pp. 525−530.
10. Bernadete M.M. Neta, Gustavo H.D. Araújo, Frederico G. Guimarães, Renato C. Mesquita and Petr Ya. Ekel, 2012. A fuzzy genetic algorithm for automatic orthogonal graph drawing. Applied Soft Computing, vol.12, no.4, pp. 1379−1389.
![]() ![]() |
|
![]() ![]() ![]() |
![]() |