НЕЙРОЕВОЛЮЦІЙНІ АЛГОРИТМИ ДЛЯ ГЕНЕРУВАННЯ НЕЙРОННИХ МЕРЕЖ
NEUROEVOLUTIONARY ALGORITHMS FOR NEURAL NETWORKS GENERATING
Сторінки: 239-244. Номер: №6, 2022 (315) 
Автори:
ТИМОШЕНКО Павло
Національний університет «Львівська політехніка»
ORCID ID: 0000-0002-5510-1963
pavlo.tymoshenko.knm.2018@lpnu.ua
ЗАСОБА Євген
Національний університет «Львівська політехніка»
ORCID ID: 0000-0003-4830-8306
geka.zasoba@gmail.com
КОВАЛЬЧУК Олександр
Національний університет «Львівська політехніка»
ORCID ID: 0000-0002-0148-0320
oleksandr.v.kovalchuk@lpnu.ua
ПШЕНИЧНИЙ Олександр
Національний університет «Львівська політехніка»
ORCID ID: 0000-0001-8823-7472
oleksandr.y.pshenychnyi@lpnu.ua
TYMOSHENKO Pavlo, ZASOBA Yevgen, KOVALCHUK Olexander, PSHENYCHNYY Olexander
Lviv Polytechnic National University
DOI: https://www.doi.org/10.31891/2307-5732-2022-315-6-240-244
Анотація мовою оригіналу
Вирішення інженерних задач за допомогою звичайних нейронних мереж вимагають тривалих досліджень щодо вибору архітектури та гіперпараметрів. Сильний штучний інтелект був би позбавленим таких недоліків. Подібні дослідження проводяться з використанням дуже широкого спектру підходів: наприклад, біологічного (спроби виростити мозок у лабораторних умовах), апаратного (створення нейронних процесорів) або програмного (з використанням потужностей звичайного CPU та GPU). Метою роботи є розроблення такої системи, яка дозволяла би за допомогою еволюційних підходів генерувати нейронні мережі, придатні для розв’язування задач. Подібний носить назву «нейроеволюції». До мети цієї роботи також входить дослідження особливостей можливих застосовних еволюційних стратегій.
Ключові слова: нейроеволюційний алгоритм, нейронна мережа, модель машинного навчання, препроцесинг даних.
Розширена анотація англійською мовою
Solving engineering problems using conventional neural networks requires long-term research on the choice of architecture and hyperparameters. A strong artificial intelligence would be devoid of such shortcomings. Such research is carried out using a very wide range of approaches: for example, biological (attempts to grow a brain in laboratory conditions), hardware (creating neural processors) or software (using the power of ordinary CPUs and GPUs). The goal of the work is to develop such a system that would allow using evolutionary approaches to generate neural networks suitable for solving problems. This is called “neuroevolution”. The purpose of this work also includes the study of the features of possible applicable evolutionary strategies.
The object of research in this work is a neuroevolutionary approach to solving problems of machine learning. The subject of research is evolutionary strategies, neural coding methods networks in the organism’s genome. The scientific novelty of the work lies in the testing of previously unused evolutionary strategies and the generalization of the obtained system to the systems of “general artificial intelligence”. A system for simulating neuroevolution was created. The specifics of implementation were considered, the choice of algorithms was justified, and their work was explained. In order to perform experiments, datasets were created and methods of applying neuroevolutionary systems were developed. It was possible to choose the most optimal training parameters, to find out the relationship between them, as well as the accuracy and speed of training. It cannot be said that the models implemented within this work directly bring us closer to strong AI. They still lack their own memory as well as a certain level of complexity. For successful use, it is necessary to configure the view of the input data or perform some calculations outside the model. However, in the future, such a system can be developed, for example, to work with SNNs, or for use on special equipment
Keywords: neuroevolutionary algorithms, artificial neural network, machine learning model, data preprocessing.
Література
- Garcia A., Arbelaitz O., Linaza M.T., Vansteenwegen P., Souffriau W. (2010). Personalized Tourist Route Generation. In: Daniel F., Facca F.M. (eds) Current Trends in Web Engineering. ICWE 2010. Lecture Notes in Computer Science, vol 6385. Springer, Berlin, Heidelberg. https://doi.org/10.1007/978-3-642-16985-4_47
- Ramesh Aditya Zero Shot Text to Image Generation. arXiv.org. URL: https://arxiv.org/abs/2102.12092 (03.06.2022).
- Searle J. R. Is the Brain’s Mind a Computer Program? Scientific American. 1990. Т. 262, № 1. С. 26–31. URL: https://doi.org/10.1038/scientificamerican0190-26 (03.06.2022).
- Russell S. J. Artificial intelligence: A modern approach. 2 ed. Upper Saddle River, N.J : Prentice Hall, 2003. 1080 p.
- Stubblefield W. A., George F. Luger Artificial Intelligence: Structures and Strategies for Complex Problem Solving. 3 ed. Addison Wesley Publishing Company, 1997. 868 p.
- Russell S. J. Artificial intelligence: A modern approach. 2 ed. Upper Saddle River, N.J.: Prentice Hall, 2003. 1080 p.
- Butz M. V. Towards Strong AI. KI Künstliche Intelligenz. 2021. Т. 35, № 1. P. 91—101. URL: https://doi.org/10.1007/s13218-021-00705-x (23.05.2022).
- Frederico A. C. Azevedo Equal numbers of neuronal and nonneuronal cells make the human brain an isometrically scaled up primate brain. The Journal of Comparative Neurology. 2009. Т. 513, № 5. P. 532—541. URL: https://doi.org/10.1002/cne.21974 (23.05.2022).
