Graphical Simulation Environment for Learning of Deep Neural Network Models

• Autorzy: Michał Grosicki

Warianty tytułu

Graficzne środowisko symulacyjne dla uczenia modeli głębokich sztucznych sieci neuronowych

• Języki publikacji: EN

Abstrakty

EN

In this paper we present graphical simulation environment for learning of deep neural networks models called MMSim. Presented software allows for training and visualisation of learning process of various neural network models such as multilayer perceptrons, neural auto-encoders and restricted Boltzmann machines. We describe implemented in our software models and present example of usage of MMSim. We believe that presented in this paper software will be useful not only for researchers, but also for students who are just beginning their study of the neural networks and machine learning. MMSim can be used as a main tool for teaching about neural networks in the classroom. It allows for easy configuring, testing and comparing of various models and various settings of the same model. (original abstract)

Poniższy artykuł prezentuje graficzne środowisko symulacyjne dla uczenia modeli głębokich sztucznych sieci neuronowych zwane MMSim. Prezentowane oprogramowanie pozwala na uczenie i wizualizację procesu uczenia różnych modeli sztucznych sieci neuronowych takich jak wielowarstwowy perceptron, neuronowe auto********enkodery i ograniczone maszyny Boltzmanna. Poniższy artykuł zawiera opis zaimplementowanych modeli sieci neuronowych i prezentuje przykład użycia MMSim. Zaprezentowane w artykule oprogramowanie może być użyteczne nie tylko dla badaczy, ale być może przede wszystkim dla studentów, którzy zaczynają uczyć się na temat sztucznych sieci neuronowych i ucznia maszynowego. MMSim może być wykorzystane jako główne narzędzie podczas zajęć z przedmiotów związanych ze sztucznymi sieciami neuronowymi. Oprogramowanie pozwala na łatwą konfigurację, ewaluację oraz porównanie różnych modeli oraz tego samego modelu wytrenowanego przy użyciu różnych parametrów. (abstrakt oryginalny)

Słowa kluczowe

EN

Artificial neural networks (ANN); Learning of neural networks

PL

Sztuczne sieci neuronowe (SSN); Uczenie sieci neuronowych

• Czasopismo: Logistyka
• Rocznik: 2014
• Numer: nr 6, CD 3
• Strony: 4207--4215

Twórcy

autor

Michał Grosicki

• Politechnika Świętokrzyska

Bibliografia

• 1. Bengio Y., Learning Deep Architectures for AI, Foundations and Trends in a Machine Learning, January 2009
• 2. Grosicki M., Application of artificial neural networks to facial expression recognition, Forum Innowacji Młodych Badaczy 2012, ISSN 2082-4831
• 3. Hinton G. E., Osindero S., Teh Y.-W., A fast learning algorithm for deep belief nets, Neural Computations Vol. 18, No. 7., July 2006
• 4. LeCun Y., Corinna C., MNIST handwritten digit database. AT&T Labs [Online]. Available: http://yann.lecun.com/exdb/mnist 2010
• 5. Rifai S., Vincent P., et al. Contractive auto-encoders: Explicit invariance during feature extraction, Proceedings of the 28th International Conference on Machine Learning (ICML-11), 2011
• 6. Salakhudinov R., Learning deep generative models, PhD thesis, University of Toronto, 2009
• 7. Tieleman T., Training restricted Boltzmann machines using approximations to the likelihood gradient, Proceedings of the 25th international conference on Machine learning 2008, 1064-1071
• 8. Smolensky P., Information processing in dynamical systems: foundations of harmony theory, Cambridge 1986
• 9. Srivastava N., Improving neural networks with dropout. PhD thesis, University of Toronto, 2013
• 10. Vincent P., Larochelle H., Bengio Y., Manzagol P-A., Extracting and Composing Robust Features with Denoising Autoencoders
• 11. Vincent P., Larochelle H., Lajoie I., Bengio Y., Manzagol P.-A., Stacked denoising autoen-coders: Learning useful representations in a deep network with a local denoising criterion. Journal of Machine Learning Research no 11