On Estimation of a Quantity of Base Models with Parametric and Permutation Tests

• Autorzy: Jacek Stelmach

Warianty tytułu

O szacowaniu liczby modeli bazowych za pomocą testów parametrycznych i permutacyjnych

• Języki publikacji: EN

Abstrakty

EN

One of the crucial problems in multiple-model approach of the regression is estimation of optimal number of base models. If the quantity is too low - it increases the prediction error whereas too high number of models increases time and complication of calculations. Unfortunately, the estimation of the quantity of base models based on the analysis of prediction error can lead to its overestimation. This paper proposes a formal approach where the predictions obtained with the models aggregated from different number of base models are compared. In this approach both: parametric and permutation tests were applied with the empirical data from petroleum industry. (original abstract)

Jednym z kluczowych problemów w wielomodelowym podejściu do zagadnienia regresji jest estymacja optymalnej ilości modeli bazowych. Jeśli ich ilość jest zbyt mała - rośnie błąd predykcji, zbyt duża ilość powiększa czas i komplikację obliczeń. Niestety estymacja tej ilości na podstawie analizy błędu predykcji może prowadzić do jej przeszacowania. W artykule proponuje się formalne podejście, w którym porównywane są wyniki prognoz otrzymanych z modeli zagregowanych z różnej liczby modeli bazowych. W tym przypadku wykorzystane zostały zarówno testy parametryczne jak i testy permutacyjne, a jako dane testowe: dane empiryczne wykorzystywane w przemyśle rafineryjnym. (abstrakt oryginalny)

Słowa kluczowe

EN

Aggregation models; Multiple-model approach; Regression analysis; Statistical tests

PL

Agregacja modeli; Podejście wielomodelowe; Analiza regresji; Testy statystyczne

• Czasopismo: Acta Universitatis Lodziensis. Folia Oeconomica
• Rocznik: 2013
• Tom: 286 Methods and Applications of Multivariate Statistical Analysis
• Strony: 79--86

Twórcy

autor

Jacek Stelmach

• University of Economics in Katowice, Poland

Bibliografia

• Breiman L. (1996), Bagging Predictors, Machine Learning, 26(2), pp. 123-140.
• Gatnar E. (2008), Podejście wielomodelowe, Wydawnictwo Naukowe PWN, Warszawa.
• Good P. I. (1994) Permutation Tests: A practical guide for testing Hypotheses, Springer-Verlag, N. York.
• Hesterberg T. et al (2003), The practice of business statistics, Companion chapter 18 - Bootstrap methods and permutation tests, W. H. Freeman and Company, New York.
• Latinne P. et al. (2002), Combining different methods and numbers of weak decision trees, "Pattern Analysis and Applications", 5(2), pp. 201-209.
• Opitz D., Maclin R. (1999), Popular Ensemble Methods: An Empirical Study, Journal of Artificial Intelligence Research 11, pp. 169-198.