Problem doboru zmiennych do modelu dyskryminacyjnego budowanego metodą wektorów nośnych

• Autorzy: Michał Trzęsiok

Warianty tytułu

Variable selection in Support Vector Machines

• Języki publikacji: PL

Abstrakty

(...) w artykule zaproponowano modyfikację znanej metody doboru zmiennych do modelu przez stworzenie ich rankingu i eliminację zmiennych redundantnych. Zbadano również, wykorzystując empiryczne badania symulacyjne, czy usunięcie ze zbioru zmiennych objaśniających tych, które zidentyfikowano jako nieistotne, ma wpływ na poprawność klasyfikacji nowych obserwacji w modelach SVM. Informacja o tym, które ze zmiennych objaśniających mają największy wpływ na otrzymaną klasyfikację obiektów, a także które zmienne można uznać za nieistotne w danym zadaniu dyskryminacji, jest szczególnie ważna dla decydentów i znacznie wspomaga proces podejmowania decyzji. (fragment tekstu)

EN

Support Vector Machines (SVM) belong to the group of Data Mining methods and are considered as a black box method. Some authors suggest that variable selection is usually not necessary for SVMs, i.e. building the model on a set of variables including some (but not too many) redundant variables does not change the generalization ability. Once the model is built, it is still valuable to recognize the relative importance of predictor variables. The paper presents the simple modification of the backward elimination technique for feature selection and empirically shows that deleting the redundant variables can improve the classification accuracy and reduce the complexity of SVM models. (original abstract)

Słowa kluczowe

PL

Analiza dyskryminacyjna; Metoda wektorów nośnych (SVM); Dobór zmiennych

EN

Discriminant analysis; Support Vector Machines (SVM); Variables selection

• Czasopismo: Prace Naukowe Uniwersytetu Ekonomicznego we Wrocławiu. Taksonomia
• Rocznik: 2009
• Tom: 16
• Numer: nr 47 Klasyfikacja i analiza danych - teoria i zastosowania
• Strony: 214--222

Twórcy

autor

Michał Trzęsiok

• Akademia Ekonomiczna im. Karola Adamieckiego w Katowicach

Bibliografia

• Abe S. (2005), Support vector machines for pattern classification (advances in pattern recognition), Springer.
• Cristianini N., Shawe-Taylor J. (2000), An introduction to support vector machines (and other kernel-based learning methods), Cambridge University Press, Cambridge.
• Feature extraction, foundations and applications (2006), red. I. Guyon, S. Gunn, M. Nikravesh, L. Zadeh, Springer.
• Hastie T., Tibshirani R., Friedman J. (2001), The elements of statistical learning, Springer Verlag, N.Y.
• Rakotomamonjy A. (2003), Variable selection using SVM-based criteria, "Journal of Machine Learning Research" no 3, s. 1357-1370.
• Trzęsiok M. (2004), Analiza wybranych własności metody dyskryminacji wykorzystującej wektory nośne, [w:] Postępy ekonometrii, red. A.S. Barczak, AE, Katowice.
• Vapnik V. (1998), Statistical learning theory, John Wiley & Sons, N.Y.
• Weston J., Mukherjee S., Chapelle O., Pontil M., Piaggio T., Vapnik V. (2001), Feature selection for SVMs, "Advances in Neural Information Processing Systems", 13, MIT Press, s. 668-681.