Work

Unbiased Recursive Partitioning Algorithm in Regression Trees

Year: 2009
Type: article
Abstract: Drzewa klasyfikacyjne i regresyjne są bardzo popularnym narzędziem predykcji. Budowa \ntakiego modelu polega na stopniowym podziale wielowymiarowej przestrzeni cech na \nrozłączne obszary aż do uzyskania maksymalnej ich homogeniczności ze względu na wartość \nzmiennej objaśnianej y. Podział ten kontynuowany jest w kolejnych krokach, w oparciu \no wartości wybranych zmiennych objaśniających. Istnieje wiele możliwych sposobów wyboru \ntych zmiennych, a jednym z najpopularniejszych jest algorytm wyczerpującego przeszukiwania \n(ang. exhaustive search) opracowany przez Breimana (Breimana et al., 1984). \nZaproponowany przez Hothoma, Hornika i Zeileisa, (2006) sposób doboru zmiennych \nznany pod nazwą nieobciążonej metody rekurencyjnego podziału (ang. unbiased \nrecurcive partitioning) opierający się na zastosowaniu testów permutacyjnych miał na \ncelu ominięcie podstawowej wady tradycyjnego podejścia, jakim jest tendencja do wyboru \nzmiennych dających wiele potencjalnych możliwości podziału. \nOkazuje się, że w przypadku dyskryminacji to nowatorskie podejście prowadzi do \nuzyskania modeli zapewniających bardzo zbliżone wyniki klasyfikacji jak podejście \ntradycyjne, a w podejściu wielomodelowym może doprowadzić do pogorszenia poprawności \nklasyfikacji. \nZasadniczym celem referatu jest przedstawienie wyników badań, które mają na celu \nporównanie dokładności predykcji na podstawie drzew regresyjnych, które doboru \nzmiennych objaśniających dokonują za pomocą algorytmu wyczerpującego przeszukiwania \noraz za pomocą podejścia bazującego na testach permutacyjnych. Ponadto porównane \nzostaną wyniki predykcji modeli zagregowanych, w których modelami składowymi \nbędą te dwa rodzaje drzew regresyjnych.
Language: English
Open Access status: green
OpenAlex ID: W31145192
FWCI:
Cites: 11
Cited by:
Related to: 10