6 Decision trees

Question 1

Decison tree

Answer 1

Een decision tree is een model dat beslissingen maakt op basis van regels in de vorm van een boomstructuur. Het splitst data stap voor stap op basis van kenmerken (features) om tot een voorspelling te komen.

Question 2

Classification tree

Answer 2

Wordt gebruikt als de uitkomst (label) categorisch is (bijv. “ja” of “nee”, “spam” of “niet spam”).

Elk blad (eindknoop) van de boom voorspelt een klasse.

Question 3

Regression tree

Answer 3

Wordt gebruikt als de uitkomst numeriek is (bijv. prijs, temperatuur).

Elk blad voorspelt een getal (bijv. gemiddelde waarde in die groep).

Question 4

Accuracy, feature importance

Question 5

Node,

Answer 5

Een node is een punt in de boom waar een beslissing wordt genomen, bijvoorbeeld:

“Is leeftijd > 30?”

Question 6

Grid search

Answer 6

Methode om de beste instellingen (hyperparameters) te vinden.

Probeert systematisch combinaties, zoals:

Max tree depth = 3, 5, 7

Min samples per split = 2, 5, 10

Vaak in combinatie met cross-validation.

Question 7

Ensemble

Answer 7

Een ensemble is een methode waarbij meerdere modellen gecombineerd worden om samen een betere voorspelling te doen dan één enkel model.

Question 8

Random forest

Answer 8

Een ensemble van veel decision trees.

Question 9

Gradient boosting

Answer 9

Een geavanceerde ensemble-techniek die opeenvolgend bomen traint.

Elke nieuwe boom probeert de fouten van de vorige te corrigeren.

Question 10

tree depth

Answer 10

De diepte van een boom is het aantal beslissingslagen van root tot aan een blad.