Classification GDA Flashcards
Was ist Klassifikation?
- Das Ziel ist es einem Input ein label zu geben
- Das label kann eine kategorische variable sein (“Auto”, “Van”, …)
- Es kann auch eine quantitative diskrete Variable sein (1, 2, … , K)
Was ist die Discriminant function?
- Typischer weise wird das Klassifikationproblem von einer Menga an discriminant functions fk(x) für jede Klasse gelöst
Warum kann man beim lernen für die Klassifikation kein 0-1 loss nehmen?
Mit einem loss von 0 oder 1 kann man nicht lernen, wenn man bspw. den Gradienten Abstieg nutzt
Was gibt einem eine discriminant function außer der Klasse?
Es gibt einen score oder eine Wahrscheinlichkeit für die bestimmte(n) Klasse(n).
Wie viele discriminant functions werden typischerweise bei zwei Klassen verwendet?
Typischerweise gibt es nur eine function bei zwei klassen
Was wird meist für eine probalistisches Model als estimator genommen?
Es wird in den meisten Fällen ein Maximum A-posterior estimator genommen.
Wie “funktioniert” eine lineare discriminat function grob?
Es gibt eine lineare funktion im Datenraum, welche die Klassen (meist 2) voneinander trennt.
Welches Problem taucht beim linearen discrimination functions auf?
Wenn wir nur ein “one-versus-the-rest” Klassifikator haben, entstehen Bereiche ohne Zuweisung.
Wie behebt man das Problem von undefinierten Bereichen?
Wofür steht GDA, was für ein Modell ist es?
- Gaussian Discriminant Analysis
- Es ist ein generatives Modell
Wie sehen die zwei Schritte beim GDA Modell aus?
- Wähle eine passende Dichte funktion (Bernoulli, Normalverteilung …)
- Bestimme die Parameter der Dichte Funktion
Was ist, wenn wir zwei gleiche Covariance Matrizen haben?
Bei zwei gleichen Covariance Matrizen erhalten wir eine lineare discriminant function
Was ist, wenn wir zwei unterschiedliche Covariance Matrizen haben?
Bei zwei unterschiedlichen Covariance Matrizen erhalten wir eine quadratische Discriminant function.
