Hauptkomponentenanalyse

Question 1

Wozu dient die Hauptkomponentenanalyse

principal component analysis = PCA

Answer 1

zur Datenreduktion

Question 2

Was ist das ziel der Hauptkomponentenanalyse

Answer 2

die Zusammenhänge zwischen den Variablen durch wenige Hauptkomponenten darzustellen

Question 3

Was testet eine Hauptkomponentenanalyse

Answer 3

keine Hypothesen! Stattdessen ist es ein hypothesengenerierendes Verfahren.

Question 4

Die Hauptkomponentenanalyse besteht aus drei Schritten:

Answer 4

1. Extraktion
2. Reduktion
3. Rotation

Question 5

Vor Beginn der Hauptkomponentenanalyse werden

Answer 5

die beobachteten Variablen Yi (i = 1,…,p) standardisiert und dann auch als Zi bezeichnet. Dadurch hat jede einzelne Variable Zi eine Varianz von 1.

Question 6

Hauptkomponentenanalyse – 1. Schritt: Extraktion

Answer 6

Die gesamte Varianz der beobachteten Variablen Zi (i = 1,…,p) wird zunächst durch ebenso viele Hauptkomponenten Hj (j = 1,…,q; q=p) erklärt
Jede Variable ist also eine Linearkombination der Hauptkomponenten.
Prinzipiell werden die Werte so berechnet, dass die erste Hauptkomponente möglichst viel Varianz auf den beobachteten Variablen aufklärt und die anderen Komponenten erklären dann sukzessive weniger

Question 7

Ladung 𝜆𝑖𝑗 entspricht

Answer 7

der Korrelation der Variablen Zi mit der Hauptkomponente Hj.

Question 8

Die Hauptkomponenten sind untereinander aufgrund ihrer Orthogonalität

Answer 8

nicht korreliert.

Question 9

Kommunalität

Answer 9

beschreibt, wie viel Varianz einer Variable 𝑍𝑖 durch alle k Hauptkomponenten gemeinsam aufgeklärt wird.

Question 10

Die Kommunalität ist eine Eigenschaft

Answer 10

der Variable

Question 11

Eigenwert 𝛿 ist eine Eigenschaft

Answer 11

der Hauptkomponente j

Er beschreibt den Anteil der Gesamtvarianz aller Variablen, den die Hauptkomponente aufklärt.

Question 12

Je größer der Eigenwert,

Answer 12

umso mehr Varianz klärt diese Hauptkomponente auf. Bei der Extraktion klärt die erste Hauptkomponente immer am meisten auf & die anderen dann sukzessive immer weniger

Question 13

Der Eigenwert ist eine Eigenschaft

Answer 13

der Hauptkomponenten.

Question 14

Varianzaufklärung

Answer 14

beschreibt etwas ähnliches wie der Eigenwert. Hier wird die aufgeklärte Varianz der Hauptkomponente in Relation gesetzt zur Gesamtvarianz aller Variablen. Dadurch ergeben die Hauptkomponenten zusammen zunächst 100%

Question 15

Kaiser Guttmann Kriterium

Answer 15

alle Hauptkomponenten beibehalten, deren Eigenwert größer als 1 ist
Die Idee ist, dass diese Hauptkomponenten mehr Varianz erklären als eine einzelne Variable hat.

Question 16

Scree-Test

Answer 16

alle Hauptkomponenten oberhalb des Knicks im
Eigenwertsdiagramm beibehalten
Bei größeren PCAs werden meistens weniger Hauptkomponenten durch den Scree Test beibehalten als bei Kaiser Guttmann.
Allerdings gibt es auch Fälle ohne eindeutigen Knick

Question 17

Parallelanalyse

Answer 17

werden zufällige Daten mit der gleichen Stichprobengröße & Anzahl an Variablen erzeugt. Die Variablen sind in der Grundgesamtheit unkorreliert. Über die zufälligen Daten wird ebenfalls eine PCA gerechnet und der Eigenwertverlauf wird verglichen. Nur die Hauptkomponenten mit Eigenwerten, die höher sind als bei den zufälligen Daten werden beibehalten.
Bei der Anwendung dieser Methode werden normalerweise viele (50-5000) Datensätze erzeugt und gemittelt

Question 18

Auswirkung der Reduktion

Answer 18

Reduktion wird die Zahl der Hauptkomponenten auf k reduziert. Dadurch wird nicht mehr die komplette Varianz jeder einzelnen Variablen durch die Hauptkomponenten erklärt. Die Kommunalitäten sinken also auf weniger als 1 & die addierte Varianzaufklärung der k Hauptkomponenten ergibt weniger als 100%.

Question 19

Warum ist die 1 Lösung der PCA inhaltlich oft nicht gut zu interpretieren ?

Answer 19

da viele Variablen auf mehreren Hauptkomponenten hoch laden & es deshalb schwierig ist, zu entscheiden, was die jeweiligen Hauptkomponenten inhaltlich bedeuten.

Question 20

Um die Interpretierbarkeit zu erhöhen,

Answer 20

werden die Hauptkomponenten in einem dritten Arbeitsschritt rotiert. Dabei sollen die Ladungen auf einzelnen Hauptkomponenten maximiert werde

Question 21

Es gibt zwei Arten von Rotationen:

Answer 21

Orthogonale Rotation

Oblique Rotation

Question 22

Orthogonale Rotation:

Answer 22

Die neuen Hauptkomponenten sind ebenfalls unkorreliert.

Question 23

Oblique Rotation:

Answer 23

Die neuen Hauptomponenten dürfen nach der Rotation korrelieren.

Question 24

Ein häufig verwendetes Verfahren zur orthogonalen Rotation ist die

Answer 24

Varimaxrotation, bei der die Varianz der quadrierten Ladungen auf jeder Hauptkomponente maximiert werden soll.

Question 25

Voraussetzungen der Hauptkomponentenanalyse

Answer 25

Die Zusammenhänge zwischen den Variablen sollten linear sein
Es sollten nicht zu viele Ausreißer vorliegen
Die Variablen sollten metrisches Skalenniveau haben
Die Stichprobengröße sollte mindestens 3*Variablenanzahl betragen & größer als 50 sein.

Question 26

Die Kommunalität für jede Variable kann leicht berechnet werden, indem

Answer 26

jede Ladung quadriert &dann addiert wird.

Question 27

Der Eigenwert jeder Hauptkomponente kann leicht berechnet werden, indem

Answer 27

jede Ladung quadriert & dann addiert wird.