Parallelrechner

Question 1

Schnellere Rechner … aber wie?

Wie erhöhe ich die CPU Frequenz?

Answer 1

Durch Abwärme, Energieverbrauch und Leckströme

Question 2

Schnellere Rechner … aber wie?

Wenn ich 2 CPUs auf einen Chip habe, ist die Chipfläche 2x. Welche Auswirkungen hat es auf den Leistungsgewinn?

Answer 2

Der Leistungsgewinn ist deutlich weniger

Question 3

Schnellere Rechner … aber wie?

Warum werden für schnellere Rechner Coprozessoren benötigt?

Answer 3

Da man spezielle Prozessoren für spezielle Aufgaben braucht

Question 4

Schnellere Rechner … aber wie?

Für schnellere Rechner werden noch mehr Units fürs Rechnen gebraucht. Was muss die CPU können?

Answer 4

Die CPU muss alle Units parallel mit Arbeit versorgen können

Question 5

Schnellere Rechner aber wie?

Bei längeren Pipelines werden falsch vorhergesagte Sprünge immer schlimmer. Wann machen längere Pipelines Sinn?

Answer 5

Wenn man gleichzeitig die CPU Frequenz erhöht

Question 6

Schnellere Rechner aber wie?

Durch Multhreading kann die CPU sich einem anderen Thread zu wenden, wenn der eine Thread nicht mehr kann. Was bedeutet das für die Units?

Answer 6

Das die Units besser ausgelastet sind

Question 7

Architekturen für Parallelrechner

Welche Architekturen gibt es für den Parallelrechner?

Answer 7

1. On-chip parallelism
2. A coprocessor
3. A multiprocessor
4. A multicomputer
5. A grid

Grafiken sind auf Folie 3

Question 8

Taxonomie für Parallelrechner

Welcher Parallelrechner passt zu Instruction streams = 1 und Data streams = 1? Gebe auch ein Beispiel an

Answer 8

• SISD
• Beispiel: Classical Von Neumann machine

Mehr dazu auf Folie 6

Question 8

On-Chip Multithreading (Hyperthreading)

Liste die Multithreading Methoden auf

Answer 8

• Threads mit einigen Wartezyklen
• Feingranulares Multithreading
• Grobgranulares Multithreading

Mehr dazu auf Folie 4

Question 9

Taxonomie für Parallelrechner

Welcher Parallelrechner passt zu Instruction streams = 1 und Data streams = Multiple? Gebe auch ein Beispiel an

Answer 9

• SIMD
• Vektorrechner, Array-Prozessor

Mehr dazu auf Folie 6

Question 10

Taxonomie für Parallelrechner

Welcher Parallelrechner passt zu Instruction streams = Multiple und Data streams = 1? Gebe auch ein Beispiel an

Answer 10

• MISD
• Wohl keine Beispiele

Mehr dazu auf Folie 6

Question 11

Taxonomie für Parallelrechner

Welcher Parallelrechner passt zu Instruction streams = Multiple und Data streams = Multiple? Gebe auch ein Beispiel an

Answer 11

• MIMD
• Multiprocessor, multicomputer

Mehr dazu auf Folie 6

Question 12

Multiprozessorsysteme

Worauf greifen alle Prozesse zu?

Answer 12

Die Prozesse greifen alle auf denselben Hauptspeicher zu

Question 13

Multiprozessorsysteme

Wer verwaltet alle Prozessoren?

Answer 13

Sie werden von einer Betriebssysteminstanz verwaltet

Question 14

Multiprozessorsysteme

Was sind die Vorteile von Multiprozessorsysteme?

Answer 14

Sind einfach zu programmieren und für den Hausgebrauch geeignet

Question 15

Multiprozessorsysteme

Was ist ein Nachteil von Multiprozessorsystemen?

Answer 15

Skaliert nicht besonders gut

Question 16

Multiprozessorsysteme

Wann ist der Hauptspeicher zu langsam?

Answer 16

Der Hauptspeicher ist schon bei einer CPU langsam

Question 17

Multiprozessorsysteme

Viele CPUs an einem Hauptspeicherbus ist kompliziert. Ab welchem Wert wird es langsam eng?

Answer 17

Bei 64 CPU’s oder 128 CPU’s wird es langsam eng

Question 18

Multiprozessorsysteme

Bei Multiprozessorsystemen sind verschiedene Varianten möglich. Die Anzahl der Chips ist unterschiedlich. Liste auf welche Möglichkeiten es gibt.

Answer 18

• Jeder Prozessor auf einem eigenen Chip
• Alle Prozessoren auf einem Chip

Question 19

Multiprozessorsysteme

Es gibt zwei Arten von Prozessoren. Was ist ein homogener PC?

Answer 19

Ein PC mit mehreren Prozessoren

Question 20

Multiprozessorsysteme

Es gibt zwei Arten von Prozessoren. Was ist ein heterogener PC?

Answer 20

Zum Beispiel eine Sony Playstation 3 mit Cell Prozessor

Question 21

Homogene Multiprozessorsysteme (auf einem Chip)

Welche Art von Chips gibt es bei homogenen Multiprozessorsystemen?

Answer 21

• Ein Chip mit mehreren Pipelines
• Ein Chip mit mehreren Cores

Question 22

Multicomputersysteme

Gibt es einen gemeinsamen Speicher?

Answer 22

Nein ist gibt keinen gemeinsamen Speicher

Question 23

Multicomputersysteme

Wie erfolgt die Kommunikation?

Answer 23

Über Nachrichtenaustausch

Question 24

# Multicomputersysteme Wie wird jede CPU gesteuert?

Answer 24

Sie werden von einer eigenen Betriebssysteminstanz gesteuert

Question 25

# Multicomputersysteme Was sind die Vorteile von Multicomputersystemen?

Answer 25

* Skaliert bis zu vielen tausend CPUs * Anwendung im wissenschaftlichen Rechnen

Question 26

# Multicomputersysteme Warum ist die Programmierung anspruchsvoller?

Answer 26

Weil die Kommunikation nur über Nachrichtenaustausch läuft

Question 27

# Multicomputersystem Was ist ein weiterer Nachteil von Multicomputersystemen neben der schwierigen Kommunikation?

Answer 27

Die Administration ist schwieriger

Question 28

# Gemeinsamer Hauptspeicher - Konsistenz Da mehrere Prozessoren dasselbe Byte schreiben, weiß man nicht welcher Prozessor zuletzt schreibt und man wird sich nicht einig welcher Prozesser das Byte zuletzt geschrieben hat. Wie wird dieses Problem behandelt?

Answer 28

Durch strikte Konsistenz passieren alle Schreib/Leseoperationen zu einem Zeitpunkt

Question 29

# Gemeinsamer Hauptspeicher Da mehrere Prozessoren dasselbe Byte schreiben, weiß man nicht welcher Prozessor zuletzt schreibt und man wird sich nicht einig welcher Prozesser das Byte zuletzt geschrieben hat. Durch strikte Konsistenz passieren alle Schreib/Leseoperationen zu einem Zeitpunkt. Was passiert danach?

Answer 29

Die Operationen werden nach diesen Zeitpunkten organisiert

Question 30

# Gemeinsamer Hauptspeicher Da mehrere Prozessoren dasselbe Byte schreiben, weiß man nicht welcher Prozessor zuletzt schreibt und man wird sich nicht einig welcher Prozesser das Byte zuletzt geschrieben hat. Durch strikte Konsistenz passieren alle Schreib/Leseoperationen zu einem Zeitpunkt. Die Operationen werden nach diesen Zeitpunkten organisiert. Was sehen die Prozessoren dann?

Answer 30

Alle Prozessoren sehen die gleiche Reihenfolge der Operationen

Question 31

# Gemeinsamer Hauptspeicher Die strikte Konsistenz ist schwierig zu implementieren. Wie bestimmt man den Zeitpunkt?

Answer 31

Man benötigt eine genaue Uhr

Question 32

# Gemeinsamer Hauptspeicher - Strikte Konsistenz Bei der strikten Konsistenz müssen alle Operationen geordnet und nacheinander ausgeführt werden. Welche Auswirkung hat es auf die Parallelisierung?

Answer 32

Es zerstört einen Großteil der Parallelisierung

Question 33

# Gemeinsamer Hauptspeicher - Strikte Konsistenz Befehle dauern mehrere Takt und können sich überholen. Welche Fragen entstehen deswegen?

Answer 33

* Zeitpunkt: Eintritt in die Pipeline? * Austritt aus der Pipeline?

Question 34

# Gemeinsamer Hauptspeicher - Sequentielle Konsistenz Bei der sequentiellen Konsistenz ist es schwer den Zeitpunkt einer Operation zu bestimmen, jedoch ist es leicht die Reihenfolge von Operationen einer einzelnen CPU zu bestimmen. Wie wird die Reihenfolge aller Befehle behandelt?

Answer 34

Die Reihenfolge aller Befehle einer einzelnen CPU wird bewahrt

Question 35

# Gemeinsamer Hauptspeicher - Sequentielle Konsistenz Bei der sequentiellen Konsistenz ist es schwer den Zeitpunkt einer Operation zu bestimmen, jedoch ist es leicht die Reihenfolge von Operationen einer einzelnen CPU zu bestimmen. Wie werden die Zeitpunkte einer Operation festgelegt?

Answer 35

Die Wahl des Zeitpunktes einer Operation ist zufällig

Question 36

# Gemeinsamer Hauptspeicher - Sequentielle Konsistenz Was sehen die CPUs global?

Answer 36

Alle CPUs sehen global dieselbe Reihenfolge

Question 37

# Gemeinsamer Hauptspeicher - Sequentielle Konsistenz Wie führen die CPUs ihre lokalen Befehle aus?

Answer 37

Sie führen ihre lokalen Befehle in strikter Reihenfolge aus

Question 38

# Gemeinsamer Hauptspeicher - Sequentielle Konsistenz Was ist die einzige Einschränkung bei der sequenziellen Konsistenz?

Answer 38

Das Verzahnen einer lokalen Reihenfolge zu einer globalen Reihenfolge ist zufällig

Question 39

# Gemeinsamer Hauptspeicher - Prozessor-Konsistenz Das Problem der sequentiellen Konsistenz ist das alle CPUs dieselbe globale Reihenfolge haben. Welche Lösungsidee gibt es?

Answer 39

Die lokale Reihenfolge bleibt erhalten aber die CPUs sehen andere globale Reihenfolgen

Question 40

# Gemeinsamer Hauptspeicher - Prozessor-Konsistenz Wie werden die Operationen eines Prozessor bei der Prozessor-Konsistenz von anderen Prozessoren gesehen?

Answer 40

Die Operationen eines Prozessors werden von allen anderen Prozessoren in derselben Reihenfolge gesehen

Question 41

# Gemeinsamer Hauptspeicher - Prozessor-Konsistenz Was muss man trotzdem beachten bezüglich der globalen Verzahnung der lokalen Reihenfolgen?

Answer 41

Jeder Prozessor kann eine andere globale Verzahnung der lokalen Reihenfolge sehen

Question 42

# Gemeinsamer Hauptspeicher - Schwache Konsistenz Was ist die Grundidee der schwachen Konsistenz?

Answer 42

Keine Garantien, es sei denn man wünscht es

Question 43

# Gemeinsamer Hauptspeicher - Schwache Konsistenz Was kann jede CPU bei der schwachen Konsistenz?

Answer 43

Jede CPU kann eine andere Reihenfolge von Operationen beobachten

Question 44

# Gemeinsamer Hauptspeicher - Schwache Konsistenz Gibt es Einschränkungen für diese Reihenfolge?

Answer 44

Nein, es ist alles möglich

Question 45

# Gemeinsamer Hauptspeicher - Schwache Konsistenz Kann eine Synchronisation erzwungen werden?

Answer 45

Ja, die kann erzwungen werden

Question 46

# Gemeinsamer Hauptspeicher - Schwacher Konsistenz Bei der Synchronisation werden alle laufenden und ausstehenden Speicherzugriffe durchgeführt und bis dahin werden keine neuen Zugriffe durchgeführt. Was sehen die CPUs direkt nach der Synchronisation?

Answer 46

Sie sehen alle denselben Speicherzustand

Question 47

# MPPs - Massively Parallel Processors MPPs ist eine Architektur die für Superrechner geeignet ist. Was ist damit möglich?

Answer 47

* Wissenschaftliche Simulationen * Schach auf Großmeisterniveau

Question 48

# MPPs - Massively Parallel Processors Welche Prozessoren werden benutzt?

Answer 48

Standard PC Prozessoren wie Pentium, Xeon, UltraSPARC und PowerPC

Question 49

# MPPs - Massively Parallel Processors Welche Technologie wird für die Kommunikation benutzt?

Answer 49

Spezielle proprietäre Technologie

Question 50

# MPPs - Massively Parallel Processors Was wird für die Nachrichtenübertragung benutzt?

Answer 50

Spezielle Softwarebibliotheken

Question 51

# MPPs - Massively Parallel Processors Die Kommunikation bei MPPs ist schneller als bei normalen Netzwerken aber vergleichsweise...?

Answer 51

teuer

Question 52

# Topologien für Computernetze Welche Topologien gibt es? Liste alle Topologien aus der Vorlesungen auf

Answer 52

* Star * Complete interconnect * Tree * Ring * Grid * Double torus * Cube * 4D Hypercube

Question 53

# Cluster Cluster sind Multicomputer aber haben einen wichtigen Unterschied zu MPPs. Welche Unterschiede gibt es?

Answer 53

* Cluster bestehen aus vielen PCs * PCs werden über ein Netzwerk miteinander verbunden

Question 54

# Cluster Welche Vorteile gibt es?

Answer 54

* Alles Standardteile * Geringe Kosten * Vergleichsweise einfacher Aufbau * Spezielle Linux-Versionen verfügbar

Question 55

# Cluster - Nachteile Welchen Unterschied gibt es zwischen den PCs und Netzwerken und den MPP Bauteilen?

Answer 55

PCs und Netzwerke sind nicht so effizient wie die speziell entwickelten MPP Bauteile

Question 56

# Cluster Welcher Nachteil entsteht durch die fehlende Effizienz der PCs und Netzwerke im Vergleich zu MPP Bauteilen?

Answer 56

Die PCs und Netzwerke sind etwas langsamer