15. Gyorsítótárak

Question 1

Szerepük

Answer 1

Az adatforgalom gyorsítása és egyenletessé tétele. Átmeneti, gyors, a felhasználó számára láthatatlan tárolás.

Question 2

Memória hierarchia

Answer 2

kép35

Question 3

Definíció

Answer 3

A cache a memória egyes egymást követő részeit tárolja, azok tárolóhelybeli címével együtt.

Question 4

Elvárás

Answer 4

Elvárás, hogy minnél nagyobb, gyorsabb és magas találati arányú legyen (ellentét!) (szintek bevezetése)

Question 5

Cache típusok, szintek és késleltetések

Answer 5

o Utasítás, adat cache: L1 (általában a CPU órajelén fut: 1.3 – 1.5 ns | 2 – 4 ciklus)
o Mixed cache:
- L2 (4.5 – 8 ns | 9 – 14 ciklus)
- L3 (12 – 20 ns | 20 – 40 ciklus)

Question 6

Méret

Answer 6

32kB–30MB

Question 7

Elhelyezkedés lehet

Answer 7

o off-chip
o on-chip (mai)
Az adatátvitel a gyorsítótárak és a memória között mindig blokkos formában zajlik
- blokkméret: 4 - 64 byte (utasítás, illetve adat esetén eltérő lehet)
- sorméret: az a mennyiség, amely egy időben összehasonlítható, illetve
kijelölhető (altalában <= blokkméret)

Question 8

Adataktualizálási módszer

Answer 8

o Write Through (cserék előtt)

o Write Back (azonnali)

Question 9

Koherencia mechanizmus

Answer 9

A gyorstítótár és az operatív tár megegyezésének biztosítására (CC-NUMA esetén)

Question 10

Visszakeresés módja

Answer 10

1. Tartalom szerint: asszociatív keresés (CAM: Content Address Memory)
2. Elhelyezkedés szerint: (MMU: Memory Management Unit » virtuális – fizikai címfordítás)
   o Fizikai cím: [ CPU – MMU – Cache ] – RAM (mai)
   o Virtuális cím: [ CPU – Cache – MMU ] – RAM (offset, összehasonlítás)
   o Tag: a memóriacímnek az a része, amely alapján közvetlenül (a tárolt értékből) vagy
   közvetve (a tárolt értékből és a cache-ben való elhelyezkedésből) meghatározható a memóriablokk kezdőcíme:
   - fizikai tag: szuperskalároknál általános
   - virtuális tag: csökkenti a cache miss késleltetését

Question 11

Cache Hit ↔ Cache Miss

Answer 11

 az elfogadott hibaarány általában kevesebb mint 10%
o találati hiba esetén (Cache miss) a CPU betölti az adatot az operatív tárból a
regiszterbe, illetve a gyorsítótárba
 a találati arány függ a cache méretétől, illetve a szervezés módjától
 Cache hit » sikeres találat, osztva a szumma „tárhoz fordulás”-sal.

Question 12

Cache Replacement Policy

Answer 12

Gyorsítótár Helyettesítési Stratégia) A tartalom cseréjekor a megfelelő helyettesítési stratégiát kell alkalmazni.
 Például:
o FIFO – First In First Out
o LIFO – Last In First Out
o LRU – Least Recently Used 
o LFU - Least Frequently Used

Question 13

Mit tárolunk a cache-ben?

Answer 13

 Adatokat
 Tag-eket
 Állapotbiteket (vezérlést, illetve helyettesítési eljárást kiszolgáló bitek)

Question 14

A legfontosabb állapotbitek

Answer 14

o V-bit:
o validate (érvényességjelző) bit
o vonatkozhat blokkra, sorra vagy bájtra
o legalább blokkonként van egy V-bit
o érvényes a cache-beli adat, ha a megadott tároló címen (ahonnan be lett töltve)
lévő eredeti adattal megegyezik és ahhoz is tartozik!
o cache törlés: V-bit 0-ra állítása

o D-bit:
o dirty (módosításjelző) bit
o blokkokra vonatkozik
o azt jelzi, hogy az adat módosítva lett, de még nem lett átírva az operatív tárba!
o amíg ez az átírás nem történik meg, addig nem lehet új adatot írni a blokkba

Question 15

Koherencia protokollok

Answer 15

Gyorsítótár koherencia probléma: a gyorsítótár egyelőség fentartása. » C1 mag L1 értékét megváltoztatja, de ugyanezt az adatot C2 L1-e is tárolja. Megváltoztassa ő is, vagy érvénytlenítse?

1. Snoopy protokoll
2. Könyvtár alapú protokoll
3. MESI protokoll

Question 16

Snoopy protokoll

Answer 16

Amikor gyorsítótár írást érzékelünk a buszon, akkor invalidáljuk a megfelelő címhez tartozó cellát (max. 2 – 4 mag/CPU esetén ajánlott)
Előnye: egyszerűen kiépíthető
Hátránya: sok mag/CPU esetén nagymértékben terheli a buszrendszert

Question 17

Könyvtár alapú protokoll

Answer 17

A megosztott adatok egy közös könyvtárba kerülnek. Ez szűrőként
üzemel. Jól skálázható!
o A CPU engedélyt kér, hogy betölthessen egy blokkot az operatív tárból a
gyorsítótárba.

Question 18

MESI protokoll

Answer 18

Új állapotjelzők bevezetése:
o M: Modified (1. tár valid csak)
o E: Exclusive (valid, de csak itt található, illetve a fő tárban)
o S: Shared (valid és létezik még legalább egy helyen, illetve a fő tárban)
o I: Invalid

Question 19

Megvalósítások – adat elhelyezés

Answer 19

1. Fully Associative Cache
2. Direct Mapped Cache
3. Set Associative Cache
4. Sector Mapping

Question 20

Fully Associative Cache

Answer 20

 A beolvasott blokk bármelyik sorban elhelyezhető, az elhelyezést a helyettesítési algoritmus határozza meg.
 N db. összehasonlító áramkört tartalmaz (N = sorszám)
 Amikor a CPU adatot keres, minden sort egyszerre vizsgál
 nagyon ritka

 Előnyei:
o gyors
o rugalmas
o magas találati arány

 Hátrányai:
o sok összehasonlító áramkör
o drága

kép36

Question 21

Direct Mapped Cache

Answer 21

(egy utas asszociatív cache)

• 1-1 blokk csak egy meghatározott helyre kerülhet
• A blokk helyét a blokk sorszáma határozza meg
• 1 db. összehasonító áramört tartalmaz
• Előnyei:
• gyors
• egyszerű és olcsó
• Hátrányai:
• merev
• alacsony találati arány

-Találati arány javítható, ha növeljük a cache méretét, de ekkor lassul a keresés.

Question 22

Set Associative Cache

Answer 22

(N utas asszociatív cache)
 minden blokk n helyre kerülhet
 általában 2 - 8 utas (ennyi sor / csoport)
 N db. összehasonlító áramkört tartalmaz
 csoportindex alapján jelöli ki a megfelelő csoportot, ahol aztán egyidejűleg keres
 16 utas SAC ~= FAC
 gyakori manapság

 Előnyei:
o gyors
o rugalmas
o kevés összehasonlító áramkör (ahány utas)

kép38

Question 23

Sector Mapping

Answer 23

 a csoport helye asszociatív módon van megadva
 a csoportokon belüli elhelyezés kötött
 ritka

Question 24

Exkluzív szervezés

Answer 24

kép39

Question 25

Inkluzív szervezés

Answer 25

kép40

Question 26

Szervezés többmagos CPU-k esetén

Answer 26

kép41

Question 27

Memória hierarchiak

Answer 27

kép42

Question 28

Cache line (cella) felépítés

Answer 28

1. ENTRY:
o TAG
o Tprot (bits)
o Dprot (bits)
o Stat (V-bit, D-bit)
2. DATA:
o Adat

Question 29

Mi a mai trend?

Answer 29

Mai trend, hogy az L1 az L2-n belül található (nem mellette) o DPL: Data Prefetch Logic – L2
- elemzi az L1 adatelérési sémáit (például a szekvenciális lekéreseket)

Question 30

Egy memóriaművelet elvégzésekor milyen folyamatok mennek még végbe?

Answer 30

Minden memóriaművelet egyidejűleg címfordítás, gyorsítótárindexelés és összehasonlítás!

Question 31

Mikor tegyünk adatot a gyorsítótárba?

Answer 31

o soha (például média)
o első betöltéskor (lassú)
o Prefetch (spekulációt igényel)

Question 32

Mi a slew rate?

Answer 32

Kapcsolás 0-ról 1-re