12.Neurális hálók Flashcards
(9 cards)
Mutassa be hogyan működik a neurális háló egy neuronja!
McCulloch-Pizzs egység 1943
a neuron akkor tüzel amikor a bementi értékek összege meghalad egy küszöböt
1.Bemeneti értékek
bemenetek(x) + súlyok (w) + eltolás(b)
z = w1x1 + w2x2 + … + wn*xn +b
2.Aktivációs függvény
output = f(z)
3.Kimenet
Milyen aktivációs függvényeket ismer és mik a különbségek?
Küszöb
Adott küszőbb felett 1 ellenben 0
Szigmoid
f(x) = 1/(1+e^(-x))
kimenet 0-1 jó valószínűség értékekhez
Relu
f(x) = max(0,x)
Tanh
kimenet -1,1
f(x) = tanh(x)
Softmax
kimenetei valószínűségelk (összegük = 1)
Milyen neurális háló struktúrákat ismer és mik a különbségek?
Előrecsatolt hálók:
-Fgv-t definiál nincs memória
-a pillanatnyi bemente függvénye a kimenet
-rétegekbe szervezzük egy egység csak a szomszédos rétegekkel áll kapcsolatba
-egy / több rétegű perceptronok
XOR-t nem tud
Rekurrens hálók:
Egy egyszerű példán keresztül mutassa be, hogyan működik egy egyrétegű előrecsatolt neurális háló!
Az összes bemenet közvetlenűl a kimenetre kapcsolódik
- minden kimeneti egység független a többitől így elég eggyenként vizsgálni
pl.: AND művelet
bemenetek : x1,x2
súlyok: w1,w2
bias :b = -0.9
z = w1x1 + w2x2 + b
kimenet = f(z)
f(z) =
| 1 ha z > 0,
| 0 ha z < 0
Hogyan tudjuk tanítani a neurális hálónk súlyait? Milyen módszer ismert rá és mi a módszer alapelve?
ha a hiba pozitív (a háló kimenete kicsi) pozitív bemenet súlyait növeli, nevgatív bemenet súlyait csökkenteni kell (ha negitív a hiba akkor fordítva)
Milyen típusú tanulási módszereket ismer és mik a különbségek? Miként különböznek diszkrét és folytonos esetben?
1.Felügyelt tanulás:
Lényege: Olyan tanulási forma, ahol a bemenetekhez tartozik egy célérték (label) is. A modell megtanulja a bemenet–kimenet kapcsolatot.
Diszkrét kimenet → Klasszifikáció (pl. képosztályozás)
Folytonos kimenet → Regresszió (pl. árbecslés)
- Felügyelet nélküli tanulás
Lényege: Nincs megadva célérték, a modell mintázatokat keres az adatokban. - Megerősítéses tanulás
Lényege: Egy ügynök egy környezetben döntéseket hoz, és jutalom alapján tanulja meg, mi a legjobb stratégia (policy)
Diszkrét eset:
A kimenet véges számú osztály vagy kategória.
Pl. “igen/nem”, “kutya/macska”, 0–9 számjegyek
Általában klasszifikációs probléma
Hiba mértéke: pl. keresztentrópia
Folytonos eset:
A kimenet egy valós szám vagy valós vektor
Pl. hőmérséklet, ár, idő
Regressziós probléma
Hiba mértéke: pl. MSE, MAE
Mutassa be a konvolúció műveletét!
egy kis méretű mátrixot (kernel vagy filter) végigcsúsztatunk egy nagyobb bemeneti mátrixon (pl. kép), és minden pozíción skalárszorzatot végzünk a lefedett értékek és a kernel között.
Milyen módon és milyen függvények közelíthetőek neurálsi hálók segítségével?
A neurális hálók képesek megtanulni:
Lineáris és nemlineáris függvényeket
Szakaszos, összetett, nem analitikus viselkedést is
Matematikai függvények:
Lineáris:
f(x)=2x+1
Nemlineáris:
f(x)= sin(x)
Többváltozós:
f(x,y)=x^2+y^2, sin(xy)
Diszkrét modellek folyamatos közelítése:
Pl. döntési határok logikai problémákban (XOR, AND, stb.)
Valós adatokból tanult függvények:
Időjárás-előrejelzés
Árfolyamok
Szenzoradatok – pl. hőmérséklet, zajszint
Milyen hiba függvényt alkalmazhatunk regressziós problémák megoldásához?
MSE Mean Squared Error
Bünteti a nagy hibákat (mert négyzetre emel)
Leggyakoribb hiba függvény regresszióhoz
MAE Mean Absolute Error
Kevésbé érzékeny a kiugró értékekre, mint az MSE
Lineárisan nő a hiba nagyságával