13., 14. Flashcards
(11 cards)
Skaitmeninis natūralios kalbos apdorojimas
Kompiuterių gebėjimas suprasti, interpretuoti ir generuoti žmogaus kalba
Žodžių įterpiniai
Vektoriniai žodžių atvaizdai, atspindintys jų prasminius ryšius su kitais žodžiais
Didieji kalbos modeliai (LLM)
Didelio masto neuroniniai tinklai, treniruoti su milžiniškais tekstų rinkiniais
Enkoderis
Paverčia įvesties seką į tankų reprezentacijų rinkinį naudodamas self-attention ir feed-forward sluoksnius
Dekoderis
Generuoja išvestį naudodamas ankstesnius žingsnius ir enkoderio sukurtą reprezentacijų rinkinį
Seka-seka architektūra
Modeliai, kurie viena seka paverčia kita (anglų k. sakinį į lietuvių k.)
Turinio generavimas
Modeliai geba generuoti tekstą, vaizdus ar kitą turinį pagal pateiktą užklausą
Auto-enkoderis
Modelis, išmokstantis sumažinti duomenų dimensijas ir atkurti juos į pradinę formą
Variacinis auto-enkoderis
Tikimybinė autoenkoderio versija, mokanti modeliuoti duomenų pasiskirstymą
Generatyviniai priešiški tinklai
Sudaryti iš generatoriaus ir diskriminatoriaus, kurie konkuruoja, kad būtų sukurtas kuo tikroviškesnis turinys
Difuziniai modeliai
Momoki atkurti duomenis iš triukšmo atvirkštinio proceso eiga