Informationstheorie Flashcards

1
Q

Wie sind digitale Medien definiert?

A
  • vom Computer erfasst, gespeichert oder versendet
  • vom Menschen genutzt
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
2
Q

Was ist ein Präsentationsmedium?

A

Hilfsmittel zur Ein- und Ausgabe

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
3
Q

Was ist eine Codierung?

A

Repräsentation der Information

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
4
Q

Welche Unterscheidungsebenen gibt es bei Multimedia?

A
  • Präsentationsebene
    – mono- vs multimeidal
  • Kodierungsebene
    – mono- vs multicodal
  • Perzeptionsebene
    – mono- vs multimodal
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
5
Q

Erläutere das Kommunikationsmodell von Shannon und Weaver

A
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
6
Q

Was ist ein analoges Signal?

A

Analoges Signal ist gegeben durch deterministische Änderungen einer physikalischen Größe entsprechend einem Messwert der zu übertragenden Information

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
7
Q

Wie verlaufen analoge Signale meistens?

A

periodisch

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
8
Q

Was gibt die Wellenlänge an?

A

Weg, den ein Signal innerhalb einer Phase zurücklegt

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
9
Q

Was gibt die Frequenz an?

A

Anzahl von sich wiederholenden Schwingungen pro Sekunde

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
10
Q

Was gibt die Periodendauer an?

A

wie lange eine vollständige Schwingung dauert

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
11
Q

Was bedeutet Abtastung (Sampling)?

A

analoges Signal wird in digitales Signal umgewandelt

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
12
Q

Was bedeutet Synthese? Bei der Umwandlung von digitalen Signalen?

A

Signal liegt digital vor und wird in anderes (analoges/digitales) Signal umgewandelt

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
13
Q

Was ist die Quantisierung?

A
  • Bei Quantisierung werden im Rahmen der Abtastung ermittelten Messwerte in festem Werte-Raster dargestellt
  • Messwerte werden als Zahlen im endlichen Wertebereich festgehalten
  • Bits pro Sample definieren Genauigkeit der gewählten Digitalisierung
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
14
Q

Wie können sich verschiedene Signale zeitlich und im Wert unterscheiden durch unterschiedliche Kodierung?

A
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
15
Q

Was besagt die Fouriertransformation?

A

periodische Schwingungen lassen sich immer durch eine unendliche Summe von sich überlagerten Cosinus-Schwingungen annähern

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
16
Q

Auf welchen Grundideen basiert die Wahl der Abtastrate?

A
  1. Reales (periodisches) Signal kann als Überlagerung von Grundsignalen verschiedener Frequenzen aufgefasst werden
  2. Für Wahl der Abtastrate ist höchste Frequenz im Signal entscheidend
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
17
Q

Bis wann sollte die Abtastrate erhöht werden?

A
  • Erhöhung der Abtastrate bis schnellster Wechsel des Signals von Abtastung relevant erfasst werden
  • relevant bedeutet insbesondere vom Menschen noch wahrnehmbar (vgl. Audio, Bilder, Video, etc.)
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
18
Q

Wann lässt sich ein Ursprungssignal ohne Informationsverlust aus dem abgetastetem Signal rekonstruieren?

A

Wenn kontinuierliches periodisches Signal mit oberer Grenzfrequenz fmax mit
Abtastrate von mehr als 2 · fmax abgetastet
wird, lässt sich Ursprungssignal ohne Informationsverlust aus abgetastetem Signal rekonstruieren

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
19
Q

Welchen Frequenzbereich hört der Mensch?

A

16Hz bis 20kHz

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
20
Q

In welchen Frequenzbereich fällt die menschliche Sprache?

A

150Hz bis 3,5kHz

21
Q

Werden Informationen direkt verarbeitet?

A

Nein, sie werden aus deren Repräsentationen verarbeitet

22
Q

Was bezeichnet man als Entropiekodierung?

A

Entropiekodierung ist Methode zur verlustfreien Datenkompression, die jedem Zeichen eines Textes unterschiedlich lange Folge von Bits zuordnet

23
Q

Was bezeichnet man als Stringersatzverfahren?

A

Stringersatzverfahren ersetzen Folge von Zeichen des Originaltextes durch Folge von Zeichen eines anderen Alphabets

24
Q

Was bezeichnet der stochastische Ansatz bei der Kodierung?

A

Kodierung in Abhängigkeit der Auftritts- wahrscheinlichkeit eines Zeichens

25
Q

Woruas besteht die Nachrichtenquelle? Bei der stochastischen Kodierung?

A

Nachrichtenquelle ist Zeichenvorrat A zusammen mit Wahrscheinlichkeitsverteilung,
die für jedes Zeichen aus A dessen Auftrittswahrscheinlichkeit angibt

26
Q

Was gibt der Informationsgehalt eines Zeichens an?

A

Informationsgehalt eines Zeichens gibt an, wie viel Information übertragen wird

27
Q

Was gibt der Entscheidungsgehalt an?

A

Entscheidungsgehalt gibt Anzahl an Bits an, die notwendig sind, um aus Informationsmenge auszuwählen
* Auswahl aus 2-elementigen Menge entspricht 1 Bit, aus 4-elementigen Menge 2 Bit …

28
Q

Wie rechnet man mitels der Auftrittswahrscheinlichkeit eines Zeichens dess Entscheidungsgehalt aus?

A
29
Q

Was gibt die Entropie bei der Kodierung an?

A
30
Q

Wie berechnet sich die durchschnittliche Wortlänge einer Kodierung?

A
  • Für Kodierung c einer Nachrichtenquelle ist durchschnittliche Wortlänge L die
    nach Auftrittswahrscheinlichkeit gewichtete Summe der Wortlängen aller Kodierungen der Zeichen
31
Q

Wie lässt sich die Rendundanz einer binären Kodierung berechnen?

A
32
Q

Wann ist eine Kodierung optimal?

A

Wenn die Redundanz der Kodierung gleich null ist

33
Q

Was ist das Ziel von Kompression?

A

die Reduktion des Datenumfangs

34
Q

Welche Kategorien von Kompressionsverfahren gibt es?

A
  • universelle (für alle Daten, unabhängig vom Usrpung) und
  • spezielle (auf einen Medientypen abgestimmt) Kompressionsverfahren
35
Q

Wie lassen sich Kompressionsverfahren im Bezug auf deren Verlust einordnen?

A
  • verlustbehaftet oder
  • verlustfrei
36
Q

Was besagt die Fano-Bedingung?

A

Kodierung c von Zeichen a ∊ A auf Wort c(a) ∊ B* erfüllt die Fano-Bedingung genau dann, wenn für alle Zeichen b ∊ A gilt, dass das Wort c(a) nicht Anfang des Wortes c(b) ist

37
Q

Was ist die Grundidee der Huffman-Kodierung?

A
  • Seltener vorkommende Zeichen bekommen längere Codes als häufiger vorkommende Zeichen
  • Code-Konstruktion über Binärbaum
38
Q

Was ist ein ungerichteter Binärbaum?

A
  • zusammenhängend
  • kreisfrei
  • jeder Knoten max. zwei Kinderknoten
39
Q

Wie funktioniert der Hufman Algorithmus?

A
  1. Für jedes Zeichen a ∊A erzeuge Knoten; markiere Knoten mit Häufigkeit, mit der a im Text t ∊A * vorkommt
  2. Suche Knoten u und v mit minimaler Markierung p(u) bzw. p(v), zu denen noch keine Kante hinführt
  3. Erzeuge neuen Knoten w und verbinde w mit u und v; markiere Kanten mit 0 bzw. 1
  4. Markiere Knoten w mit p(u) + p(v)
40
Q

Wann ist die Huffman-Codierung optimal?

A

falls die Wahrscheinlichkeiten der Zeichen Kehrwerte von Zweierpotenzen sind

41
Q

Was ist die Arithmetische Kodierung?

A
42
Q

Erläutere den Ablauf der Arithmetischen Kodierung

A
  1. Unterteile Startintervall [0,1) in Subintervalle;
    Größe der Subintervalle ist relativ zur Auftritts- wahrscheinlichkeit des Zeichens; Reihenfolge der Zeichen wird durch Konvention festgelegt
  2. Subintervall, das dem nächsten Zeichen der Eingabe entspricht, wird zum aktuellen Intervall (Unterteilung wie in Punkt 1.)
  3. Sind weitere Zeichen zu kodieren, dann weiter bei Punkt 2; ansonsten weiter zu Punkt 4.
  4. Kodierung ist beliebige Zahl aus aktuellem Intervall und Anzahl der kodierten Zeichen
    * Zahl wird so gewählt, dass möglichst wenig Nachkommastellen berücksichtigt werden müssen, d.h. weniger Bits
43
Q

Was ist die Lauflängenkodierung?

A
  • Lauflängenkodierung (engl. Run Length Encoding, RLE) ist verlustfreier Entropiekodierer
  • Grundidee ist jede Sequenz von identischen Symbolen durch deren Anzahl und Symbol zu ersetzen
44
Q

Was geschieht, wenn eine Nachricht nur wenige Wiederholungssequenzen bei der Lauflängenkodierung hat?

A

Falls in Nachricht nur wenige Wiederholungssequenzen sind, werden nur Folgen ab bestimmter Länge (z. B. drei) kodiert

45
Q

Was ist ein Maskierungszeichen (engl. escape character)?

A

zeigt an, dass komprimiertes Tupel folgt

46
Q

Wie läuft die Lempel-Ziv-Welch Kodierung ab?

A
47
Q

Wie funktioniert die LZ78 Variante?

A

Sie bestimmte einfach eine eigene Repräsentation der Grundbuchstaben und baut davon ausgehend bekannte Buchstabenfolgen ab

48
Q

Wie häufig muss ein Audiosignal bei der Digitalisierung pro Sekunde abgetastet werden, um alle vom Menschen wahrnehmbaren Frequenzen fehlerfrei wiederzugeben?

A

mehr als 40.000-mal
Das menschliche Gehör ist in der Lage Frequenzen bis maximal 20.000 Hz wahrzunehmen. Nach dem Abtasttheorem von Nyquist & Shannon müssen daher Audiosignale mehr als doppelt so häufig abgetastet werden, um alle noch gerade durch den Menschen hörbaren Signale korrekt wiedergeben zu können.

49
Q

Wieviel Speicher wird für eine Stunde Musik in Stereo (mit je 16 Bit) benötigt?

A

ca. 600MB