2 Ironies of AI – Teil 2

Question 1

Was ist Explainable AI (XAI)?

Answer 1

• KI-Systeme sollen für Menschen verständlich und nachvollziehbar sein
• Ziel: Nutzer können Entscheidungen und Logik der KI erkennen, bewerten und hinterfragen

Question 2

Warum ist Erklärbarkeit bei KI wichtig?

Answer 2

Ohne Erklärbarkeit:

• falsches Vertrauen
• Missverständnisse
• schweres Eingreifen im Fehlerfall

Besonders wichtig bei kritischen Entscheidungen wie Medizin, Justiz

Question 3

Was ist das Out-of-the-Loop-Problem?

Answer 3

• Mensch kennt Systemzustand nicht mehr → kann im Notfall nicht sinnvoll eingreifen
• Ursache: zu viel Automatisierung, zu wenig Rückmeldung
• Gefahr: Kontrollverlust

Question 4

Welche Fragen sollte eine erklärbare KI beantworten können?

Answer 4

• Welche Daten nimmt sie wahr?
• Welche Schlüsse zieht sie?
• Was erwartet sie als Nächstes?
• Welche Ziele verfolgt sie?
• Wie sicher ist ihre Einschätzung?

Question 5

Was ist Bias in KI-Systemen?

Answer 5

• Verzerrungen in den Daten oder der Logik
• Ursache: schlechte, einseitige oder historische Trainingsdaten
• Folge: diskriminierende oder fehlerhafte Entscheidungen

Question 6

Wie kann man Bias in KI erkennen oder verringern?

Answer 6

• Datenquellen analysieren
• Kausalität statt Korrelation prüfen
• Unsicherheiten offenlegen
• Nutzer auf Schwächen aufmerksam machen

Question 7

Was ist Generalisierungsfähigkeit in der KI?

Answer 7

• Fähigkeit, auch bei neuen, unbekannten Situationen sinnvoll zu handeln
  -Wichtig, um robust und flexibel zu reagieren
• Viele KI-Systeme versagen bei „out-of-sample“-Fällen

Question 8

Was bedeutet „out-of-sample“ bei KI?

Answer 8

• Neue, unbekannte Daten, die nicht im Training vorkamen
• Testet, wie gut die KI generalisieren kann
• Viele Systeme versagen hier → geringe Robustheit

z.B. KI kennt Eisbär, weil oft weisser Hintergrund und Hund, weil oft grüner Hintergrund. Zeigt man dann einen Hund mit weissem Hintergrund, denkt es es ist ein Eisbär.

Question 9

Was sind Intervention Interfaces?

Answer 9

• Benutzerschnittstellen, über die der Mensch in die KI eingreifen kann
• Beispiel: Warnhinweise, Korrekturfunktionen, manuelle Überschreibung
• Ziel: Mensch behält Kontrolle und Verantwortung

Question 10

Was sind zentrale Anforderungen an vertrauenswürdige KI?

Answer 10

• Transparenz
• Erklärbarkeit
• Sichtbarer Umgang mit Bias
• Menschliche Eingriffsmöglichkeiten
• Schulung der Nutzer:innen