#7: AI and Human Judgement

von Georg W.

Welche Erklärung finden Lebovitz et a. für die erfolgreiche Kollaboration zwischen Mensch und KI?

Auseinandersetzung mit den Ergebnissen der KI
Markierte Stellen werden sorgfältig geprüft und durch zoomen näher untersucht
Menschen sind dazu bereit mehr Zeit zu investieren um sich mit KI-Output auseinander zu setzen
Basierend auf den Untersuchungen kann Entscheidung der KI auch verworfen werden

Welche Anforderungen stellt Bryson an Transparenz?

Transparente Dokumentation der verschiedenen Designentscheidungen bei der Entwicklung und dem Testen von KI-Systemen
-> über den gesamten Lebenszyklus von KI-Systemen
Transparenz als Mittel, um Verantwortung korrekt zuordnen zu können

Welche Arten der Entscheidungsfindung haben wir un der Vorlesung kennengelernt?

Welche Ziele verfolgen sie?

Aus welchem Grund ist Transparenz für folgende Rollen wichtig?

Experten
- Vertrauen in das Modell schaffe; wissen erlangen
Menschen, die vom Ergebnis von Modellen betroffen sind
- Entscheidung verstehen und fairness verifizieren
Gesetzgeber/Regulierungsbehörden
- sicherstellen, dass Modell mit Gesetzgebung im Einklang ist
Manager
- sicherstellen, dass Modell rechtskonform funktioniert
Programmierer, Data scientists
- Effizienz sicherstellen und verbessern, forschen, erweitern

Welche Arten von Schaden sieht Crawfort im Zusammenhang mit Bias?

Harms of allocation: Schaden durch ungleiche/ungerechte Verteilung von Ressourcen (z.B. Kredite, Grundsicherung,…)
Harms of representation: Schaden durch die Unterordnung einzelner Gruppen anhand von Identitäts-Charakteristiken
- Stereotyping: z.B. stereotypische Assoziationen (z.B. zum Beruf, familiäre Rolle)
- Recognition: einzelne Gruppen sind von System kaum oder gar nicht erkannt
  - z.B. schlechtere Erkennung von dunkelhäutigen Gesichtern
- Denigration: Verwendung von beleidigenden Assoziationen
  - z.B. PoC mit “Gorilla” labeln
- Underrepresentation: einzelne Gruppen werden in Daten kaum bis gar nicht repräsentiert

Welche Maßnahmen gegen diese Risiken haben wir kennengelernt?

Interpretierbare Modelle
- Logistische Regressionen
- Decision Trees
- K-means
- …
Techniken, um Modelle interpretierbar zu machen
- Modell-agnostische techniken
  - Modell Vereinfachung
  - Visualisierung
  - Erklärung anhand von Beispielen
- Model-spezifische techniken
  - Feature relevance
  - Lokale Erklärungen
  - Text Erklärungen

Zuletzt geändert
vor einem Jahr