#7: AI and Human Judgement

Auseinandersetzung mit den Ergebnissen der KI

Markierte Stellen werden sorgfältig geprüft und durch zoomen näher untersucht

Menschen sind dazu bereit mehr Zeit zu investieren um sich mit KI-Output auseinander zu setzen

Basierend auf den Untersuchungen kann Entscheidung der KI auch verworfen werden

Transparente Dokumentation der verschiedenen Designentscheidungen bei der Entwicklung und dem Testen von KI-Systemen

-> über den gesamten Lebenszyklus von KI-Systemen

Transparenz als Mittel, um Verantwortung korrekt zuordnen zu können

Intuitive Entscheidung: emotionale Belastung minimieren

Regeln und Heuristiken: Aufwand minimieren

Gewichtung nach Wichtigkeit: Transparenz maximieren

Werteanalyse: Genauigkeit maximieren

Experten

• Vertrauen in das Modell schaffe; wissen erlangen

Menschen, die vom Ergebnis von Modellen betroffen sind

• Entscheidung verstehen und fairness verifizieren

Gesetzgeber/Regulierungsbehörden

• sicherstellen, dass Modell mit Gesetzgebung im Einklang ist

Manager

• sicherstellen, dass Modell rechtskonform funktioniert

Programmierer, Data scientists

• Effizienz sicherstellen und verbessern, forschen, erweitern

Harms of allocation: Schaden durch ungleiche/ungerechte Verteilung von Ressourcen (z.B. Kredite, Grundsicherung,…)

Harms of representation: Schaden durch die Unterordnung einzelner Gruppen anhand von Identitäts-Charakteristiken

• Stereotyping: z.B. stereotypische Assoziationen (z.B. zum Beruf, familiäre Rolle)

• Recognition: einzelne Gruppen sind von System kaum oder gar nicht erkannt

  • z.B. schlechtere Erkennung von dunkelhäutigen Gesichtern

• Denigration: Verwendung von beleidigenden Assoziationen

  • z.B. PoC mit “Gorilla” labeln

• Underrepresentation: einzelne Gruppen werden in Daten kaum bis gar nicht repräsentiert

  • 
    

Interpretierbare Modelle

• Logistische Regressionen

• Decision Trees

• K-means

• …

Techniken, um Modelle interpretierbar zu machen

• Modell-agnostische techniken

  • Modell Vereinfachung

  • Visualisierung

  • Erklärung anhand von Beispielen

• Model-spezifische techniken

  • Feature relevance

  • Lokale Erklärungen

  • Text Erklärungen