Digitale Psychologie

Die Lernziele

Nach der Vorlesung, sollten Sie in der Lage sein…

• Digitale Psychologie definieren zu können

• Anwendungsgebiete der Digitale Psychologie benennen zu können

Definition der Digitalen Psychologie

• Beschreibung, Erklärung und Vorhersage des Erlebens und Verhaltens in Zusammenhang mit der Digitalisierung

• Digitalisierung: Nutzung digitaler Technologien in allen Lebens-, Arbeits- und Gesellschaftsbereichen → Veränderung innerhalb von Prozessen, Ereignissen und Strukturen → Veränderung im menschlichen Erleben und Verhalten

Einfluss von psychologischen Teildisziplinen in die Digitalen Psychologie

• Allgemeinen Psychologie (z. B. zu Wahrnehmung, Aufmerksamkeit und Emotionen)

• Persönlichkeitspsychologie (z. B. zu inter- und intraindividuellen Unterschieden im Umgang mit digitalen Medien und der Digitalisierung)

• Sozialpsychologie (z. B. zu kollektiven Reaktionen wie Shitstorm)

• Kognitionspsychologie (z. B. Informationsverarbeitung: Wahrnehmung oder zum Wissenserwerb)

Einordnung der Digitalen Psychologie

• Spezialgebiet der Psychologie

• Anwendungsdisziplinen

• Konzept- und Theoriebildung, der Ausarbeitung und Erprobung von Forschungsparadigmen und spezifischen Methoden

• Übernahme evaluations- und gestaltungswissenschaftlicher Aufgaben

Alternative Bezeichnungen der Digitalen Psychologie

• Cyber Psychologie

• Online Psychologie

• Virtuelle Psychologie

• ePsychologie

• Psychonik

• Mediale Psychologie

• Technikbasierte (technologiebasierte) Psychologie

• -> Bisheriger Forschung von Cyber Psychology (Teilgebiet der Medienpsychologie) mit Fokus auf das Internet

Digitale Psychologie Mindmap

Interdisziplinäre Perspektive der Digitalen Psychologie

• Aufbau auf anderen psychologischen Teilgebieten, wie z. B. der Allgemeinen Psychologie, der Sozial-, Entwicklungs- und Medienpsychologie

• Nutzung von Konzepten, Modelle und Theorie aus anderen Fachgebieten, wie z. B. der Informatik und Ingenieurwissenschaft, der Kommunikations- und Medienwissenschaft, der Philosophie und Kulturwissenschaft

KLAUSUR! Fragestellungen der Digitalen Psychologie:

1. Was macht die Digitalisierung mit dem Menschen?

• Veränderung des Menschen durch die Digitalisierung:

  • Denken, Fühlen und Verhalten → Passung bisheriger Theorien

  • körperliche und kognitive Entlastung (z. B. Hebewerkzeuge, Roboter und Computer)

  • schnellere Arbeitsabläufe und steigenden Gewinn (z. B. Fließbandfertigung und Warendatenbanken)

  • effiziente Verwaltung und Kommunikation (z. B. Digitalisierung der Melderegister und elektronische Antragsbearbeitung wie die Einreichung der Steuererklärung)

  • Selbstverständnis des Menschen: Was ist der Mensch? Wo fängt der Mensch bzw. das Menschsein an, wo hört er/es auf?

• Analyse von „neuen“ Mensch-Maschine/Computer-Interaktion → Erarbeitung neuer Theorien

2. Was macht der Mensch mit der Digitalisierung?

• „Menschengerechtes“ Arbeiten und Leben mit der Digitalisierung

• Nutzung von VR, digital Wearables, KI usw. in Interventionen

  
  

Apps, Smartphones und Technikarmbänder

Apps und Armbänder,

• die z. B. den Gemütszustand von Menschen vorhersagen (Mood- Predication): Beispielsweise sollen Stimmungsbarometer als eine Art Frühwarnsystem dem Menschen selbst helfen und auch andere informieren, wenn beispielsweise eine depressive Phase droht

• die biologische und psychologische Daten erfassen und auswerten: Beispielsweise ein Stimmungstagebuch: Befragung zu mehreren Frau Fragezeitpunkte am Tag

Psychotherapeutische Interventionen

• Anwendung digitaler psychotherapeutischer Interventionen Konfrontationstherapie mit Augmented Reality Anwendungen bei Spinnenphobien

• Virtual Reality: Therapie bei Angststörungen an

Roboter und Algorithmen

• Analyse der Stimme von Menschen und Rückschlüsse auf ihre Emotionen ziehen zu können: System Cogito die Stimme von Service-Mitarbeitern und fordert jene beim Erkennen von Unfreundlichkeit auf, einen freundlicheren Tonfall zu wählen

E-Recruitment

• Recruitment werden beispielsweise KI-basierte Möglichkeiten für das Networking mit Kandidaten, für die Talentsuche und die sogenannte Candidate-Experience-Optimierung genutzt

• In der Eignungsdiagnostik mithilfe KI valide Prognosen beruflicher Leistung und die Generalisierbarkeit der Erkenntnisse

Brain-Computer-Interfaces

• Brain-Computer-Interfaces (BCI), der Gehirn-Computer-Schnittstelle: Erkrankten Menschen werden alternative Kommunikationsmöglichkeiten durch BCI-Systeme zur Verfügung gestellt

• Minimalbewusstsein in Strukturen der künstlichen Systeme zu implementieren

  
  

Herausforderung

• KI sollten sich die Psycholog*innen mit ihren grundlegenden Paradigmen und Forschungserkenntnissen frühzeitig einbringen

• Nur so kann der Bereich der digitalen Psychologie mitgestaltet und im Sinne eines humanistischen Menschenbildes geprägt werden

• Dies passiert aber nicht naturwüchsig, sondern bedarf unterschiedlicher (gesetzlicher, wissenschaftlicher, ethischer, finanzieller) Rahmen und Möglichkeiten, um typische Hürden von Veränderungen – unter Berücksichtigung von ethischen Gesichtspunkten – gerecht zu werden

Nach der Vorlesung, sollten Sie in der Lage sein…

• die Begriffe „Digitalisierung“ und „digitale Transformation definieren zu können

• die Konsequenzen von der Digitalisierung aufzuzeigen und Handlungsfelder für die Psychologie benennen zu können

Digitalisierung

• Digitalisierung im engeren Sinne meint die Umwandlung von analogen Inhalten in digitale Formate, d.h. Objekte sollen von einem stufenlosen und kontinuierlichen (=analogen) in einen gestuften und diskreten (=digitalen) Zustand überführt werden, ohne dabei den Gehalt des Objekts zu verändern. In einem weiteren Sinne wird unter Digitalisierung die „Einführung neuer, auf digitalen Technologien basierender Lösungen“

  
  

Digitale Transformation

• Bei digitaler Transformation geht es grundlegend um den Wandel, den digitale Technologien in sämtlichen menschlichen Lebensbereichen auslösen.

Entwicklung zur digitalen Welt

Welche neuen Handlungsfelder gibt es für Psychologen/innen aufgrund der digitalen Transformation?

• Digitale Therapie/ Trainings

• Vernetzung Ortsunabhängig -> Fallbesprechung über Patienten

• VR Interventionen bsp. Angstpatienten

• Neue Interventionen für z.B. “Medienabhängigkeit”

• Weiterbildung für Psychologen per App/ digitale Formate

-> Beispiel: Psychologen als Begleiter der digitalen Transformation im Bereich der A und O Psychologie

Change Management

Veränderung der Arbeit:

• Aufgaben und Inhalte der Arbeit (z. B. neue Analysen)

• Strukturen und Prozesse der Arbeit (z. B. agile Prozesse)

• Hilfsmittel der Arbeit (z. B. neue Programme)

• Werte und ungeschriebene Gesetze, Status und Sicherheit, Wünsche und Gewohnheiten (z. B. Listen händisch pflegen)

→ Akzeptanz oder Widerstand üblich

→ Paradox: Veränderungsmanagement ist weniger mit technischen Aspektender Digitalisierung befasst, sondern mehr mit dem Faktor Mensch

Wissenmanagement / Digitale Kompetenz

• Schulung von Personal

• Aufarbeitung von digitalen Weiterbildungsprogrammen

• Verwaltung von Wissen innerhalb der Organisation

Innovationsentwicklung

• Befähigung der Mitarbeiter zu Innovationen: Methoden, Workshops, Strukturen in den Arbeitsablaufen, kreative Techniken

Mitarbeitergewinnung und -bindung

• Hochdynamischen Unternehmensumfeld der digitalen Ära: Innovationen und digitale Kompetenz der Mitarbeiter

• Fachkräftemangel in einigen Bereichen

• Wissen und Erfahrungen

Psychologische Handlungsfelder aufgrund der digitalen Transformation – Weitere Beispiele

Auswirkungen auf den Menschen:

• Allgemeine Psychologie: z. B. Verarbeitung von vorwiegend digitalen Informationen

• Differentielle Psychologie: z. B. Bildung des Selbst

• Markt- und Werbepsychologie: z. B. Aufbereitung von digitalen Medien

Nutzungsmöglichkeiten:

• Differentielle Psychologie: z. B. Diagnostik- und Messmethoden via KI

• Gesundheitspsychologie: z. B. Tracking von körperlichen Aktivitäten via App

• Klinische Psychologie: z. B. Therapiemöglichkeiten via VR

Die Lernziele

Nach der Einheit, sollten Sie in der Lage sein…

• zu erklären, was unter KI zu verstehen ist

• zu beschreiben, welche Formen der Mensch-KI Interaktionen existieren und welche Aspekte die Mensch-KI Interaktionen bedingen

• zu erläutern, wie die Zusammenarbeit zwischen Mensch und KI aussehen könnte und welche Probleme existieren

Definition von KI

• Die Definition von KI erweist sich, trotz der jahrzehntelangen Forschung als besonders umständlich

• Der Themenbereich rund um KI beinhaltet viele verschiedene Anwendungen, wie Maschinelles Lernen, Robotik sowie Bild- und Spracherkennung

• Als Teilgebiet der Informatik befasst sich Künstliche Intelligenz (KI) mit der Imitation menschlicher kognitiver Fähigkeiten

• Bei der so genannten schwachen KI sollen auf der Basis von programmierten Abläufen menschenähnliche Reaktionen auf Eingaben erzeugt werden

• Bei starker KI soll das System selbst denken, lernen, planen und Einschätzungen treffen → Intelligenz wird nicht nachgeahmt, sondern solche Systeme besitzen eine eigene Intelligenz

Maschinelles Lernen

• Erlernen von Algorithmen mit dem Ziel Muster und Korrelationen in großen Datenmengen zu finden und auf dieser Basis Entscheidungen und Voraussagen zu treffen

• Voraussetzungen für Maschinenlernen sind große Datenmengen und eine hohe Rechnerleistung, um Maschinen „trainieren“ zu können

• Ohne zusätzliche Programmierung lernen Algorithmen selbständig und werden stets besser und genauer, je mehr Daten sie zur Verfügung haben

• Häufige Anwendungsfelder sind die Bilderkennung, Videoüberwachung, E- Mail-Klassifizierung und Spam-Filterung, Produktempfehlungen, Betrugserkennung bei Kreditkartenzahlungen und medizinische Diagnosen

Formen von KI

• Large-scale Machine Learning: Beschreibt Lernalgorithmen, die in bereits bestehende Algorithmen integriert werden, um große Datenmengen zu verarbeiten

• Deep Learning: Lernprozeduren, die für Aufgaben wie: Bilderkennung, Generierung von Untertiteln oder Aktivitätserkennungen verwendet werden

• Robotics: Das Trainieren von Robotern, die mit ihrer Umwelt interagieren und auf unvorhersehbare Ereignisse reagieren müssen und Objekte bewegen sowie mit Menschen interagieren können

• Natural Language Processing: Natürliche Spracherkennung, die automatisch Sprache erkennen und auswerten soll, um so auf Aussagen von Menschen reagieren zu können und mit diesen durch entsprechende Antworten zu interagieren

Funktionalitäten von KI

• Erkennung: Beschreibt den Prozess der Mustererkennung in einem Datensatz, der durch eine entsprechende Schnittstelle in die Anwendung eingespielt wird

• Vorhersage: Bei der Vorhersage geben KI-Anwendungen eine Prognose darüber, wie sich etwas in Zukunft verhalten/entwickeln wird, indem Daten der Vergangenheit analysiert werden

• Empfehlung: Durch die Auswertung von Daten geben KI-Anwendungen Empfehlungen an Menschen, die diese dann in ihre Entscheidungsfindung integrieren, um ein besseres Urteil treffen zu können

• Entscheidungsfindung: KI-Anwendungen lernen durch ein entsprechendes Training durch Anwender, Daten auszuwerten und basierend auf den Ergebnissen eigenständig Entscheidungen zu treffen und die dazugehörigen Handlungen durchzuführen

Framework zur Einordnung von KI

KLAUSUR!

Vorteile beim Einsatz KI im beruflichen Kontext I

• Verbesserung der Effizienz von Betriebs-, Wartungs- und Lieferkettenvorgängen

• Erhöhte Kundenzufriedenheit, verbesserte Produkte und Leistungen durch Bereitstellung von neuen Funktionen, wie z. B. einer hilfreichen Produktempfehlung

• Schnelle und automatisierte Adaption an sich verändernde Märkte und Bedingungen sowie die Möglichkeit für neue Geschäftsmodelle

• Besser Planung des Angebots basierend auf Prognosen für die Nachfrage sowie ein verbesserter Vertriebsansatz

• Schnellere Erkennung und Aufklärung von Betrug sowie Optimierung und Automatisierung von IT-Prozessen

• Automatisiertes Qualitätsmanagement und Flottenmanagement durch geregelte Lieferketten, Logistik und Flottenressourcen

• Ablösung der Mitarbeiter bei monotonen Routineaufgaben, bei denen es vermehrt zu Routinefehler kommen kann. Diese Mitarbeiter können an anderen Stellen des Unternehmens für größere Mehrwerte sorgen

• Erhöhung der Interaktion mit Kunden im Verkauf und Handel durch eine gezielte Auswertung von personalisiertem Kaufverhalten, Vorlieben und grundlegenden Marktrends

Nachteile beim Einsatz KI im beruflichen Kontext

• Kontrollverlust über die KI-Anwendungen

• Beschleunigte Strukturwandel und der damit einhergehende Stellenabbau in Unternehmen

• Mitarbeiter müssen andere Aufgaben übernehmen

• Mitarbeiter müssen alte Tätigkeiten überwachen, da die KI-Anwendung noch nicht vollständig autonom arbeiten kann

• Datenschutz: Vielzahl von Schnittstellen können KI-Anwendungen Daten sammeln und verteilen. Dabei dürfen jedoch keine Daten an die falschen Schnittstellen weitergeleitet werden, da ansonsten sensible Daten frei verfügbar werden könnten, die allerdings streng vertraulich sein sollten

• Hohen Komplexität der Anwendung: Wenn die KI-Anwendungen von niemandem im Unternehmen verstanden werden, entsteht eine Art „Black- Box“, die zwar eine bestimmte Aufgabe erfüllt, jedoch nicht mehr in der Funktionsweise beeinflusst werden kann. Zudem bleiben Fehler unentdeckt

Angst gegenüber KI

• Die Besonderheit bei der Angst vor KI ist, dass KI nicht nur eine einfache Technologie ist, die von Menschen als „Werkzeug“ benutzt werden kann

• KI wird stattdessen oft eine Vielzahl von menschenähnlichen Attributen zugeschrieben. Die kognitiven Funktionalitäten von KI, wie die Fähigkeit zu Lernen und Probleme zu lösen, führen oft zur Assoziation von KI mit Menschen

AI Kategorisierung (funktional)

Relevante Aspekte, die die Interaktion bedingen

Drei Ebenen der Mensch-KI Interaktion

• Keine Interaktion: Aktivitäten beziehen sich nicht aufeinander

• Reaktive Interaktion: Eine Aktivität ist eine Reaktion auf eine Handlung zuvor

• Interaktive Interaktion: Eine Aktivität bezieht sich auf zahlreiche Handlungen zuvor

Verschiedene Formen der Interaktion

Erklärende KI und die Interaktion in Entscheidungen

Ziel der Human-KI Interaction

• Human-KI Symbiose

• Ausgleich von Stärken und Schwächen

• Collaborative Intelligence

Frage: Welche Stärken und Schwächen besitzt der Mensch bzw. die KI?

• Mensch: leadership, teamwork, creativity, and social skills (e.g., making jokes)

• KI: speed, scalability, and quantitative capabilities (e.g., analyzing gigabytes of data)

Mögliche Aufgabenverteilung

Aufgaben analysieren: Welche sind für den Menschen und welche für die KI geeignet?

• “Red” tasks: Routinetätigkeiten, wiederholende Tätigkeiten: Wenig Keativität aber hohe Aufmerksamkeit

• “Blue” tasks: Zusammenarbeit, Sozialarbeit: Beurteilungen, Empathie und Kreativität wichtig

Kompetenzen in der Entscheidungsfindung

Aufgaben der Manager und KI

• AI: Administrative und analytische Aufgaben

• Manager:

  • Kreativität and soziale Fähigkeiten sind wichtig

  • Networking, Coaching, und Zusammenarbeit

  • Mehr Zeit für Dateninterpretation, Ideenentwicklung, Nutzung von Wissen durch den Kontext und der Vergangenheit

Perspektiven auf die Zusammenarbeit

Welche neuen Handlungsfelder gibt es für Psychologen/innen aufgrund von KI?

• Einsatz von Therapie-Chatbots (Emotionserkennung)

• Unterstützung durch KI in der Diagnostik (KI-basierte Modelle geben Hinweise, erleichtert Diagnosestellung)

• Mit KI-App gegen psychische Erkrankungen bei Jugendlichen: Forschungsteam hat ein KI-Modell entwickelt, das Vorhersagen der Stimmungslage erstellt. Dann werden die passendsten Übungen ausgewählt.

Welche weiteren Probleme könnten in der Zusammenarbeit auftreten?

• Geringes Vertrauen in die KI aufgrund von mangelnder Transparenz, fehlendem Wissen über Entscheidungen und Algorithmen sowie wahrgenommener Fehler → KI = Black Box

• Zu viel Vertrauen in die KI, das zu Fehlnutzung und Fehleinschätzungen in die Fähigkeiten der KI führen

Wie könnten die Probleme gelöst werden?

Faktoren, die Vertrauen beeinflussen:

Probleme in der Human-KI Interaktion

• Geringes Vertrauen in die KI aufgrund von mangelnder Transparenz, fehlendem Wissen über Entscheidungen und Algorithmen sowie wahrgenommener Fehler → KI = Black Box

• Zu viel Vertrauen in die KI, das zu Fehlnutzung und Fehleinschätzungen in die Fähigkeiten der KI führen

• -> Siehe “Faktoren, die Vertrauen beeinflussen” (Karte 14)

Reflektion des Vortrags von Herrn Funken

Vortrag:

• Konstruktvalidität bewahren beim d2

• Fairness ist bei Spielen gegeben

• Keine neuen Items wurden verwendet (Sam) -> wird nicht veröffentlicht wegen schlechter Korr zu bestimmen Leistungen mit der Testleistung

• S. 29: Diversität eingebaut (schwarze Person)

• S. 30 Icons wurden nicht verstanden

• AI nicht besser, aber moderner

Welche Probleme können bei der Gestaltung von digitalen Fragebögen existieren?

• Kulturelle Probleme: z.B. nein sagen schwer zu akzeptieren; kognitiv load ziemlich hoch; focus (lokus) of control (Weiterbutton wurde nicht gefunden)

Welche Probleme gibt es bei spielbasierten Tests?

• Validierung musste abgebrochen werden; niedrige Korrelation zwischen Testergebnis und anderen bestimmten Leistungen (sollte eigentlich identische Ergebnisse wie paper pencil bringen)

  
  

Wie wirkt sich ChatGPT auf die bestehenden Assessments aus?

• Während des Ausfüllens etc. chatgpt benutzen (Nutzer) und nicht mehr selbst macht (Verzerrungen)

Wie kann man mit KI Assessments entwickeln?

• Items und Szenarien erstellen lassen (kreativ), Nomierung und Gauß’che Normalverteilung lässt sich simulieren; Chats entwickeln in der KI und Patient chatten und Diagnose gestellt wird

Wieso sind Psychologen in der Zusammenarbeit mit KI bei der Entwicklung von Assessments so wichtig?

• Prompts schreiben lassen (nicht autonom arbeiten lassen, sondern mit Psychologen die know how haben)

Unterstützung von Technologien im Human Ressources Management (HR)

Einsatz von AI im Recruiting I

• Anfertigung von Stellenausschreibungen

• Vor der Bewerbung geeignete Kandidaten finden

• Durchsicht und Sortierung der Bewerbungsunterlagen

• Beantwortung von Fragen der Kandidaten mithilfe von Chatbots

• Automatisierte E-Mails und Informationszusendung

• Verfolgung der Kandidaten nach Ablehnung

Einsatz von AI im Recruiting II

• Automatisiertes Onboarding

• Karriereplanung mithilfe von AI

• Organisation von Auswahlgesprächen

• Abnahme von psychologischen Tests // Interviews

• Erstellung eines psychologischen Profils

• Vorhersage der Performance

Beispiele für AIs im Recruiting

Vorteile durch den Einsatz von AI /Technologien in der Personalauswahl

• Zeit sparen: z. B. durch Vorsortierung der Kandidate

• Besser Kompetenzpassung: z. B. viel Material bearbeiten (online, offline)

• Kosten sparen: z. B. keine externen Firmen beauftragen, um Kandidaten zu finden

• Gute Qualität: z. B. keine verzerrte Wahrnehmung

• Schnellere Abwicklung: z. B. kein zeitlicher Verzug in der Kommunikation

• Simulation von echten Arbeitsbedingungen

• Schnell eine Vielzahl an potenziellen Kandidaten erreichen

• Positivere Wahrnehmung des Unternehmens

• Keine Kenntnisse über die notwendigen Kompetenzen durch die HR Abteilung

Herausforderungen durch den Einsatz von AI in der Personalauswahl

• Daten sind häufig nicht korrekt: z. B. Profile von sozial media

• AI muss Kompetenzen kennen: Teilweise sind diese unklar

• Richtige Begriffe müssen z. B. im Lebenslauf verwendet werden

• Angst gute Kandidaten zu verlieren

• Geringe Akzeptanz der Bewerber

• Geringe Transparenz der AI

• Verantwortlichkeit über die Entscheidung fraglich

• Zusammenarbeit mit AI anstatt eine autonome Entscheidung

• Datenschutz und –sicherheit

• Privatsphäre

• Aufklärung

  
  

Aktueller Stand und Zusammenarbeit mit AI im Recruiting

• Neben großen Unternehmen setzen auch KMUs AI vor allem im Screeningprozess ein

• Aktuell ist die Einbindung von AI eher noch nicht verbreitet

• Zusammenarbeit zwischen AI und Recruiter unklar: Keine Vorgaben

• Unterstützung durch AI von Recruitern erwünscht

• Autonome Entscheidungen durch AI über die Anstellung nicht wünschenswert

Nach der Vorlesung, sollten Sie in der Lage sein...

• den Einsatz, die Anwendungsbereiche, die Zukunftsaussichten, Potenziale und Gefahren von KI in der Emotionsmessung zu beschreiben

KLAUSURAUFGABE LETZTES JAHR:

ER in Personalauswahl

Wie könnte eine Zusammenarbeit als Psychologe in der Personalauswahl aussehen? Skizzieren Sie ein Model an einem konkreten Beispiel.

• Neue Krankenschwester wird eingestellt, Psychologe und KI arbeiten zusammen. Ein Interview wird durchgeführt und es wird die Mimik, Gestik beurteilt. Final trifft die Entschiedung, ob die Krankenschwester eingestellt wird, jedoch der Psychologe.

• Oder: ganz klassisch ein online Assessment (-> Video aufzeichnung (Face recognition) + Fragen auf die Antworten werden ausgewertet)

  
  

Welche Potenziale und Gefahren bestehen?

• Gefahr: KI deutet Informationen falsch (Videoanalyse könnte falsch laufen), KI kann auch abschrecken (Akzeptanz ist geringer an den Bewerbungen teilzunehmen)

• Potential: KI kann Objektiver sein

  
  

Interaktion und Zusammenarbeit mit ER:

Gefahren und Potenziale

Ängste

• Können Maschinen Emotionen bekommen bzw. besser Emotionen erkennen? Was können wir besser als die AI?

• Nur Zusammenarbeit mit AI statt autonome AI: Ausgleich von Schwächen

Potenziale

• Verbesserung unserer eigenen Wahrnehmung von Emotionen

• Mehrwert und Erleichterung bei den Kunden im Alltag

• Rechtlich (Datenschutz, Überwachung)

• AI: Berechnet Wahrscheinlichkeiten; Mensch verwendet seine Fähigkeiten

• Ethische Grundlagen: Richtlinien für die Gestaltung von Human-centered AI

Zukunftsaussichten

• Frühe Schritte: Innovationsphase // Auswirkungen unklar → Etablierung dauert an

• Weitere Verbreitung in unterschiedlichen Bereichen

• Vermehrte Vernetzung der Systeme und Übergabe von Emotionen

• Neue Geschäftsmodelle: Speicherung der Daten bei externen Unternehmen nicht intern im Unternehmen bzw. beim Tech-Unternehmen

  
  

• Unterschied zu Psychologen/innen bzw. die Zusammenarbeit mit diesen:

  • Fokus: Technologien

  • Keine Diagnostik, sondern die Konsequenz der Emotionen zentral

  • Hilfe bei der Frage: Wie reagiere ich auf erkannte Emotionen?

    
    

Formen der Erhebung von Persönlichkeitsmerkmalen

• Selbsteinschätzungen (Fragebögen, etc.)

• Fremdeinschätzungen (Fragebögen, etc.)

• Verhaltensbeobachtung

-> Die Kombination von allen drei Erhebungsmethoden ist der "Goldstandard"

-> Wo könnte hier technologische Unterstützung geleistet werden?

Personality Computing-Ansatz (PC)

• PC zielt darauf ab, die Persönlichkeit durch die Auswertung von Daten aus einer Vielzahl von Quellen, wie Texten, sozialen Netzwerken, Mobiltelefonen, Ortungsgeräten, Kameras und Mikrofonen zu ermitteln

• PC besteht aus zwei Teilbereichen, die eng miteinander verwoben sind:

  • Persönlichkeitserkennung und Persönlichkeitswahrnehmung

• Personality Recognition zielt auf die Vorhersage von selbstberichteten Persönlichkeitsmerkmalen ab, indem es gültige Anhaltspunkte erkennt

• Die erste Arbeit in PC, die sich insbesondere auf non-verbales Verhalten konzentriert, wurde 2008 von Pianesi und Kollegen veröffentlicht

• Die Autoren haben die Stimmcharakteristiken und die Bewegungen verschiedener Körperregionen gemessen, um den “Locus of Control” und die “Extraversion” von Zielpersonen zu ermitteln, die in kleinen Gruppen interagieren

Automatisierte Persönlichkeitsermittlung: Genutzte Daten zur Ermittlung von Persönlichkeit

• Soziale Netzwerknutzung (Dauer usw.)

• Einträge in sozialen Netzwerken (Facebook, Twitter, Instagramm...)

• Einträge in Bloggs

• Bilder und Profile in sozialen Netzwerken

• Videos

• Nutzung von einem Smartphone (Dauer usw.)

• Inhalt von E-Mails

• Inhalt eigner Webseiten

• Nutzungsdaten des Internets

• Tastatur und Mausnutzung

Text

Zuverlässige Korrelationen zwischen dem Schreibstil

• Zuverlässige Korrelationen zwischen dem Schreibstil (z. B. Häufigkeit des Wortgebrauchs) und der Persönlichkeit wurden in vergangenen Arbeiten festgestellt

• So verwendeten Personen mit einem höheren Werten in Extraversion mehr Wörter mit positiven Emotionen (z. B. toll, erstaunlich, glücklich), während Personen mit einem höheren Werten in Neurotizismus häufiger die Einzahl der ersten Person (z. B. ich, mein, mich) verwendeten

Erkennung von Persönlichkeiten durch soziale Medien

• In den letzten Jahren wurde die Erkennung von Persönlichkeiten durch soziale Medien, insbesondere Twitter, intensiv verfolgt

• Dies könnte teilweise darauf zurückzuführen sein, dass die Datenerfassung bei Twitter direkt und leicht über die Twitter-API zugänglich ist

• Die Forscher haben eine Kombination aus sozialem Verhalten des Nutzers (durchschnittliche Anzahl von Links, durchschnittliche Anzahl von Hashtags, durchschnittliche Anzahl von Erwähnungen usw.) und grammatikalischen Informationen (durchschnittliche Länge des Textes, durchschnittliche Anzahl von positiven und negativen Wörtern, durchschnittliche Anzahl von Sonderzeichen wie Komma, Fragezeichen usw.) zur Erkennung der Nutzerpersönlichkeit verwendet

Aufsätze

• Neben Daten aus sozialen Medien sind auch Aufsätze eine beliebte Textart und können für die Erstellung von Autorenprofilen verwendet werden

• Ein beliebter Datensatz ist der Datensatz der Bewusstseinsstrom- Essays

  • Es enthält 2 468 anonyme Aufsätze, die mit der Persönlichkeit der Autoren auf der Grundlage der Big-Five-Eigenschaften gekennzeichnet sin

    (Klausur -> Keine Namen, nicht so genau ins Detail gehen)

Audio

Audio als Erkennung der Persönlichkeit

• Es gibt relativ wenige Methoden, die sich darauf konzentrieren, nur Audio als einzigen Input für die Erkennung der Persönlichkeit zu verwenden

• Sie wird in der Regel mit einer visuellen Modalität zur bimodalen Persönlichkeitserkennung kombiniert

• Häufig funktioniert die Erkennung in zwei separaten Schritten: der Merkmalsextraktion und der anschließenden Weitergabe der Merkmale an einen Klassifikator

Audiodeskriptoren in 7 Gruppen unterteilt

• Die Audiodeskriptoren können grob in 7 Gruppen unterteilt werden:

  • Intensität, Tonhöhe, Lautheit, Formanten, Spektren und andere Merkmale

• Einige Forscher verwenden eine oder mehrere dieser Merkmalsgruppen zur Bewertung der Persönlichkeit, die auf der Äußerungsebene abgeleitet wird

• Diese Audiomerkmale (z. B. Intensität, Tonhöhe usw.) werden mit dem akustischen Analyseprogramm Praat extrahiert und einem SVM-Klassifikator zugeführt

Sprechen in Gruppen

• Sprechen in Gruppen: Jeder Sprecher wurde mit 14 Dialog Act-Tags versehen, und es wurde eine Korrelation mit den wahrgenommenen Persönlichkeitsmerkmalen festgestellt (insbesondere Extraversion)

• Merkmale der Sprechaktivität (Gesamt- und relative Sprechzeit pro Sprecher, durchschnittliche Dauer der Pausen pro Sprecher usw.) und Satzmerkmale (Gesamtzahl der Sätze, durchschnittliche Dauer, maximale Dauer usw.) werden ebenfalls in den Algorithmus einbezogen

Visuell

Physiognomie

• Physiognomie ist die Kunst, den Charakter oder die Persönlichkeitsmerkmale einer Person anhand der Merkmale des Körpers, insbesondere des Gesichts, zu bestimmen

• Forscher haben herausgefunden, dass das Gesicht den größten Teil der beschreibenden Informationen für den Rückschluss auf wahrgenommene Persönlichkeitseigenschaften liefert

• Algorithmen konzentrieren sich darauf, physische Merkmale aus Bildern zu extrahieren, wie z. B. die Form der Nase, die Körperform (fett, muskulös, dünn), die Form der Augenbrauen, und ihre Korrelation mit der Persönlichkeit zu ermitteln

  
  

Persönlichkeitsmerkmale anhand der Wahl des Twitter-Profilbildes

• Forscher haben Persönlichkeitsmerkmale einer Person anhand der Wahl ihres Twitter-Profilbildes vorhergesagt

• Das Modell wurde anhand der Daten von mehr als 66.000 Nutzern trainiert, deren Persönlichkeitstyp anhand ihrer Tweets vorhergesagt wurde, wobei die modernsten Techniken aus dem Bereich der Textmodalität verwendet wurden

• Es wurde eine Korrelation zwischen den ästhetischen und gesichtlichen Merkmalen des Profilbildes und den Persönlichkeitsmerkmalen der Nutzer festgestellt

• Die Nutzer mit hohen Werten in der Vertäglichkeit und Gewissenhaftigkeit zeigen in ihren Profilbildern eher positive Emotionen, während Nutzer mit einem hohen Maß an Offenheit eher ästhetische Fotos bevorzugen

Multimodal

• Die meisten multimodalen Architekturen für die Erkennung von Persönlichkeitsmerkmalen sind bimodular mit der Fusion von Merkmalen aus den Audio- und visuellen Modalitäten

• Die meisten multimodalen Ansätze führen eine späte Fusion durch, d. h. sie bilden den Durchschnitt der einzelnen Ergebnisse der Vorhersagen aus den Audio- und visuellen Modalitäten

• Die aus den einzelnen Modalitäten extrahierten Merkmale können zusammen verwendet werden, um die Persönlichkeitsvorhersage zu erstellen

Bedeutung der automatisierten Persönlichkeitsermittlung im digitalen Zeitalter

• Chatbots und Sprachassistenten: Anpassung der Interaktionen mit dem Nutzer durch die Ermittlung von Persönlichkeitsmerkmalen Verbesserte User Experience

• Empfehlungssysteme: Anpassung der Angebote durch die Ermittlung von Persönlichkeitsmerkmalen Verbesserte User Experience und erhöhter Absatz

• Online Spiele: Anpassung des Spiels durch die Ermittlung von Persönlichkeitsmerkmalen Verbesserte User Experience

KLAUSUR:

• Online Interventionen und Beratung: Anpassung der Interventionsangebote und Beratungen in Abhängigkeit der Persönlichkeit Verbesserte User Experience und bessere Passung

• Online-Bewerbungen: Selektion von Bewerbern bzw. passende Vorschläge für den Bewerber Verbesserte User Experience, schnelle Selektion und bessere Passung

• Vorhersagen und Beeinflussung von Ereignissen (z. B. politischen Wahlergebnissen) bzw. der Haltungen der Menschen: Anpassung von Maßnahmen (Kampagnen,...) für bestimmte Personen Erhöhung von Erfolg

-> Bedeutung darbieten (mit ca. 2 Beispielen)!

Herausforderungen und Vorteile des Personality Computing-Ansatzes

Herausforderung: Konstruktabhängig

• Viele Datensätze gibt es für das Big-Five-Persönlichkeitsmaß, aber für andere Persönlichkeitsmaße fehlen die Ressourcen

• Das MBTI-Persönlichkeitsmaß ist das derzeit weltweit am häufigsten verwendete Persönlichkeitsmaß

• MBTI-Eigenschaften sind schwieriger und komplexer vorherzusagen als die Big-Five-Eigenschaften, aber es ist möglich, dass aktuelle Deep-Learning- Modelle auch in diesem Bereich eine gute Genauigkeit erreichen

Herausforderungen: Kontextabhängigkeit

• Genau wie bei Studien mit Beobachtern hängt die Fähigkeit von Algorithmen, die Persönlichkeit genau zu erkennen, von dem Kontext ab, in dem die Zielperson beobachtet wird

• Ein PC-Modell, das in einer Situation sehr gut funktioniert, funktioniert möglicherweise nicht, wenn es mit Daten aus einer anderen Situation konfrontiert wird, so dass die Gefahr besteht, dass sinnlose Vergleiche gezogen werden

• Es müssen daher für das Training sowohl Daten aus dem Labor als auch Daten von Radiosprechern, Youtube-Videos und Videocurricula von Bewerbern verwendet werden, um natürliche und vielfältige Einstellungen von Persönlichkeitsausdrücken zu erhalten

  
  

Herausforderungen: Demografische Merkmale

• Demografische Faktoren können die Fähigkeit von Bildverarbeitungs- software beeinflussen

• Eine Software zur Bildverbesserung, die unbeabsichtigtes Blinzeln erkennen sollte, erzeugte bei asiatischen Studienteilnehmern viele falsch positive Ergebnisse

• Eine scheinbar einfache Lösung besteht darin, Algorithmen so zu programmieren, dass sie demografische Informationen unterdrücken, als Stichwörter einbeziehen oder kontrollieren

• Diese Lösung hat jedoch starke technische Einschränkungen, da sich demografische Merkmale indirekt in den Algorithmus einschleichen können

• Beispielsweise könnten Menschen aus einem bestimmten Land viel häufiger als erwartet zwei bestimmte NVBs kombinieren, so dass der Algorithmus "indirekt" die ethnische Zugehörigkeit erkennen kann

Herausforderung: Überinterpretation

• Gegenwärtig messen die von PC-Algorithmen automatisch aus Videos extrahierten Merkmale meist niedrige, spezifische motorische Verhaltensweisen, wie z. B. das Neigen des Kopfes, Blinzeln oder Lächeln

• Eine Abhängigkeit von derartigen Hinweisen auf der Mikroebene kann zu einer Übergewichtung solcher Hinweise führen

• Darüber hinaus variiert die Bedeutung von Hinweisen auf der Mikroebene manchmal je nach Kontext

• Wenn man sich also zu sehr auf Hinweise auf der Mikroebene verlässt, könnte man den breiteren Kontext verkennen und ihre kommunikativen Absichten missverstehen

• Die Psychologie bietet umfassende Modelle auf der Mikro-, Meso- und Makroebene

• Das Auftreten von Merkmalen auf der Mikroebene kann in Verhaltensweisen auf der Makroebene eingeordnet werden, um eine genauere Identifizierung der kommunikativen Absichten zu ermöglichen

Vorteile: Höhere Effizienz

• Non-verbale Beobachtung (NVB): Bestehende NVB-Kodierungssysteme in der Psychologie erfordern die manuelle Beobachtung und Kommentierung von Verhaltensabschnitten: ein Prozess, der einen erheblichen Aufwand an Geld, Zeit und Arbeit erfordert, der mit der Größe des Datensatzes zunimmt

• Die automatische Extraktion von Merkmalen ermöglicht kostengünstigere und skalierbarere Methoden zur Messung von Hinweisen, was die Forschung in großem Maßstab praktikabler macht

Vorteile: Erhöhte Objektivität

• Die NVB-Kodierung in der Psychologie kann bestimmte visuelle Signale, die von Zielen allein oder in Interaktion erzeugt werden, nicht objektiv erfassen

• PC bietet eine Reihe neuer objektiver Messungen von Intensität, Geschwindigkeit und Amplitude der NVB

• Ein weiteres Beispiel für neuartige Maßnahmen sind tragbare Geräte, die eine genaue und empfindliche Messung der zwischenmenschlichen Distanz ermöglichen

Vorteil: Vielfältige Auswertungsmöglichkeiten

• In der Psychologie werden in der Regel lineare Regressionsmodelle zur Datenanalyse verwendet

• Diese Methode ist nicht anwendbar für komplexere Beziehungen

• Mindestens vier Elemente sind in der Regel ausgeschlossen: die Kombination mehrerer NVB-Hinweise (z. B. eine Zielperson, die nur lächelt, drückt Extraversion aus, eine Zielperson, die lächelt und sich schüttelt, drückt Neurotizismus aus); ihre zeitliche Abfolge (z. B. könnte ein Lächeln nach einem Ausdruck von Wut auf mehr Verträglichkeit hindeuten als ein Ausdruck von Wut nach einem Lächeln); nichtlineare Beziehungen (z. B., kurvenförmig oder exponentiell– z. B. könnte es einen "Sweet Spot" in der Lächelrate geben, der den höchsten Grad an Extravertiertheit anzeigt) und Korrelationen zwischen Persönlichkeitsmerkmalen (z. B. könnten Extravertierte als verträglicher angesehen werden)

• PC verwendet Algorithmen des maschinellen Lernens, um komplexere Beziehungen zwischen Hinweisen und beurteilten oder tatsächlichen Persönlichkeitswerten zu erfassen

• Methoden wie Random Regression Forest oder Support Vector Machines gehen nicht von linearen oder unabhängigen Effekten zwischen den Prädiktoren aus

Vorteile: Multimodale Erhebungen

• Psychologische Studien zeigen, dass die Verwendung mehrerer Kriterien eine genauere Grundlage für die "tatsächliche Persönlichkeit" bietet, indem Selbstberichte, Berichte von Informanten und Verhaltensmessungen einbezogen werden

• PC, die Persönlichkeit von mehreren Messgrößen ableitet, wären stichhaltiger

Zusammenarbeit zwischen Mensch und KI

Stärken und Schwächen können ausgeglichen werden:

• Probleme der demografischen Merkmale könnten von parallelen (Mensch gegen Maschine) und kollaborativen (Mensch plus Maschine) Beobachtern reduziert

  • Während menschliche Beurteiler Extraversion leichter erkennen, haben PC- Algorithmen bessere Leistungen bei Offenheit und Gewissenhaftigkeit

  • Dies könnte zum Beispiel auf unterschiedliche Auswirkungen der Sichtbarkeit von Merkmalen zurückzuführen sein

  • Künstliche Beurteiler könnten in der Tat in der Lage sein, unterschwellige NVBs zu erfassen, die für menschliche Wahrnehmungen nicht leicht zugänglich sind

  • Menschen hingegen sind möglicherweise besser in der Lage, kontextbezogene oder ganzheitliche Elemente in ihre Bewertungen einzubeziehen

• Algorithmen werden zur Erkennung der Persönlichkeit in hochgradig standardisierten Umgebungen (z. B. ein automatisiertes strukturiertes klinisches Interview), in eingeschränkten, aber nicht in nicht-standardisierten Umgebungen (z. B. ein Kundenbetreuer) oder in nicht-eingeschränkten Umgebungen (z. B. visuelle Überwachung)

  • Unbeschränkte und nicht standardisierte Umgebungen stellen eine aktuelle Herausforderung für PC dar, da Kontextelemente das beobachtbare Verhalten der Zielpersonen stark beeinflussen können

Zusammenarbeit zwischen Mensch und KI

Es gibt bisher keine Forschung über den Nutzen der Kombination menschlicher und künstlicher Beurteilungen

• Mögliche fünf verschiedene Ansätze für die Zusammenarbeit:

  • a) Menschen können künstliche Urteile überwachen und außer Kraft setzen

  • b) Software kann den Menschen auf die wichtigsten Hinweise verweisen

  • c) Algorithmen können ungültige Hinweise (z. B. rassische Merkmale) unterdrücken

  • d) Algorithmen können potenziell ungenaue Urteile anzeigen

  • e) Künstliche und menschliche Urteile können zusammengeführt werden