GNNs

Variable structure

die strukur kann stark variieren, was bei bildern oder text nicht der fall ist.

ismomorphismus:

wir benötigen eigentlich eine permutations invarianz.

es kann z.b. 2 graphen geben die unterschiedlich aussehen aber das gleiche aussagen

Oversmoothing ist das problem, dass ich bei jedem message passing schritt die knotenrepresentationen immer weiter ähneln was es schwierig macht knotenspezifische informationen raus zu lesen.

Solution, ich brauche flachere aber austrucksstärkere netze

• komplexere message/update funktionen

• skip connections

ich möchte neuronale netze auf Grafen anwenden.

Ziel: Lerne bedeutsame, latente, knotenweise Vektordarstellungen für Graphen, wobei sowohl strukturelle als auch Merkmalsinformationen einbezogen werden.

Graph level tasks - möchte aussage über gesamten graf treffen

Node level tasks - möchte aussage / ürädiktion für einzelne knoten machen

edge level tasks - ich möchte aussagen bezüglich einzelner kanten treffen

besteht aus:

-update funktion

-aggregarions operator

-message funktion

überträgt mit jedem messaging schrit infromationen von den benachbarten knoten auf meinen eignen, welche ich dann speichere

ignoriert feature informationen

nur geeignet für feste größen von graphen

sesitiv bezüglich der knotenreihenfolge

Gnns, speziel gats sind sehr ähnlich

variable input anzahl möglich

nvariant bezüglich position von knoten / vektor

akkumulation von informationen mit gewichteter summe

kann keine edge feature berücksichtigen

feste knotengewichte

Einfache aggregation

• Relational gnns

• weighted adjency

• include edges in message function

•