Variable structure
die strukur kann stark variieren, was bei bildern oder text nicht der fall ist.
ismomorphismus:
wir benötigen eigentlich eine permutations invarianz.
es kann z.b. 2 graphen geben die unterschiedlich aussehen aber das gleiche aussagen
Oversmoothing ist das problem, dass ich bei jedem message passing schritt die knotenrepresentationen immer weiter ähneln was es schwierig macht knotenspezifische informationen raus zu lesen.
Solution, ich brauche flachere aber austrucksstärkere netze
komplexere message/update funktionen
skip connections
Was ist das ziel von GNNs
ich möchte neuronale netze auf Grafen anwenden.
Ziel: Lerne bedeutsame, latente, knotenweise Vektordarstellungen für Graphen, wobei sowohl strukturelle als auch Merkmalsinformationen einbezogen werden.
Welche unterschiedlichen anwendungsfälle gibt es bei gnns /wekche aufgaben kann ich lösen
Graph level tasks - möchte aussage über gesamten graf treffen
Node level tasks - möchte aussage / ürädiktion für einzelne knoten machen
edge level tasks - ich möchte aussagen bezüglich einzelner kanten treffen
Was ist message passing
besteht aus:
-update funktion
-aggregarions operator
-message funktion
überträgt mit jedem messaging schrit infromationen von den benachbarten knoten auf meinen eignen, welche ich dann speichere
beschrifte dei messaging funktion
ordne diese message passing formeln zu
Erkläre induktive tasks und transductive tasks
Was ist die schwäche von Graph statistic models,
ignoriert feature informationen
nur geeignet für feste größen von graphen
sesitiv bezüglich der knotenreihenfolge
was sind ähnlichkeiten mit transformern
Gnns, speziel gats sind sehr ähnlich
variable input anzahl möglich
nvariant bezüglich position von knoten / vektor
akkumulation von informationen mit gewichteter summe
Was sind limitierungen von GCNs
kann keine edge feature berücksichtigen
feste knotengewichte
Einfache aggregation
wie läuft der trainingsprozess ab, zeichne bild
wie sieht grob node presiction link und graph prediction aus?
wie kann ich kantenfeatures berücksichtigen?
Relational gnns
weighted adjency
include edges in message function
Last changed5 months ago