1 Inductive Learning

A1: Es gibt eine Ziel-Funktion, die alle Instanzen perfekt in den Lösungsraum abbilden kann, diese ist jedoch unbekannt​​.

A2: Der Hypothesenraum umfasst alle möglichen Abbildungen, die durch das Modell repräsentiert werden können, und das Ziel ist, die beste Hypothese zu finden, die zu den beobachteten Daten passt​​.

A3: Der Version Space ist die Teilmenge der Hypothesen des Hypothesenraums, die mit den Trainingsbeispielen konsistent und vollständig sind​​.

A4: Induktives Schließen ist eine Methode, bei der aus einer Menge spezifischer Beobachtungen ein allgemeines Prinzip abgeleitet wird​​.

A5: Induktion ist wahrheitserweiternd und generiert neue Hypothesen, während Deduktion wahrheitserhaltend ist und neue Regeln oder Fakten ableitet​​.

A6: Sie besagt, dass jede Hypothese, die die Ziel-Funktion gut genug über eine ausreichend große Menge an Trainingsinstanzen approximiert, dies auch über unbekannte Beispiele tun wird​​.

A7: Ein kleiner Hypothesenraum kann die tatsächliche Ziel-Funktion ausschließen, was bedeutet, dass das Modell möglicherweise keine konsistente und vollständige Hypothese finden kann​​.

A8: Die Anzahl der benötigten Trainingsbeispiele korreliert mit der Größe des Hypothesenraums des Modells​​.

A9: Der induktive Bias ist eine Menge von Annahmen oder Vorwissen, das ein Lernsystem verwendet, um von Daten zu generalisieren, wobei bestimmte Hypothesen gegenüber anderen bevorzugt werden​​.

A10: Eine Hypothese, die den Abstand zwischen Eingabeinstanzen verschiedener Klassen maximiert, wird bevorzugt, und wenn eine einfache und eine komplexe Hypothese die Verlustfunktion minimieren, wird die einfachere Hypothese bevorzugt (siehe Okkams Rasiermesser)​​.