Mode Collapse
Mode Collapse ist die Hauptschwäche generativer Modelle: Der Generator produziert nur einen Ausschnitt der Vielfalt echter Daten statt der ganzen Bandbreite.
Übersicht
Mode Collapse ist die Hauptschwäche generativer Modelle: Der Generator produziert nur einen Ausschnitt der Vielfalt echter Daten statt der ganzen Bandbreite.
Die Dartmouth-Konferenz von 1956 gilt als Gründungsereignis der KI-Forschung: Förderantrag, Ablauf, Teilnehmer und die geprägte Begriffsdefinition.
Support Vector Machines sind ein überwachtes Lernverfahren, das Klassen durch die Hyperebene mit maximalem Abstand zu den Datenpunkten trennt.
Overfitting: Ein Modell memoriert Trainingsdaten statt verallgemeinerbare Muster zu lernen – Testfehler steigt, Trainingsfehler sinkt.
Generalisierung ist die Fähigkeit eines Modells, gelernte Muster auf ungesehene Daten zu übertragen – der Gegenpol zum bloßen Auswendiglernen.
Gated Recurrent Units (GRU) sind eine 2014 von Cho u. a. vorgestellte, sparsamere Alternative zu LSTM für rekurrente neuronale Netze.
Denoising Diffusion Probabilistic Models (DDPM) lernen Bilderzeugung durch Entrauschung – die 2020 vorgestellte Grundlage heutiger Diffusionsmodelle.
Artificial Intelligence: A Modern Approach ist das meistverwendete KI-Lehrbuch weltweit, verfasst von Stuart Russell und Peter Norvig seit 1995.
Perceptrons (Minsky/Papert 1969) bewies Grenzen einlagiger Netze – und gilt als Auslöser des ersten KI-Winters, obwohl das historisch umstritten ist.
Eine Gleitkommaoperation ist die kleinste Recheneinheit beim KI-Training – ab 10^25 FLOP vermutet die KI-Verordnung ein systemisches Risiko.