Lexikon-Thema: KI-Grundlagen & Architekturen

Die Encoder-Decoder-Architektur trennt Verstehen und Erzeugen: Herkunft in der Übersetzung, die drei Bauformen und der Sieg der reinen Decoder-Form.

Word Embeddings stellen Wörter als Vektoren dar: die Verteilungshypothese, word2vec und GloVe, die Rechenanalogien und warum sie abgelöst wurden.

Capsule Networks sind Hintons Antwort auf das Pooling-Problem der CNNs: Äquivarianz statt Invarianz, Routing-Verfahren und warum sie sich nicht durchsetzten.

Der Robot-College-Student-Test verlangt einen echten Hochschulabschluss: Goertzels Anforderungen, die verborgene Gedächtnisfrage, Stand und Kritik.

Synthetische Daten sind maschinell erzeugte Trainingsdaten: Formen und Zwecke, das Risiko des Modellkollapses und die entscheidende Rolle des Filters.

Der Employment-Test misst AGI am Anteil bezahlter Tätigkeiten, den Maschinen ausüben können: Nilssons Vorschlag von 2005, Einordnung und Kritik.

Compute ist die für Training und Betrieb aufgewendete Rechenleistung: Begriffsgeschichte, Messung in FLOP, zwei Verbrauchsstellen und Kritik am Maß.

Selbstüberwachtes Lernen gewinnt das Trainingssignal aus den Daten selbst: Begriffsgeschichte, Ansätze, Bedeutung für Sprache, Bild und Weltmodelle.

Neurosymbolische KI verbindet neuronales Lernen mit symbolischer Logik: Motivation, Ansätze, Kritik und das ungelöste Problem der Verbindungsstelle.

Lean ist ein Beweisassistent, der jeden Schritt maschinell prüft: mathlib, das Liquid Tensor Experiment und die wechselseitige Verbindung mit KI.