Lexikon-Thema: KI-Grundlagen & Architekturen

Programmsynthese erzeugt Programme aus Beispielen oder Spezifikationen. Verfahren, Chollets AGI-These, das Verhältnis zu Sprachmodellen und der Suchraum.

JEPA ist Yann LeCuns Architekturfamilie, die Repräsentationen statt Rohdaten vorhersagt: Grundgedanke, die Umsetzungen I-JEPA bis V-JEPA 2, offene Kritik.

TensorFlow ist Googles quelloffenes ML-Framework von 2015: Herkunft in DistBelief, statischer Berechnungsgraph und der folgenreiche Bruch mit Version 2.0.

Die Tensor Processing Unit ist Googles eigens für neuronale Netze entworfener Prozessor: systolisches Feld, Generationen seit 2015, Grenzen der Spezialisierung.

On the Measure of Intelligence ist Chollets Aufsatz von 2019: Intelligenz als Effizienz des Fähigkeitserwerbs statt als Fertigkeit – die Grundlage von ARC.

Benchmark-Kontamination bezeichnet Testaufgaben, die im Trainingsmaterial gelandet sind – das gemessene Ergebnis zeigt dann Wiedererkennung statt Können.

Symbolische KI baute Intelligenz aus expliziten Regeln über Zeichen – die erste Programmatik des Fachs, ihre Blütezeit, ihr Winter und ihre stille Rückkehr.

Self-Attention ist der Rechenschritt im Herzen des Transformers: Jede Position vergleicht sich mit jeder anderen – parallel, zum Preis quadratischen Aufwands.

Recurrent Neural Networks verarbeiten Sequenzen Schritt für Schritt mit Gedächtnis – ihr Gradientenproblem und warum der Transformer sie verdrängte.

Konnektionismus erklärt Kognition aus dem Zusammenspiel einfacher Einheiten statt aus Regeln über Symbolen – von Rosenblatt bis zu den heutigen Sprachmodellen.