Lexikon-Thema: KI-Grundlagen & Architekturen

Levels of AGI ist das DeepMind-Rahmenwerk von 2023, das AGI als Stufenleiter statt als Schwelle fasst – Leistungsgrade, Autonomiegrade und ihre Kritik.

Distributed Representations verteilen Bedeutung über viele Einheiten statt einzelne Symbole – von Hinton 1986 über word2vec bis zu heutigen Embeddings.

Die GPU wurde vom Grafikprozessor zur Grundlage des Deep Learning – warum tausende einfache Recheneinheiten für neuronale Netze die richtige Bauform sind.

Computer Vision ist das Feld, in dem der Durchbruch des Deep Learning zuerst sichtbar wurde – von handgefertigten Merkmalen über AlexNet zum Vision Transformer.

RLHF macht Sprachmodelle vom Textfortsetzer zum Assistenten – samt der Zustimmungsneigung, die dem Verfahren strukturell innewohnt.

Backpropagation ist der Algorithmus, auf dem praktisch jedes neuronale Netz beruht – Herkunft, Funktionsweise und der Einwand biologischer Unplausibilität.

Der Kaffee-Test ist Wozniaks Gegenvorschlag zum Turing-Test: eine fremde Küche, eine Tasse Kaffee – und warum das maschinell schwerer ist als jede Denkaufgabe.

ARC-AGI ist Chollets Benchmark für das Erschließen neuer Regeln aus wenigen Beispielen – eigens so gebaut, dass großes Trainingswissen nicht weiterhilft.

Der Forward-Forward Algorithm ist Hintons Vorschlag von 2022, Backpropagation durch zwei Vorwärtsdurchläufe zu ersetzen – biologisch motiviert.

Dropout ist die Regularisierungstechnik, die beim Training zufällig Neuronen abschaltet – eine der folgenreichsten einfachen Ideen des Deep Learning.