Christopher D. Manning ist ein australisch-amerikanischer Informatiker und Linguist, Professor an der Stanford University und Gründer der Stanford NLP Group, der mit dem GloVe-Modell einen der einflussreichsten Ansätze zur Erzeugung von Wort-Embeddings mitentwickelte.
Zusammenfassung
Manning bekleidet den Thomas M. Siebel-Lehrstuhl für Machine Learning an Stanford, mit gemeinsamer Zugehörigkeit zu den Fachbereichen Linguistik und Informatik, und leitet das Stanford Artificial Intelligence Laboratory (SAIL). Seine Forschung reicht von statistischer Sprachverarbeitung über neuronale maschinelle Übersetzung bis zu Fragen der Selbstüberwachten Vortrainierung großer Sprachmodelle.
Biografie
Manning erwarb seinen Bachelorabschluss an der Australian National University und promovierte anschließend an der Stanford University. Er lehrte zunächst als Assistenzprofessor an der Carnegie Mellon University, bevor er dauerhaft an die Stanford University zurückkehrte, wo er die Stanford NLP Group gründete.
Werk
Gemeinsam mit seinen Doktorand:innen entwickelte Manning das GloVe-Modell, das Worthäufigkeitsstatistiken über einen gesamten Textkorpus direkt in Wort-Vektoren übersetzt und lange als Standardverfahren für Wort-Embeddings galt, bevor kontextabhängige Repräsentationen es größtenteils ablösten.
Manning trug zudem zur frühen Erforschung des Attention-Mechanismus in der neuronalen maschinellen Übersetzung bei und veröffentlichte einflussreiche Lehrbücher zur statistischen Sprachverarbeitung und Informationsgewinnung.
Sein frei zugänglicher Stanford-Kurs CS224N: Natural Language Processing with Deep Learning wurde von Hunderttausenden Lernenden weltweit genutzt und trug maßgeblich zur Verbreitung neuronaler NLP-Methoden über die akademische Fachwelt hinaus bei.
Kontroversen und Kritik
Manning vertritt in der Debatte um die Fähigkeiten großer Sprachmodelle eine vergleichsweise optimistische Position und wurde dafür gelegentlich von Kolleginnen wie Emily M. Bender kritisiert, deren Arbeit zu Stochastic Parrots die tatsächlichen Sprachverständnisfähigkeiten solcher Modelle grundsätzlicher infrage stellt.
Manning selbst hat wiederholt betont, empirische Evaluation solle Vorrang vor kategorischen philosophischen Vorabannahmen über die Grenzen neuronaler Sprachmodelle haben.
Verwandte Begriffe
- Stochastic Parrots – Konzept, das Mannings Position implizit herausfordert
- Natural Language Processing – das Feld, das er mit der Stanford NLP Group und seinem Kurs CS224N mitprägte
- Word Embeddings – das allgemeine Konzept, das GloVe operationalisiert
Quellenangaben
- Manning, Christopher D. / Schütze, Hinrich, 1999. Foundations of Statistical Natural Language Processing. MIT Press.
- Pennington, Jeffrey / Socher, Richard / Manning, Christopher D., 2014. GloVe: Global Vectors for Word Representation. Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing (EMNLP), S. 1532–1543.