VGGNet ist eine 2014 von Karen Simonyan und Andrew Zisserman an der Visual Geometry Group der University of Oxford vorgestellte Convolutional-Neural-Network-Architektur, die durch konsequente Verwendung sehr kleiner Faltungsfilter außergewöhnliche Tiefe erreichte.
Zusammenfassung
Während frühere Architekturen wie AlexNet noch große Faltungsfilter in den ersten Schichten verwendeten, setzte VGGNet ausschließlich auf 3×3-Filter, gestapelt über bis zu 19 Gewichtsschichten hinweg (Simonyan/Zisserman 2014). Mehrere kleine Filter hintereinander erzeugen dasselbe rezeptive Feld wie ein einzelner großer Filter, benötigen dabei aber weniger Parameter und mehr nichtlineare Zwischenschritte.
Das Modell belegte 2014 beim ImageNet Large Scale Visual Recognition Challenge (ILSVRC) den zweiten Platz in der Bildklassifikation und den ersten Platz in der Objektlokalisierung.
Begriffsgeschichte
VGGNet erschien zwei Jahre nach AlexNets Durchbruch von 2012, in einer Phase intensiven Wettbewerbs um immer tiefere, leistungsfähigere CNN-Architekturen. Die Arbeit zeigte systematisch, dass zunehmende Tiefe – bei gleichbleibend kleinen Filtern – die Erkennungsgenauigkeit konsistent verbesserte, solange das Netz trainierbar blieb.
Methodische Grundlagen
Die namensgebenden Varianten VGG-16 und VGG-19 bezeichnen die Anzahl der Gewichtsschichten. Die durchgängige Verwendung von 3×3-Faltungen mit Schrittweite 1 sowie 2×2-Pooling-Schichten (Simonyan/Zisserman 2014) erzeugt eine architektonisch besonders einheitliche, leicht nachvollziehbare Struktur im Vergleich zu den heterogeneren Filtergrößen früherer Netze.
Anwendungsfelder
Über die reine Bildklassifikation hinaus wurden die von VGGNet gelernten Merkmalsrepräsentationen breit als vortrainierte Grundlage (Feature-Extraktor) für andere Bildverarbeitungsaufgaben wiederverwendet, etwa Objekterkennung, Stiltransfer und Bildähnlichkeitssuche – ein frühes Beispiel für das später unter Transfer Learning systematisierte Prinzip.
Kontroversen und Kritik
VGGNets Tiefe erkauft sich einen hohen Preis an Parametern und Rechenaufwand: Mit rund 138 Millionen Parametern bei VGG-16 (Simonyan/Zisserman 2014) ist das Modell speicherintensiver als viele spätere, effizientere Architekturen. GoogLeNet, im selben Jahr veröffentlicht, erreichte vergleichbare Genauigkeit mit deutlich weniger Parametern und wurde deshalb bei rechenzeitkritischen Anwendungen häufig bevorzugt.
Verwandte Begriffe
- ImageNet – Wettbewerb und Datensatz, an dem VGGNet gemessen wurde
- ResNet – spätere CNN-Architektur, die VGGNets Tiefenprinzip mit deutlich weniger Parametern fortführte
Quellenangaben
- Simonyan, Karen / Zisserman, Andrew, 2014. Very Deep Convolutional Networks for Large-Scale Image Recognition. arXiv: 1409.1556.