Dawn Song ist eine chinesisch-amerikanische Informatikerin und Professorin an der University of California, Berkeley. Sie zählt zu den international bekanntesten Forschenden im Bereich Computersicherheit und hat ihren Schwerpunkt in den vergangenen Jahren zunehmend auf die Sicherheit von KI-Systemen und adversariales maschinelles Lernen verlagert.
Zusammenfassung
Song erwarb 1996 einen Bachelorabschluss an der Tsinghua University in China, 1999 einen Masterabschluss an der Carnegie Mellon University und promovierte 2002 an der UC Berkeley. Nach einer Assistenzprofessur an der Carnegie Mellon University zwischen 2002 und 2007 wechselte sie 2007 an die UC Berkeley, wo sie seither am Institut für Elektrotechnik und Informatik forscht und lehrt.
Ihre frühe Forschung galt der Web- und Systemsicherheit; ihr Team nahm an der DARPA Cyber Grand Challenge teil und erreichte dort einen Platz unter den besten sieben Finalisten. In den vergangenen Jahren verlagerte sich ihr Forschungsschwerpunkt zunehmend auf adversariales maschinelles Lernen – also die Untersuchung, wie sich KI-Systeme gezielt angreifen und manipulieren lassen – sowie auf Blockchain-Technologien. Song gründete das Unternehmen Oasis Labs und ist Ko-Direktorin des Berkeley Center for Responsible Decentralized Intelligence (RDI).
Werdegang
Song wurde in China geboren und erwarb 1996 einen Bachelorabschluss an der Tsinghua University. Anschließend wechselte sie in die USA, wo sie 1999 einen Masterabschluss an der Carnegie Mellon University und 2002 einen Doktortitel an der UC Berkeley erlangte. Von 2002 bis 2007 war sie als Assistenzprofessorin an der Carnegie Mellon University tätig, bevor sie 2007 an die UC Berkeley zurückkehrte, wo sie bis heute als Professorin forscht.
Für ihre Forschung erhielt Song zahlreiche renommierte Auszeichnungen: ein MacArthur-Foundation-Fellowship (2010, oft als „Genie-Stipendium” bezeichnet), ein Sloan-Fellowship, den NSF-CAREER-Award, den IBM Faculty Award, ein Guggenheim-Fellowship sowie die Aufnahme in die TR35-Liste des MIT Technology Review als eine der 35 einflussreichsten Innovatorinnen und Innovatoren unter 35 Jahren (2009). 2019 wurde sie zum ACM Fellow ernannt, für ihre Beiträge zu Sicherheit und Datenschutz.
Von Systemsicherheit zu KI-Sicherheit
Songs frühe Arbeiten konzentrierten sich auf klassische Fragen der Web- und Systemsicherheit, etwa im Rahmen der DARPA Cyber Grand Challenge, einem Wettbewerb zur automatisierten Erkennung und Behebung von Softwareschwachstellen, bei dem ihr Team zu den sieben besten Finalistenteams zählte. Mit dem Aufstieg großer Sprachmodelle übertrug sie ihre sicherheitstechnische Expertise auf das neue Feld des adversarialen maschinellen Lernens: die systematische Untersuchung, wie sich KI-Modelle durch gezielt manipulierte Eingaben täuschen, zu Fehlverhalten verleiten oder zur Preisgabe von Trainingsdaten oder unerwünschten Informationen bewegen lassen.
Parallel zu ihrer akademischen Tätigkeit gründete Song das Unternehmen Oasis Labs, das sich mit vertrauenswürdiger und datenschutzfreundlicher Berechnung befasst, sowie das Berkeley Center for Responsible Decentralized Intelligence (RDI), das sie mit ko-leitet und das sich an der Schnittstelle von KI-Sicherheit, Datenschutz und dezentralen Technologien positioniert.
Verwandte Begriffe
- AI Alignment – das Forschungsfeld, dem Songs Arbeit zu adversarialem maschinellem Lernen zuzuordnen ist
- Deep Learning – die Modellklasse, deren Angreifbarkeit Songs Sicherheitsforschung untersucht
- Dan Hendrycks – ebenfalls prominente Stimme der akademischen KI-Sicherheitsforschung
Quellenangaben
- Wikipedia: „Dawn Song”, Stand September 2026 (per WebFetch eingesehen). https://en.wikipedia.org/wiki/Dawn_Song