Sim-to-Real Transfer

Sim-to-Real Transfer bezeichnet die Übertragung einer in Simulation erlernten Steuerung auf einen physischen Roboter. Das Verfahren umgeht die Kosten realer Datenerhebung – zum Preis einer systematischen Abweichung zwischen Modellwelt und Wirklichkeit, die als Wirklichkeitslücke bekannt ist.

Zusammenfassung

Der Grund für den Umweg ist eine Mengenrechnung. Bestärkendes Lernen benötigt Millionen von Versuchen; ein realer Roboterarm schafft einige tausend am Tag, verschleißt dabei und muss zwischen den Versuchen zurückgesetzt werden.

In Simulation laufen dieselben Versuche tausendfach parallel und schneller als in Echtzeit. Was in Tagen realer Arbeit nicht zu erreichen wäre, entsteht dort in Stunden.

Die Schwierigkeit ist, dass keine Simulation die Wirklichkeit trifft. Reibung, Materialverformung, Sensorrauschen und Verzögerungen werden vereinfacht – und eine Steuerung, die auf diese Vereinfachungen optimiert, versagt an der echten Maschine.

Die wirksamste Antwort stammt aus einer Arbeit von 2017: Statt die Simulation genauer zu machen, wird sie absichtlich verunreinigt. Wer über tausend leicht verschiedene Welten trainiert, erhält eine Steuerung, für die die Wirklichkeit nur eine weitere Variante ist.

Begriffsgeschichte

Simulation ist in der Robotik seit Jahrzehnten üblich, zunächst als Entwurfswerkzeug: Bahnen planen, Kollisionen ausschließen, Mechanik auslegen. Gelernt wurde dort nicht.

Mit dem bestärkenden Lernen änderte sich die Rolle. Die Simulation wurde vom Prüfstand zur Trainingsumgebung – und damit trat die Wirklichkeitslücke von einem nachgeordneten zu einem zentralen Problem auf.

Die Wende brachte 2017 der Vorschlag der Domain Randomization: Beleuchtung, Texturen, Massen, Reibwerte und Positionen werden bei jedem Durchlauf zufällig verändert. Das Netz kann sich dann nicht auf Einzelheiten stützen, die es nur in der Simulation gibt.

2018 zeigte eine vielbeachtete Arbeit die Tragweite, indem sie eine mehrfingrige Roboterhand ausschließlich in Simulation trainierte und die Steuerung anschließend ohne Nachtraining auf die reale Hand übertrug.

Seither ist der Ansatz Standard und wird durch Simulationsumgebungen gestützt, die eigens auf paralleles Lernen auf Beschleunigern ausgelegt sind.

Methodische Grundlagen

Domain Randomization. Der bekannteste Ansatz. Nicht die richtige Simulation wird gesucht, sondern eine Verteilung von Simulationen, die die Wirklichkeit einschließt. Der Preis ist eine vorsichtigere, weniger optimale Steuerung.

Systemidentifikation. Der entgegengesetzte Weg: Die Parameter der Simulation werden aus Messungen am realen System geschätzt, um die Lücke zu verkleinern. Wirksam bei gut vermessbaren Größen, schwierig bei Kontakt und Verformung.

Abgleich der Wahrnehmung. Ein Teil der Lücke sitzt nicht in der Physik, sondern im Bild. Verfahren, die simulierte Aufnahmen realistischer machen oder beide Seiten in eine gemeinsame Darstellung überführen, setzen dort an.

Nachtraining an wenigen realen Beispielen. Die in Simulation erlernte Steuerung wird mit einer kleinen Menge realer Daten angepasst. Das verbindet die Menge der Simulation mit der Treue der Wirklichkeit.

Was gut überträgt und was nicht. Bewegung im freien Raum überträgt zuverlässig; alles, was von Kontakt abhängt – Greifen, Schieben, Fügen –, überträgt schlecht, weil Reibung und Nachgiebigkeit am schwersten zu modellieren sind.

Anwendungsfelder

Zweibeinige Fortbewegung. Der erfolgreichste Fall. Gehen auf unebenem Grund wird nahezu vollständig in Simulation gelernt; die humanoide Robotik beruht in ihrer heutigen Form darauf.

Geschickte Handhabung. Feinmotorik mit mehrfingrigen Händen – der schwierigste Fall, weil er ganz von Kontaktkräften abhängt.

Autonomes Fahren. Kritische Situationen lassen sich in Simulation gefahrlos herbeiführen, während sie in der Wirklichkeit selten und riskant sind.

Datenerzeugung für Lernmodelle. Simulation liefert einen Teil der Bewegungsdaten, an denen es Vision-Language-Action-Modellen fehlt.

Kontroversen und Kritik

Verlagerung statt Lösung. Die Wirklichkeitslücke wird nicht geschlossen, sondern gegen einen Aufwand getauscht: Wer randomisiert, muss die Verteilungen wählen, und diese Wahl beruht auf Annahmen über die Wirklichkeit, die selbst ungeprüft sind.

Kosten der Vorsicht. Eine über breite Verteilungen trainierte Steuerung ist robust, aber selten optimal. Sie bewegt sich langsamer und mit größeren Sicherheitsabständen, als es die konkrete Maschine erlauben würde.

Auswahl der berichteten Fälle. Veröffentlichungen zeigen gelungene Übertragungen. Wie viele Anläufe scheiterten und wie viel Handarbeit an der Simulation vorausging, ist aus den Berichten meist nicht ersichtlich.

Modellierbarkeit als Grenze. Verformbare Gegenstände, Flüssigkeiten, Textilien und Reibung entziehen sich der Simulation weiterhin weitgehend – und das sind genau die Fälle des Alltags.

Fehlender Maßstab. Es existiert keine anerkannte Kennzahl für die Größe der Lücke. Damit lässt sich weder vergleichen noch vorhersagen, ob eine Übertragung gelingen wird.

Warum die Lücke bleibt

Es liegt nahe, die Wirklichkeitslücke für ein Übergangsproblem zu halten: Simulationen werden genauer, Rechenleistung wächst, irgendwann trifft die Modellwelt die echte.

Diese Erwartung unterschätzt die Art des Problems. Eine Simulation ist keine unvollständige Wirklichkeit, sondern eine andere Sache – ein Satz von Gleichungen, der bestimmte Größen abbildet und andere nicht. Genauigkeit hilft dort, wo die Größe modelliert ist; wo sie fehlt, hilft sie nicht.

Kontakt ist das Musterbeispiel. Was beim Greifen geschieht, hängt von Oberflächenrauheit, Feuchtigkeit, Temperatur und Materialalterung ab – Größen, die in keinem Modell stehen und deren Werte für den konkreten Gegenstand niemand kennt.

Deshalb hat sich die Forschung von der Suche nach Treue abgewandt. Domain Randomization ist ein Eingeständnis: Sie verzichtet darauf, die Wirklichkeit zu treffen, und trainiert stattdessen für den Fall, dass man sie verfehlt. Das ist weniger elegant, aber der bislang tragfähigste Umgang mit einer Grenze, die nicht verschwindet.

Verwandte Begriffe

• Humanoide Robotik – Feld, dessen Fortschritte wesentlich darauf beruhen
• Vision-Language-Action-Modelle (VLA) – Modellklasse, deren Datenmangel das Verfahren lindert
• Embodied AI – Forschungsprogramm, in dem das Problem auftritt
• Physical AI – Begriffsrahmen der Anbieterseite
• Reinforcement Learning – Lernverfahren, das die Simulation nötig macht
• Synthetische Daten – allgemeinere Frage nach erzeugten Trainingsdaten
• Cosmos – Plattform zur Erzeugung physikalischer Trainingsdaten
• World Models – gelernte statt gebaute Simulation als Alternative

Quellenangaben

1. Andrychowicz, Marcin / Baker, Bowen / Chociej, Maciek u. a. (OpenAI) (2018): Learning Dexterous In-Hand Manipulation. arXiv: 1808.00177.
2. Open X-Embodiment Collaboration (2023): Open X-Embodiment: Robotic Learning Datasets and RT-X Models. arXiv: 2310.08864.
3. Tobin, Josh / Fong, Rachel / Ray, Alex / Schneider, Jonas / Zaremba, Wojciech / Abbeel, Pieter (2017): Domain Randomization for Transferring Deep Neural Networks from Simulation to the Real World. In: Proceedings of IROS 2017. arXiv: 1703.06907.

← Zurück zur Lexikon-Übersicht

Zuletzt bearbeitet: 10. August 2026

Zusammengestellt, formuliert, lektoriert und korrigiert mit KI-Unterstützung. Kuratiert von Nils Brauer. Alle Angaben ohne Gewähr.