Safe Superintelligence Inc. ist ein im Juni 2024 von Ilya Sutskever gegründetes KI-Unternehmen mit Sitz in Palo Alto und Tel Aviv. Es verfolgt nach eigener Angabe ein einziges Ziel – den Bau einer sicheren Superintelligenz – und hat sich öffentlich darauf festgelegt, bis zum Erreichen dieses Ziels kein Produkt zu veröffentlichen.
Zusammenfassung
SSI ist der ungewöhnlichste Fall der gegenwärtigen Unternehmenslandschaft: Bei einer zuletzt genannten Bewertung von rund 32 Milliarden US-Dollar und eingeworbenen Mitteln von etwa sieben Milliarden hat das Unternehmen weder ein Produkt noch veröffentlichte Forschungsarbeiten vorzuweisen.
Der Verzicht ist erklärte Strategie – Sutskever begründet ihn damit, dass kommerzieller Druck die Sicherheitsarbeit verdränge. Das Unternehmen entstand nach seinem Ausscheiden bei OpenAI, wo er an der gescheiterten Absetzung Sam Altmans beteiligt gewesen war.
SSI steht damit für eine dritte organisatorische Antwort auf die Sicherheitsfrage, neben OpenAIs stufenweiser Veröffentlichung und Anthropics Verbindung von Produktgeschäft und Alignment-Forschung.
Entstehung
Ilya Sutskever war Mitgründer von OpenAI (2015) und fast ein Jahrzehnt dessen Chefwissenschaftler. Zuvor hatte er gemeinsam mit Alex Krizhevsky und Geoffrey Hinton das Modell AlexNet entwickelt, das 2012 die Deep-Learning-Welle auslöste.
Im November 2023 war er als Vorstandsmitglied an der Absetzung Sam Altmans beteiligt, unterzeichnete anschließend den Brief der Belegschaft, der dessen Rückkehr forderte, und erklärte öffentlich, seine Rolle zu bedauern. Im Mai 2024 verließ er OpenAI; im Juni gründete er SSI gemeinsam mit Daniel Gross, zuvor bei Apple für KI zuständig, und Daniel Levy, vormals OpenAI.
Struktur und Entwicklung
| Zeitpunkt | Ereignis |
|---|---|
| Juni 2024 | Gründung mit drei Gründern |
| Sept. 2024 | 1 Mrd. US-Dollar, Bewertung 5 Mrd. US-Dollar |
| April 2025 | 2 Mrd. US-Dollar, Bewertung 32 Mrd. US-Dollar |
| Juni 2025 | Meta bemüht sich erfolglos um Übernahme |
| Juli 2025 | Daniel Gross wechselt zu Meta; Sutskever wird Vorstandsvorsitzender |
| Juli 2026 | strategische Investition von Nvidia über 5 Mrd. US-Dollar |
Die Belegschaft ist mit einer Größenordnung von einigen Dutzend Forschenden ausgesprochen klein. SSI trainiert seine Modelle auf Googles Tensor Processing Units statt auf Grafikprozessoren und gilt als einer der bedeutendsten externen Abnehmer dieser Hardware.
Ansatz
Die erklärte Besonderheit ist der Produktverzicht. Das Unternehmen bezeichnet sich als straight-shot-Labor: Sicherheit und Fähigkeiten sollen gemeinsam entwickelt werden, ohne dass zwischenzeitliche Veröffentlichungen kommerzielle Rücksichten erzwingen.
Der Vergleich der drei sicherheitsorientierten Labore macht die Unterschiede deutlich:
| OpenAI | Anthropic | SSI | |
|---|---|---|---|
| Produkte | ja, laufend | ja, laufend | keine |
| Veröffentlichungen | regelmäßig | regelmäßig | keine |
| Sicherheitsansatz | stufenweise Veröffentlichung | Produktgeschäft plus Alignment-Forschung | vollständige Konzentration auf das Endziel |
Der Ansatz hat eine Kehrseite, die von Kritikern benannt wird: Ohne Veröffentlichungen und ohne Produkte ist von außen nicht überprüfbar, woran gearbeitet wird und ob Fortschritte bestehen. Der Verzicht auf Rückmeldung aus dem Einsatz entzieht dem Unternehmen zudem eine Erkenntnisquelle, die andere Labore nutzen.
Sutskevers Position
Im November 2025 formulierte Sutskever öffentlich die These, das Zeitalter des Skalierens gehe in ein Zeitalter der Forschung über: Größere Modelle helfen weiterhin, verändern aber die grundlegenden Fähigkeiten nicht mehr. Die nächsten Durchbrüche entstünden nicht aus noch größeren Modellen.
Diese Position ist bemerkenswert, weil sie von einer der zentralen Figuren der Skalierungsära stammt. Sie berührt sich in der Diagnose mit der Kritik von Chollet und LeCun, ohne deren architektonische Schlussfolgerungen zu teilen.
Einordnung
SSI ist ein Testfall für die Frage, ob sich Sicherheitsforschung an der Fähigkeitsgrenze ohne kommerziellen Betrieb betreiben lässt. Die Höhe der eingeworbenen Mittel zeigt, dass Kapitalgeber bereit sind, auf Personen und Zugang zu Rechenleistung zu setzen, ohne ein Produkt zu sehen – ein Umstand, der auch als Anzeichen für den spekulativen Charakter der gegenwärtigen Investitionslage gelesen wird.
Ungeklärt bleibt, wie das Unternehmen den Übergang gestalten will: Ein Labor, das erst bei Erreichen von Superintelligenz veröffentlicht, träfe die Entscheidung über deren Freigabe allein – genau die Konzentration von Entscheidungsmacht, gegen die sich Sicherheitsargumente üblicherweise richten.
Kritik
Die Abwesenheit von Rückmeldung. Der erklärte Verzicht auf Zwischenprodukte wird als Sicherheitsvorkehrung dargestellt: Kein Produktdruck, keine Ablenkung, keine Anreize zur verfrühten Freigabe. Er entzieht dem Vorhaben aber auch die Korrekturmöglichkeit, aus der die übrigen Anbieter einen erheblichen Teil ihres Wissens ziehen.
Was Systeme im Einsatz bei Millionen Nutzenden tun, welche Angriffe tatsächlich auftreten, wie Fehlverhalten sich in der Breite zeigt – dieses Wissen entsteht nicht im Labor. Ein Sicherheitsprogramm ohne Kontakt zur Anwendung läuft Gefahr, Antworten auf Fragen zu entwickeln, die sich anders stellen werden.
Keine überprüfbaren Zwischenziele. Da nichts veröffentlicht wird, ist von außen weder Fortschritt noch Stillstand feststellbar. Für Kapitalgeber ist das eine bewusst eingegangene Wette; für die fachliche Debatte bedeutet es, dass die Behauptung, an einem sicheren Weg zu arbeiten, weder gestützt noch bestritten werden kann.
Der Begriff im Namen. Ein Unternehmen, dessen Firmenbezeichnung eine Eigenschaft behauptet, für die kein anerkanntes Prüfverfahren existiert, nimmt sprachlich vorweg, was zu zeigen wäre. Kritiker verweisen darauf, dass sicher hier weder definiert noch von einer unabhängigen Instanz bestätigt ist.
Personenbezogene Bewertung. Die eingeworbenen Mittel beruhen wesentlich auf dem Ansehen der Gründer. Das ist im Wagniskapital nicht ungewöhnlich, verschiebt aber die Beurteilung von der Sache auf die Person – und macht das Vorhaben in seinem Bestand von einzelnen Personen abhängig.
Verwandte Begriffe
- Ilya Sutskever – Gründer und Vorstandsvorsitzender
- ASI – erklärtes Ziel des Unternehmens
- Superintelligenz – zugrunde liegender Begriff
- OpenAI – Herkunftsorganisation
- Anthropic – Vergleichsfall mit anderem Ansatz
- Tensor Processing Unit – verwendete Rechenhardware
- Scaling Laws – Gesetzmäßigkeiten, deren Reichweite Sutskever bezweifelt
- AI Alignment – Forschungsfeld
Quellenangaben
- Calcalist (2025): Ilya Sutskever’s Safe Superintelligence raises $2B at $32B valuation – with no product yet.
- Krizhevsky, Alex / Sutskever, Ilya / Hinton, Geoffrey E., 2012. ImageNet Classification with Deep Convolutional Neural Networks. In: Advances in Neural Information Processing Systems 25 (NeurIPS 2012), S. 1097–1105.
- Patel, Dwarkesh (2025): Interview mit Ilya Sutskever. November 2025.
- Safe Superintelligence Inc. (2024): Gründungserklärung. Juni 2024.
- TechCrunch (2025): Ilya Sutskever will lead Safe Superintelligence following his CEO’s exit. 3. Juli 2025.
- Vance, Ashlee (2024): Ilya Sutskever Has a New Plan for Safe Superintelligence. Bloomberg, 19. Juni 2024.
← Zurück zur Lexikon-Übersicht
Zuletzt bearbeitet: 10. August 2026
Zusammengestellt, formuliert, lektoriert und korrigiert mit KI-Unterstützung. Kuratiert von Nils Brauer. Alle Angaben ohne Gewähr.