Jamba ist die Modellreihe des israelischen Unternehmens AI21 Labs und das erste produktionsreife Modell, das auf der Mamba-Architektur beruht. Es verbindet ein Zustandsraummodell mit Bausteinen der Transformer-Architektur.
Zusammenfassung
Nahezu alle großen Sprachmodelle beruhen auf der Transformer-Architektur. Deren bekannte Schwäche ist der Aufwand der Aufmerksamkeitsschicht, der mit der Länge der Eingabe quadratisch wächst.
Zustandsraummodelle sind der ernsthafteste Gegenentwurf. Jamba war das erste Modell, das diesen Ansatz aus der Forschung in ein einsatzfähiges Produkt überführte – nicht rein, sondern als Mischform: Zustandsraumschichten für die Länge, Transformer-Schichten für die Qualität.
Das Ergebnis war ein Kontextfenster von 256.000 Token bei deutlich geringerem Durchsatzaufwand als vergleichbare reine Transformer-Modelle (AI21 Labs 2024).
Begriffsgeschichte
Jamba (2024)
AI21 stellte Jamba als weltweit erstes produktionsreifes Modell auf Mamba-Grundlage vor. Die Bedeutung lag weniger in den Prüfstandswerten als im Nachweis, dass die Architektur trägt.
Jamba 1.5
Die Reihe wurde in mehreren Größen fortgeschrieben, unter anderem als Jamba 1.5 Large, verfügbar über die Modellkataloge der großen Cloud-Anbieter.
Jamba 2
Die zweite Generation richtet sich mit kleineren Fassungen an Unternehmensabläufe; Jamba2 Mini trägt 12 Milliarden aktive Parameter (AI21 Labs 2026).
Einordnung
Jambas Bedeutung ist architektonisch, nicht wirtschaftlich. Das Modell hat den Markt nicht verschoben, aber gezeigt, dass die Alternative zur reinen Aufmerksamkeitsarchitektur praktisch tragfähig ist.
Der Nachweis wirkt inzwischen weiter: Nvidias Nemotron-Nano-Linie und mehrere chinesische Modelle setzen ebenfalls auf Mischformen aus Zustandsraum- und Transformer-Schichten.
Kontroversen und Kritik
Nische statt Durchbruch. Trotz des architektonischen Vorsprungs blieb AI21 ein Anbieter der zweiten Reihe. Die Aufmerksamkeit des Feldes folgt Prüfstandswerten, nicht Bauformen.
Enge Zielgruppe. Die Ausrichtung auf Unternehmensabläufe mit langem Kontext ist wirtschaftlich naheliegend, entzieht die Reihe aber der öffentlichen Debatte – sie wird kaum je verglichen.
Stand September 2026
Die zweite Generation ist verfügbar. Jamba bleibt der Beleg dafür, dass die Transformer-Architektur nicht alternativlos ist – auch wenn sich diese Einsicht bislang eher in Mischformen als in Ablösungen niederschlägt.
Verwandte Begriffe
- Mamba – die Architektur, die Jamba einsatzfähig machte
- Transformer – die Bauform, die Jamba teilweise ersetzt
- Kontextfenster – die Eigenschaft, auf die der Ansatz zielt
Quellenangaben
- AI21 Labs, 2024. Introducing Jamba: AI21’s Groundbreaking SSM-Transformer Model. ai21.com/blog/announcing-jamba.
- AI21 Labs, 2026. Jamba Foundation Models. docs.ai21.com.