LlamaIndex ist ein quelloffenes Framework für Python und TypeScript, das Sprachmodelle mit eigenen Daten verbindet, und zugleich der Name des Unternehmens dahinter. Jerry Liu begann es im November 2022 unter dem Namen „GPT Index“; heute verlagert das Unternehmen seinen Schwerpunkt auf das Auslesen komplexer Dokumente.
Zusammenfassung
Ein Sprachmodell kennt nur, was es im Training gesehen hat; die privaten Daten eines Unternehmens gehören nicht dazu. LlamaIndex setzt genau dort an. Laut eigener Dokumentation bietet das Framework Datenkonnektoren für Quellen wie APIs, PDF-Dateien und SQL-Datenbanken, Verfahren zur Strukturierung der Daten in Indizes und Graphen sowie eine Abfrageschicht, die zu einer Eingabe passenden Kontext zurückliefert (LlamaIndex 2026a).
Damit ist es ein Baukasten für Retrieval-Augmented Generation. Dieselbe Quelle nennt über 300 Integrationspakete für Modelle, Einbettungsverfahren und Vektordatenbanken.
Begriffsgeschichte
Nach Darstellung des Gründers entstand das Projekt im November 2022 als „GPT Index“, ein erster Versuch, mit Sprachmodellen Informationen zu ordnen und abzurufen. Rund zwei Monate später stieß Simon Suo, ein früherer Kollege, dazu; aus dem Experiment wurde ein umfassenderes Framework, das später in LlamaIndex umbenannt wurde. Einen genauen Umbenennungstermin nennt die Quelle nicht (Liu 2023).
Am 6. Juni 2023 veröffentlichte Liu die Meldung über eine Seed-Finanzierung von 8,5 Millionen US-Dollar unter Führung von Greylock. Zu diesem Zeitpunkt zählte das Projekt nach seinen Angaben 16.000 GitHub-Sterne und 200.000 Downloads im Monat (Liu 2023).
Die Series-A-Runde über 19 Millionen US-Dollar führte Norwest Venture Partners an, Greylock beteiligte sich erneut; das Gesamtkapital beziffert das Unternehmen danach auf 27,5 Millionen US-Dollar. Die Ankündigung nennt zudem rund 40.000 GitHub-Sterne und über drei Millionen Downloads im Monat. Die Ankündigung trägt kein Datum; TechCrunch berichtete am 4. März 2025 über die Runde (LlamaIndex 2025; Wiggers 2025).
Methodische Grundlagen
Der Kern ist eine Pipeline in zwei Schritten. Zuerst werden Dokumente eingelesen, in Abschnitte zerlegt (Chunking) und zusammen mit ihren Einbettungen gespeichert. Danach holt ein Abfragemodul zu einer Frage die passenden Abschnitte und reicht sie dem Sprachmodell als Kontext. Der Einstieg im README kommt mit wenigen Zeilen aus: Dateien laden, einen Vektorindex bauen, Fragen stellen (LlamaIndex 2026a).
Für Agenten setzt das Unternehmen nach eigenen Angaben auf eine ereignisgesteuerte Architektur namens „Workflows“, die laut Ankündigung skalierbare und vorhersagbare KI-Agenten erleichtern soll (LlamaIndex 2025).
Abgrenzung
LangChain entstand im selben Zeitraum und wird oft im selben Atemzug genannt. Es versteht sich als breiteres Gerüst für Ketten, Agenten und Werkzeuge; LlamaIndex beschreibt sich ursprünglich als Datenframework. Das README erwähnt selbst die Möglichkeit, beide zu kombinieren (LlamaIndex 2026a). Mit der Zeit überschneiden sich die Funktionen, denn auch LlamaIndex bietet heute Agentenbausteine.
Anwendungsfelder
Typische Einsatzfälle sind Frage-Antwort-Systeme über Firmendokumente, Chatbots mit Wissensbasis und Extraktion strukturierter Daten aus Verträgen, Rechnungen oder Berichten. Das Unternehmen führt unter seinen Kund:innen Rakuten, Carlyle, Salesforce und KPMG an (LlamaIndex 2025). Diese Angaben stammen vom Anbieter und sind nicht unabhängig bestätigt.
Stand 2025/2026
Das Unternehmen beschreibt seine Mission auf der eigenen Seite so: Wissensarbeit zu automatisieren, beginnend bei Dokumenten. Es wolle die beste agentische Texterkennung für Dokumente bauen (LlamaIndex 2026b). Das Open-Source-Framework bleibt erhalten; das README führt es als Framework für agentische Anwendungen.
Die Plattform LlamaParse gilt dort als eigenständiges Produkt und umfasst die Module Parse, Extract, Index, Split und Agents, darunter Texterkennung für über 130 Dateiformate (LlamaIndex 2026a).
Der Name LlamaCloud steht noch in der Adresse der Series-A-Ankündigung (LlamaIndex 2025).
Die Unternehmensseite nennt über 25 Millionen Paketdownloads im Monat und mehr als 300.000 Nutzer:innen von LlamaParse (LlamaIndex 2026b). Die Seite trägt kein Erhebungsdatum, die Zahlen sind Selbstauskünfte.
Eine Unschärfe der Quellen: TechCrunch nennt 2023 als Gründungsjahr des Unternehmens, nach Darstellung des Gründers begann das Projekt im November 2022 (Wiggers 2025; Liu 2023). Die Zitiervorlage im README nennt ebenfalls 2022. Dieser Artikel folgt dem Gründer für das Projekt und trennt es vom Unternehmen.
Verwandte Begriffe
- Agentic AI – Feld, in dem sich das Framework mit Agenten-Bausteinen positioniert
- Tool Use – Mechanik, über die Agenten Abfragen an Datenquellen auslösen
- Embedding-Modell – erzeugt die Vektoren, nach denen LlamaIndex Abschnitte abruft
- Model Context Protocol – offener Standard für die Anbindung von Datenquellen und Werkzeugen
- Context Engineering – Disziplin, deren Teilaufgabe die Auswahl des Kontexts ist
Quellenangaben
- Liu, Jerry, 2023. Building the data framework for LLMs. LlamaIndex Blog (Medium), 6. Juni 2023.
- LlamaIndex, 2025. Series A Funding And LlamaParse GA Update. llamaindex.ai/blog/announcing-our-series-a-and-llamacloud-general-availability.
- LlamaIndex, 2026a. run-llama/llama_index (README). github.com/run-llama/llama_index, abgerufen am 2. November 2026.
- LlamaIndex, 2026b. About Us. llamaindex.ai/about, abgerufen am 2. November 2026.
- Wiggers, Kyle, 2025. LlamaIndex launches a cloud service for building unstructured data agents. TechCrunch, 4. März 2025.