Zep

Kurzfazit

Zep ist die ernsthafte Antwort auf die Frage „Wie behält mein KI-Agent über mehrere Sessions hinweg den Überblick?”, ein Memory-Layer mit temporalem Wissensgraphen, der über bloße Vektor-Embeddings hinausgeht. Statt Konversationen nur als Texthäufchen zu speichern, extrahiert Zep Fakten und Entitäten, baut Beziehungen zwischen ihnen auf und invalidiert veraltete Aussagen automatisch, sobald neue Informationen sie überholen. Der Open-Source-Kern Graphiti steht unter Apache 2.0 und lässt sich vollständig selbst hosten, die Zep Cloud bringt Web-Konsole, Multi-Source-Ingestion und Enterprise-Compliance. Mit Retrieval-Latenzen unter 200 ms ist der Dienst auch für Voice- und Video-Agenten schnell genug. Den fünften Stern verlieren wir, weil die Hosting-Region der Cloud nicht öffentlich dokumentiert ist (keine beworbene EU-Region), das credit-basierte Preismodell die laufenden Kosten schwer prognostizierbar macht und volle Funktionalität nur in der Cloud verfügbar ist.

Für wen ist Zep?

Entwicklerteams mit Agenten in Produktion: Wer einen Agenten baut, der mehr als eine Single-Shot-Frage beantworten soll, etwa Customer-Support, Vertriebs-Assistent oder persönlicher Coach, stößt früh an die Grenzen des Modell-Kontextfensters. Zep löst das Problem auf einer dedizierten Schicht: Memory-Aufbau, -Pflege und -Retrieval bleiben außerhalb des LLM-Calls.

Voice- und Realtime-Anwendungen: Sub-200-ms-Retrieval ist die harte Anforderung, an der viele Vektor-DBs scheitern. Wer einen Sprach-Bot oder einen Echtzeit-Avatar mit Gedächtnis bauen will, braucht genau diese Latenz-Garantie, Zep ist dafür ausgelegt.

Customer-Service- und Vertriebs-Teams mit eigener KI-Plattform: Ein Support-Bot, der weiß, dass der Kunde vor zwei Wochen schon angerufen hat und welches Produkt er hat, ist deutlich nützlicher als einer, der jedes Gespräch bei null beginnt. Zeps Knowledge-Graph macht diese Sicht ohne aufwendige eigene CRM-Integrationen möglich.

Open-Source-affine Architekten: Mit Graphiti gibt es einen ernsthaften Self-Hosting-Pfad. Wer Vendor-Lock-in vermeiden will oder DSGVO-Pflichten hat, kann Graphiti in der eigenen EU-Cloud betreiben und nur die Features nachziehen, die wirklich gebraucht werden.

Forschung und Prototyping in der KI-Agenten-Welt: Wer Multi-Agenten-Architekturen testet oder akademisch zu episodic memory in LLMs forscht, findet in Graphiti eine saubere, dokumentierte Implementierung, deutlich bequemer als alles selbst aus pgvector und Neo4j zusammenzubauen.

Weniger geeignet für: Fachabteilungen ohne Entwicklerkapazität (Zep ist Developer-only), Projekte mit strengen DSGVO-Pflichten und ohne Self-Hosting-Ressourcen, einfache Single-Shot-Use-Cases (Memory ist hier Overkill) und Teams, die reine Volltextsuche wollen, dafür ist eine klassische Vektor-DB wie Qdrant oder Weaviate einfacher und billiger.

Preise im Detail

Plan	Preis	Was du bekommst
Graphiti (Open Source)	0 USD (Apache 2.0)	Vollständige Library für temporale Wissensgraphen, Self-Hosting, primär Python
Zep Cloud Free	0 USD	1.000 Credits/Monat (ohne Rollover), 2 Projekte, 5 Custom-Entity-/Edge-Typen, Community-Support
Flex	1.250 USD/Jahr (104 USD/Monat)	50.000 Credits/Monat, 600 Requests/Minute, 5 Projekte, 30-Tage-Credit-Rollover, SOC 2 Type II
Flex Plus	3.750 USD/Jahr (312 USD/Monat)	200.000 Credits/Monat, 1.000 Requests/Minute, 10 Projekte, Observations, Webhooks, Analytics, 60-Tage-Rollover
Enterprise	Auf Anfrage	Verhandelte Credit-Raten, garantierte SLA-Rate-Limits, unbegrenzte Projekte, 1-Jahr-Audit-Logs, HIPAA-BAA, BYOC, dedizierter Account-Manager

Einordnung: Anders als noch 2025 sind die Cloud-Preise jetzt öffentlich, das beseitigt einen früheren Kritikpunkt. Abgerechnet wird über Credits: Ein Episode-Eintrag bis 350 Bytes kostet 1 Credit, jede weiteren 350 Bytes einen weiteren, Webhooks ein Achtel-Credit. Speicherung und Retrieval sind dabei unmetered, das senkt das Risiko von Überraschungsrechnungen bei lesendem Zugriff. Der Free-Plan ist mehr als ein Showroom, du bekommst die volle API ohne Kreditkarte und kannst echte Prototypen damit bauen, aber 1.000 Credits/Monat sind für Produktiv-Workloads schnell erschöpft. Die eigentliche Hürde bleibt die Prognostizierbarkeit: Wie viele Credits dein Agent pro Nutzer verbraucht, hängt stark vom Daten-Durchsatz ab und lässt sich vorab nur grob schätzen. Wer Kosten und Datenhoheit zugleich kontrollieren will, hostet Graphiti selbst, das ist der ehrliche Kompromiss. Für DSGVO-pflichtige Branchen ist Self-Hosting ohnehin der saubere Pfad, weil die Hosting-Region der Zep Cloud nicht öffentlich dokumentiert ist.

Stärken im Detail

Temporaler Wissensgraph statt platter Embeddings. Klassische RAG-Ansätze speichern Konversationen als Vektoren und holen ähnliche Snippets zurück. Das funktioniert für „Was hat der Nutzer gesagt?”, aber nicht für „Was weiß der Nutzer aktuell?”. Zep extrahiert Fakten als Knoten, baut Beziehungen als Kanten und markiert veraltete Aussagen automatisch als invalide, sobald neuere Informationen sie überholen. „Der Kunde wohnt in Hamburg” wird beim Umzug nach München nicht überschrieben, sondern bekommt einen Gültigkeitszeitraum, und der Agent kennt beide Stände.

Graphiti als ernsthafter Open-Source-Kern. Anders als manche „Open-Core”-Anbieter, die nur eine ausgehöhlte Variante als OSS veröffentlichen, ist Graphiti die echte Engine unter Zep Cloud, verfügbar unter Apache 2.0 auf GitHub. Das Open-Source-Repository ist primär in Python gehalten, SDKs für TypeScript und Go laufen über die kommerzielle Zep-Plattform. Wer DSGVO-pflichtig ist oder Vendor-Lock-in scheut, hat einen funktionierenden Self-Hosting-Pfad. Das ist im Memory-Layer-Markt selten und ein echter Wettbewerbsvorteil gegenüber rein proprietären Konkurrenten.

Latenz, die für Realtime ausreicht. Zep nennt für die Cloud Retrieval-Latenzen unter 200 Millisekunden, das ist das Niveau, auf dem ein Voice-Agent noch natürlich klingt. Viele Vektor-DBs liegen bei komplexen Hybrid-Queries deutlich darüber. Für Sprach- und Video-Anwendungen, in denen jede Sekunde Verzögerung das Nutzererlebnis kippt, ist das ein konkreter Vorteil.

Multi-Source-Ingestion in einem Graphen. Du kannst Chat-Nachrichten, strukturierte JSON-Geschäftsdaten (z. B. CRM-Datensätze), Dokumente und App-Events alle in denselben Knowledge-Graphen ingestieren. Das heißt: Der Agent sieht nicht nur die Konversation, sondern auch „Dieser Kunde hat letzten Monat ein Premium-Abo abgeschlossen”, ohne dass du selbst eine Korrelations-Schicht baust.

Drei-Zeilen-Integration in bestehende Stacks. Wer LangChain oder LlamaIndex nutzt, klemmt Zep mit wenigen Zeilen dazwischen, als Memory-Provider statt als Ersatz. Das senkt die Adoption-Hürde drastisch: Du musst dein Agenten-Framework nicht aufgeben, sondern erweiterst es nur um eine Memory-Schicht.

Enterprise-Compliance bereits vorhanden. SOC 2 Type II gilt auf allen Bezahlplänen (Flex, Flex Plus, Enterprise), das HIPAA-Business-Associate-Agreement (BAA) bleibt dem Enterprise-Plan vorbehalten. Für US-Healthcare und regulierte SaaS-Anbieter, die Zep weiterverkaufen, ist das ein realer Türöffner, und die Tatsache, dass ein Series-A-Startup das schon hat, signalisiert eine ernsthafte Enterprise-Strategie. Für EU-Kunden stellt Zep zudem einen Auftragsverarbeitungsvertrag (DPA) bereit.

Schwächen ehrlich betrachtet

Hosting-Region nicht öffentlich dokumentiert. Eine native EU-Region wird nicht beworben, und auch Cloud-Provider oder geografische Region von Zep Cloud nennt der Anbieter öffentlich nicht (Stand Juni 2026 weder auf Security-Seite noch im Trust Center auffindbar). Für DSGVO-sensible Workloads (Recht, Medizin, Banking, öffentliche Verwaltung) ist die Cloud damit ohne explizite vertragliche Klärung von Standort und Standardvertragsklauseln kaum belastbar. Zep stellt EU-Kunden zwar einen Auftragsverarbeitungsvertrag bereit, doch die Datenresidenz bleibt unklar. Den sauberen Pfad bieten BYOC (eigene Cloud/VPC) im Enterprise-Plan oder Graphiti selbst hosten, was Postgres-/Neo4j-Betrieb voraussetzt.

Volle Funktionalität nur in der Cloud. Graphiti ist eine Library, keine Komplett-Plattform. Web-Konsole, Multi-Source-Ingestion-Workflows, Dashboards und einige der Convenience-Features sind Cloud-only. Wer Self-Hostet, baut Drumherum-Tooling selbst, das ist Open-Source-Realität, sollte aber in der Aufwandsschätzung stehen.

Credit-Modell erschwert die Kostenprognose. Die Cloud-Preise sind seit 2026 öffentlich, aber sie laufen über Credits: Ein Episode-Eintrag bis 350 Bytes kostet einen Credit, größere Einträge entsprechend mehr. Wie viele Credits dein Agent pro Nutzer und Monat verbraucht, hängt stark vom Daten-Durchsatz ab und ist vorab schwer zu beziffern. Für eng kalkulierte Projekte erzeugt das Planungsrisiko, das eine reine Vektor-Suche wie Pinecone mit ihrem einfacheren Abrechnungsmodell so nicht hat.

Junges Produkt mit beweglicher API. Zep AI, Inc. hat 2024 die Series A geschlossen und entwickelt rasch weiter. Das ist gut für Features, aber bedeutet auch: API-Versionen, Preismodelle und sogar Produktnamen können sich ändern. Wer auf Zep produktiv setzt, sollte API-Versions-Pinning und Migrationspfade von Anfang an einplanen.

Erfordert ein klares Mental-Modell. Knoten, Kanten, Validity-Periods, Fact-Invalidierung, das ist mehr als „ich pumpe Strings in Embeddings rein”. Wer aus reiner Vektor-RAG-Welt kommt, braucht ein paar Tage, um das Konzept zu durchdringen. Die Dokumentation ist gut, aber komplett auf Englisch.

Kein deutschsprachiger Support, kein deutscher Vertrieb. Anbieter ist ein US-Startup. Tickets, Dokumentation und Sales laufen ausschließlich auf Englisch. Für deutsche Mittelständler, die einen Ansprechpartner in der eigenen Zeitzone und Sprache erwarten, ist das ein Reibungspunkt, der bei Open-Source-Self-Hosting weniger schmerzt als bei Cloud-Verträgen.

Alternativen im Vergleich

Wenn du…	…nimm stattdessen
Klassische Vektor-Suche ohne Graph-Memory brauchst	Pinecone
Selbstgehostete Open-Source-Vektor-DB mit aktiver EU-Community willst	Weaviate
Memory innerhalb eines Agenten-Frameworks willst, ohne separate Schicht	LangChain
Den schnellsten Weg zu RAG ohne Memory-Komplexität willst	LlamaIndex
Workflow-Automatisierung um den Agenten herum brauchst	n8n

Erwähnenswert ohne eigene Tool-Seite: Mem0 (direkter Konkurrent, ebenfalls auf Memory-Layer für Agenten spezialisiert, mit etwas anderem Architektur-Ansatz), Letta (vormals MemGPT, akademisch geprägt, fokussiert auf agentic memory), Redis in Kombination mit eigenem Embedding-Pipeline (wer sich die volle Komplexität antun will) sowie pgvector auf Postgres (für minimal-invasive Setups). Zep ist im Memory-Layer-Markt 2026 das produktionsreifste Komplettangebot, wer DSGVO-pflichtig ist, baut aber häufig auf Graphiti Self-Hosted oder eine pgvector-Eigenlösung.

So steigst du ein

Schritt 1: Graphiti lokal ausprobieren. Installiere pip install graphiti-core und durchlaufe das offizielle Quickstart-Notebook mit einer Beispiel-Konversation. Das vermittelt das mentale Modell, Knoten, Kanten, Fakten-Extraktion, Invalidierung, in ein bis zwei Stunden. Erst wenn du verstanden hast, wie der Graph wächst und sich selbst pflegt, sind die nächsten Schritte sinnvoll.

Schritt 2: Free Tier in Zep Cloud anmelden und einen echten Use-Case verbinden. Registriere dich auf getzep.com ohne Kreditkarte, hole einen API-Key und schließe Zep an einen vorhandenen Prototyp an, etwa einen Customer-Support-Bot mit drei Beispiel-Nutzern. Lass den Bot über mehrere Sessions laufen und beobachte in der Web-Konsole, wie der Knowledge-Graph wächst.

Schritt 3: Architektur-Entscheidung treffen. Spätestens nach zwei Wochen Evaluation steht die Frage: Cloud oder Self-Hosted? Cloud wenn du USA akzeptierst und schnell skalieren willst, Self-Hosted wenn DSGVO oder Vendor-Lock-in-Vermeidung vorrangig ist. Graphiti unter Self-Hosting braucht Postgres und etwas Betriebsaufwand, ist aber technisch geradlinig.

Schritt 4: Produktivierung mit Versionierung und Monitoring. Wenn der Agent live geht, pinne die Zep-/Graphiti-Version, baue Migrationsfähigkeit in deinen Code (Schema-Versionen können sich ändern) und richte Tracing ein, etwa über LangSmith oder ein eigenes OpenTelemetry-Setup. Memory-Bugs sind notorisch schwer zu debuggen, ohne Trace bist du blind.

Ein konkretes Beispiel

Ein Berliner SaaS-Anbieter (35 Mitarbeitende, B2B-Tool für Recruiting-Agenturen) baut einen KI-Vertriebsassistenten, der mit Interessenten über Wochen hinweg sprechen und sich an alles erinnern soll: gewünschtes Modul, Branche, Bestandssystem, Bedenken aus früheren Calls. Architektur: Graphiti Self-Hosted in einer Hetzner-Cloud-VM in Falkenstein, Postgres mit pgvector als Backend, ein Python-FastAPI-Service als Wrapper, Anbindung an Claude Sonnet via AWS Bedrock Frankfurt für die Antwort-Generation. Workflow: Jede Konversation, jede E-Mail-Antwort und jedes CRM-Update werden in den Graphen ingestiert; vor jeder neuen Antwort holt der Agent den relevanten Subgraphen für diesen Lead. Spürbarer Effekt: Die Sales-Abschlussquote bei „warmen” Leads (3+ Touchpoints) steigt um ca. 18 Prozent, weil der Bot sich an Detail-Wünsche aus dem ersten Call erinnert. Aufwand: zwei Entwickler, sechs Wochen für MVP, weitere vier für Härtung. Ohne Zep/Graphiti hätte das Team eine eigene Memory-Schicht aus pgvector und Custom-Fact-Extraction bauen müssen, geschätzt drei Monate Mehraufwand.

DSGVO & Datenschutz

• Zep Cloud: Anbieter ist Zep AI, Inc. (US-Gesellschaft). Cloud-Provider und Hosting-Region werden öffentlich nicht dokumentiert (Stand Juni 2026). Für DSGVO-sensible Workloads keine Empfehlung ohne vertragliche Klärung von Standort und Standardvertragsklauseln sowie Datenschutz-Folgenabschätzung.
• DPA für EU-Kunden: Zep stellt EU-Kunden einen Data Processing Agreement (Auftragsverarbeitungsvertrag) bereit. Die fehlende Angabe zur Datenresidenz bleibt aber ein offener Punkt, der vor produktivem Einsatz mit personenbezogenen Daten zu klären ist.
• Deployment-Optionen: Neben Managed Cloud bietet Zep „Cloud + BYOK” (eigene Verschlüsselungsschlüssel) und BYOC/VPC (Deployment in der eigenen Cloud). BYOC ist für regulierte Branchen der belastbarste Weg, weil Daten die eigene Infrastruktur nicht verlassen.
• Graphiti Self-Hosted: Vollständige Kontrolle über Hosting-Region. Lässt sich in jeder EU-Cloud (AWS Frankfurt, Hetzner, OVH, Azure West Europe) deployen. DSGVO-konforme Architektur ist damit machbar, erfordert aber eigene Datenbank-Operations.
• Compliance-Zertifikate: SOC 2 Type II auf allen Bezahlplänen, HIPAA-BAA nur im Enterprise-Plan. Für deutsche Behörden- oder Bankenkunden zusätzlich BSI-/EBA-Anforderungen prüfen.
• Empfehlung für Unternehmen: Managed Cloud nur für interne Tools mit unkritischen Daten oder für US-Märkte. Bei DSGVO-Pflichten: BYOC im Enterprise-Plan oder Graphiti in eigener EU-Cloud hosten und gegen die hauseigenen LLM-Schnittstellen (etwa Azure OpenAI EU oder Bedrock Frankfurt) verbinden.

Gut kombiniert mit

• LangChain, Zep klemmt sich als Memory-Provider in eine LangChain-Pipeline. Du behältst die Vorteile des Frameworks und gewinnst den temporalen Wissensgraphen ohne Eigenbau.
• Claude, Claude liefert die Antworten, Zep den Kontext. Über AWS Bedrock Frankfurt entsteht damit eine DSGVO-tragfähige Kombination, wenn du Graphiti zusätzlich selbst hostest.
• n8n, wenn die Memory-Aktualisierung per Workflow ausgelöst werden soll (z. B. neuer CRM-Eintrag → Fact ingestieren), übernimmt n8n die Orchestrierung. So bekommt der Agent automatisch neue Geschäftsdaten in seinen Graphen.

Unser Testurteil

Zep verdient 4 von 5 Sternen. Es ist der produktionsreifste Memory-Layer-Anbieter im Markt 2026, und mit Graphiti unter Apache 2.0 die einzige Lösung in dieser Klasse mit einem ernsthaften Open-Source-Pfad. Der temporale Wissensgraph ist konzeptionell stärker als reine Vektor-Embeddings und löst echte Probleme (veraltete Fakten, Multi-Session-Persistenz). Dass die Cloud-Preise inzwischen öffentlich sind, hat einen früheren Kritikpunkt entschärft. Den fünften Stern verlieren wir wegen der öffentlich nicht dokumentierten Hosting-Region der Cloud, des schwer prognostizierbaren Credit-Modells und der Tatsache, dass volle Funktionalität nur in der Cloud verfügbar ist. Für Entwicklerteams, die einen Agenten mit echtem Gedächtnis bauen wollen, und das sind 2026 zunehmend viele, ist Zep mindestens evaluierungspflichtig. Wer DSGVO-konform arbeiten muss, geht Graphiti Self-Hosted, wer in den USA skaliert, nimmt die Cloud.

Was wir bemerkt haben

• 2024, Zep AI, Inc. hat die Series A geschlossen (Investor unter anderem Engineering Capital). Das Produkt hat sich seit dem Wechsel von „Memory Server” zur „Context Engineering Platform” deutlich repositioniert, weg vom reinen Backend, hin zum vollwertigen Agenten-Memory-Stack.
• 2024, Graphiti wurde als eigenständiges Open-Source-Projekt unter Apache 2.0 ausgegliedert. Damit hat Zep die strategische Entscheidung getroffen, den eigenen Kern offen zu legen, ein im Memory-Layer-Markt seltener Schritt, der die Adoption sichtbar beschleunigt hat.
• 2025, Konkurrenz im Memory-Layer-Segment ist deutlich gewachsen: Mem0, Letta (vormals MemGPT) und mehrere Eigenbau-Lösungen großer LLM-Anbieter drängen in dieselbe Nische. Zep behält bislang den Vorsprung bei Graph-Modellierung und Latenz, der Markt sortiert sich aber gerade neu.
• 2025, SOC 2 Type II und HIPAA-Compliance offiziell ausgerollt, ein klares Signal in Richtung US-Healthcare und regulierte SaaS-Verticals. Für deutsche Compliance-Anforderungen ist das nicht unmittelbar relevant, aber ein Indikator für Enterprise-Reife.
• Juni 2026, Die Cloud-Preise sind nun öffentlich gelistet: Free (1.000 Credits/Monat), Flex (1.250 USD/Jahr), Flex Plus (3.750 USD/Jahr), Enterprise auf Anfrage. Abgerechnet wird über ein Credit-Modell. Damit ist die frühere Intransparenz im Paid-Plan beseitigt. SOC 2 Type II gilt jetzt auf allen Bezahlplänen, das HIPAA-BAA bleibt Enterprise-exklusiv.
• Juni 2026, Eine native EU-Region für Zep Cloud wurde nicht angekündigt, und die Hosting-Region ist öffentlich (auf Security-Seite und Trust Center) nicht auffindbar. Für DSGVO-konforme Setups bleiben BYOC im Enterprise-Plan oder Graphiti Self-Hosting die belastbaren Wege. Diese Lücke ist seit Produktstart ein wiederkehrendes Verkaufsthema in europäischen Sales-Gesprächen.