Moderation API

Kurzfazit

Moderation API ist die ernstzunehmende europäische Antwort auf Content-Moderation-as-a-Service. Das in Kopenhagen ansässige Unternehmen bietet über 20 vorgefertigte Detektoren für Toxizität, Hate Speech, NSFW, Spam und PII in einer einzigen REST-API, und das multi-modal für Text, Bild, Video und Audio. Für Medienhäuser, Marktplätze und Communities, die nach der Perspective-API-Abkündigung (Jigsaw hat das Ende für nach 2026 angekündigt) einen Nachfolger suchen, ist Moderation API einer der wenigen Kandidaten mit echtem EU-Sitz und DSA-Fokus. Eine Auftragsverarbeitungsvereinbarung (AVV/DPA) ist laut Anbieter über alle Pläne verfügbar, eine dedizierte EU-Server-Region dagegen erst im Enterprise-Plan ab 799 USD/Monat. Schwächen liegen im engen Free-Tier, dem deutlichen Preissprung zwischen den Tarifen und der fehlenden deutschen Dokumentation.

Für wen ist Moderation API?

Medienhäuser und Verlage: Wer Kommentarbereiche unter Artikeln moderiert, kennt das Problem: manuelle Moderation skaliert nicht, automatisierte Filter erzeugen False Positives, und ab DSA-Status (VLOP/VLOSE) werden dokumentierte Pipelines Pflicht. Moderation API liefert eine Backend-Lösung, die sich in vorhandene CMS- und Kommentar-Stacks einklinken lässt, und durch den EU-Sitz Vertrauen bei Datenschutz-Audits schafft.

Online-Marktplätze und Plattformen: Listings, Produktbeschreibungen, Nutzer-Profile, Chat-Nachrichten, wer User-Generated-Content in mehreren Modalitäten verarbeitet, bekommt mit Moderation API ein einheitliches API-Frontend statt drei verschiedener Anbieter für Text, Bild und Video. Custom Models ermöglichen es zusätzlich, plattformspezifische Regeln (z. B. „verbotene Produktkategorien”) zu trainieren.

Trust-&-Safety-Teams: Wer ein dediziertes Team für Moderation hat, profitiert vom integrierten Dashboard, User-Level-Moderation, AI-enforced Guidelines (Regeln in Klartext statt Code) und dem Adaptive Learning aus menschlichen Reviews. Die Plattform versucht bewusst, nicht nur Detektion zu liefern, sondern den ganzen Workflow inklusive Eskalation und Compliance-Dokumentation.

Entwicklerteams mit Perspective-API-Erbe: Google-Tochter Jigsaw hat im Januar 2026 angekündigt, die Perspective API nach 2026 einzustellen. Wer eine bestehende Integration hat, muss migrieren, und Moderation API positioniert sich explizit als Drop-in-Ersatz mit vergleichbarer REST-Logik. Der Aufwand bleibt überschaubar, sofern die existierende Codebasis sauber abstrahiert ist.

Weniger geeignet für: Einzelpersonen oder kleine Communities ohne Entwicklerteam (es gibt keine fertige UI-Lösung), Foren mit weniger als 100 Nachrichten im Monat (Free-Tier reicht, größerer Plan nicht gerechtfertigt) und Unternehmen mit strikter Datenresidenz-Pflicht, die kein Budget für den Enterprise-Plan haben, denn eine dedizierte EU-Server-Region gibt es erst dort. Eine AVV selbst ist dagegen auch in den günstigeren Plänen verfügbar.

Preise im Detail

Plan	Preis	Was du bekommst
Hobby	0 USD	100 Nachrichten/Monat, Dashboard, User-Level-Moderation, AI-enforced Guidelines, niedrige Rate-Limits, AVV/DPA verfügbar
Basic	79 USD/Monat	10.000 Nachrichten/Monat, 20+ vorgefertigte Policies, URL-Risiko-Analyse, Custom Models, E-Mail-Support, AVV/DPA verfügbar
Growth	249 USD/Monat	100.000 Nachrichten/Monat, alle Policies, Sentiment-Analyse, höhere Rate-Limits, Priority Support, AVV/DPA verfügbar
Enterprise	799 USD/Monat	1 Mio. Nachrichten/Monat, alles aus Growth + Custom-Server-Regionen (EU wählbar), Custom-Integrationen, SAML-SSO/SCIM, Dedicated Support, 99,9 % Uptime-SLA

Einordnung: Der Hobby-Plan mit 100 Nachrichten/Monat ist reines Probierniveau, ernsthafte Communities sind in wenigen Tagen durch. Basic für 79 USD ist der Einstieg für ernsthafte Nutzung. Anders als oft angenommen ist eine AVV laut Anbieter über alle Pläne abschließbar, der eigentliche Enterprise-Vorbehalt ist nicht die AVV, sondern die dedizierte EU-Server-Region und Funktionen wie SAML-SSO. Wer also keine harte Datenresidenz-Pflicht (Daten ausschließlich in der EU) hat, kann mit AVV auch in Basic oder Growth DSGVO-konform arbeiten. Wer eine garantierte EU-Region braucht, muss Enterprise einplanen, und 799 USD/Monat sind eine andere Liga als die Einstiegspreise klassischer SaaS-Tools. Growth ist sinnvoll für mittelgroße Plattformen mit ~50–80K Nachrichten monatlich. Der Sprung von Basic auf Growth (+170 USD) ist deutlich, der Sprung Growth → Enterprise (+550 USD) noch deutlicher, Volumenplanung lohnt sich.

Stärken im Detail

EU-Sitz und DSA-Fokus von Grund auf. Moderation API ist in Kopenhagen gegründet und positioniert sich explizit als europäischer Anbieter mit GDPR-, DSA- und CCPA-Konformität. Das ist im Markt für Content-Moderation eine Seltenheit, die meisten Konkurrenten (Perspective API, OpenAI Moderation, AWS Comprehend, Hive) sitzen in den USA. Für DSA-pflichtige Plattformen, die ihre Moderationspipeline dokumentieren und auditieren müssen, ist der EU-Ursprung ein echter Vorteil bei Behördenfragen.

Multi-Modal in einer API. Text, Bild, Video und Audio werden über dieselbe API moderiert. Das spart Integration, vereinfacht Abrechnung und Logging und reduziert Compliance-Aufwand erheblich. Wer für Video separat AWS Rekognition, für Text Perspective API und für Audio noch einen dritten Anbieter zusammenstückeln müsste, bekommt hier ein konsolidiertes Frontend. Gerade Marktplätze mit User-Profilen (Bild + Beschreibung + Chat) profitieren.

20+ vorgefertigte Detektoren und Custom Models. Statt einer einzigen „Toxicity”-Skala wie bei Perspective API liefert Moderation API spezialisierte Klassifikatoren, Hate Speech, Harassment, Phishing, PII-Detection, Spam, NSFW, Sentiment, Sprach-Identifikation. Custom Models, mit denen sich plattformspezifische Regeln trainieren lassen, sind laut Preisseite bereits ab Basic verfügbar, die genaue Anzahl pro Plan staffelt der Anbieter nach oben. Adaptive Learning aus den menschlichen Reviews verbessert die Modelle auf dem eigenen Datenbestand laufend, ein interessanter Hebel gegenüber statischen API-Anbietern.

AI-enforced Guidelines in Klartext. Statt Regex oder klassischer Regel-Engines beschreibt man Regeln in natürlicher Sprache („Verbiete Werbung für Krypto-Tokens unter 1 Mrd. USD Marktkapitalisierung”) und das System wendet sie an. Das senkt die Einstiegshürde für Trust-&-Safety-Teams ohne starke Engineering-Ressourcen erheblich, und macht Regeln auditierbar, weil sie als Text dokumentiert sind.

Performance und globale Erreichbarkeit. 10 globale Regionen, 99,99 % Uptime-SLA und sub-350ms p95-Antwortzeit sind solide Werte für Echtzeit-Moderation in Chat- und Kommentar-Systemen. Für Live-Streams oder Marketplaces mit hohem Durchsatz ist das relevant, manche Konkurrenten liegen deutlich darüber.

Etablierte Referenzkunden. Disney, Zapier, HubSpot, Nextdoor und Skillshare sind dokumentierte Kunden. Das schafft Vertrauen, dass die Plattform auf Enterprise-Skalierung ausgelegt ist und nicht nach drei Jahren wieder verschwindet, ein berechtigtes Risiko bei kleinen Trust-&-Safety-Anbietern.

Drop-in-Migration für Perspective-API-Nutzer. Wer eine bestehende Perspective-Integration hat, kann mit überschaubarem Aufwand wechseln: REST-Logik ist ähnlich, die Klassifikations-Outputs lassen sich auf vergleichbare Score-Strukturen mappen. Für Medienhäuser mit Kommentar-Sektion ist das oft der pragmatischste Pfad weg von Google.

Schwächen ehrlich betrachtet

Dedizierte EU-Server-Region nur im Enterprise-Plan. Das ist die größte verbliebene Einschränkung für DSGVO-strikte Branchen. Eine AVV/DPA ist zwar laut Anbieter über alle Pläne verfügbar (eine frühere Annahme, sie sei Enterprise-exklusiv, hat sich bei genauer Prüfung der Preisseite nicht bestätigt), doch wer harte Datenresidenz braucht (Daten ausschließlich in der EU, kein Transit über andere Regionen), kommt nicht um den Enterprise-Plan herum, und der kostet 799 USD/Monat. Für Anwälte, Banken, Behörden und Gesundheit ist das oft die falsche Größenordnung. Standardmäßig läuft die Verarbeitung über 10 globale Regionen, das limitiert die Zielgruppe in Deutschland dort spürbar, wo die Region selbst vertraglich fixiert sein muss.

Free-Tier ist reines Showroom-Niveau. 100 Nachrichten/Monat reichen für Tests, aber jede ernsthafte Community ist binnen Stunden durch. Der nächste Schritt kostet sofort 79 USD, eine Zwischenstufe für Hobbyisten oder kleine Foren fehlt. Wer eine Familien-Community oder einen kleinen Discord moderiert, ist hier falsch.

Keine deutsche Dokumentation oder Support. Die Plattform ist konsequent englisch, Docs, Dashboard, Support, Marketing. Für entwicklerlastige Teams ist das kein Hindernis, aber Trust-&-Safety-Manager, die kein technisches Englisch beherrschen, stoßen schnell an Grenzen. Bei einem dänischen Anbieter überrascht das ein wenig, Skandinavier setzen auf Englisch als lingua franca, deutsche Mittelständler tun das oft nicht.

Weniger öffentliche Benchmarks als die großen Anbieter. Perspective API, OpenAI Moderation und AWS Comprehend haben veröffentlichte Evaluationen auf Standard-Datensätzen. Moderation API gibt Kundenzahlen und Performance-SLAs an, aber kaum vergleichbare Genauigkeits-Benchmarks pro Sprache und Domäne. Wer seriös vergleichen will, muss eigene Stichproben fahren, bei Free-Tier-Limits (100 Nachrichten) ist das mühsam, ein echter Pilotversuch wird schnell kostenpflichtig.

Preissprünge sind hart. 0 → 79 → 249 → 799 USD/Monat. Es gibt keinen 19-USD-Einstieg für Bastler und keinen 400-USD-Mittelweg für mittelgroße Plattformen, die DSGVO-konform wollen ohne Enterprise zu sein. Die Preisstruktur wirkt eher US-üblich als europäisch, viele DACH-Kunden würden hier vermutlich flexiblere Staffeln bevorzugen.

Kein deutscher Detektor mit dokumentierter Genauigkeit. Die Plattform unterstützt 120+ Sprachen, aber spezifische Genauigkeits-Benchmarks für deutschsprachige Hate-Speech-Detektion fehlen öffentlich. Wer auf deutschem Content (z. B. lokale Communities oder Foren) moderiert, muss das selbst testen, und sollte mit ähnlichen Ergebnissen wie bei Perspective API rechnen, das in deutschen Inhalten bekanntlich uneinheitlich performt.

Alternativen im Vergleich

Wenn du…	…nimm stattdessen
Auf bestehender ChatGPT/OpenAI-Stack aufbaust	ChatGPT (mit Moderation-Endpoint)
Eine breite KI-Plattform mit Moderation als Modul brauchst	Claude oder OpenAI APIs
Ein deutsches Foundation-Modell für sensible Inhalte willst	Aleph Alpha

Erwähnenswert ohne eigene Tool-Seite: Googles Perspective API ist der Klassiker, wird aber laut Jigsaw-Ankündigung vom Januar 2026 nach 2026 eingestellt, bestehende Nutzer müssen ohnehin migrieren. OpenAI Moderation Endpoint ist kostenlos und in jeden OpenAI-API-Account integriert, beschränkt sich aber auf Text und liefert weniger Detektor-Vielfalt. AWS Comprehend und Google Cloud Natural Language decken Toxizitäts-Klassifikation ab, sind aber Multi-Modal nur durch Kombination mit Rekognition/Vision möglich. Hive Moderation ist der etablierte US-Wettbewerber mit starkem Multi-Modal-Fokus, aber ohne EU-Anbieter-Vorteil. Microsoft Content Safety (Teil von Azure AI) bietet seit 2024 eine vergleichbare API und EU-Hosting über Azure-Regionen, für Unternehmen, die ohnehin auf Microsoft-Stack laufen, oft die pragmatischere Wahl. Moderation API hat im europäischen Markt einen klaren USP: dänischer Anbieter, DSA-Fokus, Multi-Modal in einer API. Wer EU-Hosting als harte Anforderung hat, sollte hier oder bei Azure Content Safety landen.

So steigst du ein

Schritt 1: Use Case definieren und Testdaten vorbereiten. Bevor du den Free-Tier anzapfst, sammle 50–100 echte Beispielnachrichten aus deinem System, Kommentare, die ihr aktuell schwer einordnen könnt, Spam-Verdachtsfälle, mehrsprachige Inhalte. Damit testest du gezielt, ob die vorgefertigten Detektoren liefern, was du brauchst. Pauschale „Toxicity”-Scores sagen wenig, sieh dir die Verteilung deiner eigenen Inhalte an.

Schritt 2: Free-Tier mit echtem Sample messen. Registriere dich auf moderationapi.com, melde dich am Dashboard an und schicke deine Testdaten durch. Prüfe die Klassifikationen manuell: Wo gibt es False Positives (harmlose Kommentare werden geblockt), wo False Negatives (Probleme werden übersehen)? 100 Nachrichten reichen für eine erste Tendenz, aber nicht für saubere Precision/Recall-Statistik, plane gegebenenfalls einen Tag Basic-Plan ein.

Schritt 3: Datenschutz-Pfad klären, direkt mit Sales. Wenn ihr in der EU operiert und personenbezogene Daten verarbeitet (Username, Profilbilder, IP-Adressen in Logs), kontaktiere Sales direkt, um AVV-Verfügbarkeit und Custom-Server-Regionen zu klären. Diese Optionen sind nur im Enterprise-Plan dokumentiert, manchmal lässt sich aber bei größerem Volumen ein Custom-Tarif aushandeln. Plant auch eine Datenschutz-Folgenabschätzung ein, bevor ihr produktiv geht.

Schritt 4: Integration sauber abstrahieren. Egal ob ihr von Perspective API migriert oder neu integriert: kapselt den API-Aufruf in einem eigenen Service, der die Klassifikations-Scores auf eure interne Moderations-Logik mappt. So bleibt der Anbieterwechsel später eine überschaubare Refactoring-Aufgabe, wichtig, falls ein Konkurrent (oder die nächste OpenAI-Generation) plötzlich bessere Ergebnisse für eure Sprachen liefert.

Ein konkretes Beispiel

Ein regionaler Verlag aus Stuttgart betreibt ein Lokalnachrichten-Portal mit etwa 15.000 Kommentaren pro Monat unter den Artikeln. Die Redaktion moderiert bisher manuell mit zwei Teilzeitkräften, das funktioniert grundsätzlich, aber an Sonntagen und nachts stehen problematische Kommentare oft stundenlang sichtbar. Nach Ankündigung der Perspective-API-Abkündigung evaluiert das Tech-Team Moderation API als Backend-Pre-Filter: Jeder neue Kommentar wird automatisch durch Toxicity-, Hate-Speech- und Spam-Detektoren geschickt. Kommentare mit Score über 0,85 werden direkt auf „Pending Review” gesetzt, Score über 0,95 automatisch versteckt, die Redaktion sieht morgens nur die wenigen Grenzfälle. Ergebnis nach drei Monaten: problematische Kommentare verschwinden im Schnitt nach 8 Minuten statt 6 Stunden, die Moderationszeit der Redaktion sinkt um ~60 %. Der Verlag wählt den Growth-Plan (249 USD/Monat, 100K Nachrichten reichen mit Puffer) und schließt aus DSGVO-Gründen direkt die AVV ab, die laut Anbieter über alle Pläne verfügbar ist, ein Enterprise-Wechsel wäre vom Volumen her nicht gerechtfertigt. Eine dedizierte EU-Server-Region (Enterprise) verzichtet der Verlag bewusst, deckt das Datenresidenz-Risiko aber in der Datenschutz-Folgenabschätzung ab. Pilot-Aufwand: ein Sprint für die API-Integration, eine Woche Tuning der Score-Grenzen, danach läuft das System unauffällig im Hintergrund.

DSGVO & Datenschutz

• Datenhosting: Standardmäßig über 10 globale Regionen verteilt; Custom-Server-Regionen (z. B. exklusiv EU) erst ab Enterprise-Plan wählbar. Anbieter ist Moderation API ApS mit Sitz in Kopenhagen, Dänemark, also EU-Wirtschaftsraum.
• Datennutzung: Eingaben werden zur Klassifikation verarbeitet. Adaptive Learning aus menschlichen Reviews ist konfigurierbar, wer kein Modell-Tuning auf eigenen Daten will, sollte das im Dashboard deaktivieren oder vertraglich ausschließen lassen.
• Auftragsverarbeitung (AVV/DPA): Laut Preisseite über alle Pläne verfügbar (unter „Governance & Security” gelistet), nicht erst ab Enterprise. Das ist eine wichtige Korrektur gegenüber der verbreiteten Annahme, eine AVV sei Enterprise-exklusiv. Den exakten Vertragsstand vor Produktivnutzung schriftlich bestätigen lassen.
• EU-Datenresidenz: Eine garantierte, ausschließlich europäische Server-Region ist erst im Enterprise-Plan (Custom Regions) wählbar. Wer harte Datenresidenz braucht, muss diese Stufe einplanen.
• Compliance-Frameworks: Der Anbieter wirbt mit GDPR-, DSA- und CCPA-Konformität. Konkrete Zertifizierungen (ISO 27001, SOC 2) sind nicht prominent ausgewiesen, bei Enterprise-Verhandlungen explizit erfragen.
• Aufbewahrung: Standardretention nicht öffentlich dokumentiert. Bei Enterprise lassen sich Retention-Policies vertraglich vereinbaren.
• Empfehlung für Unternehmen: Für DSGVO-strikte Branchen (Recht, Gesundheit, Finanzen) mit harter Datenresidenz-Pflicht ist Moderation API nur über den Enterprise-Plan mit Custom-EU-Region eine saubere Lösung. Eine AVV selbst ist auch in Basic/Growth abschließbar, sodass weniger sensible Use-Cases (öffentliche Kommentarbereiche, Marktplätze) auch in den günstigeren Plänen DSGVO-konform betrieben werden können, abgesichert durch eine Datenschutz-Folgenabschätzung. Der dänische Firmensitz ist ein Vorteil gegenüber US-Anbietern.

Gut kombiniert mit

• ChatGPT, für komplexere Edge-Case-Klassifikationen, die die vorgefertigten Detektoren nicht abdecken. Moderation API liefert die First-Line-Pre-Filterung, ein LLM-Aufruf an ChatGPT übernimmt nur die Grenzfälle mit individueller Begründung. Spart Kosten und schafft auditierbare Entscheidungen.
• Claude, wenn die Moderationsentscheidung mit natürlichsprachlicher Begründung dokumentiert werden soll, eignet sich Claude für die nachgelagerte Erklärungs-Generierung. Beispiel: Moderation API erkennt Toxicity, Claude formuliert die Begründung für den Nutzer („Dein Kommentar enthält Beleidigungen gegen Person XY, bitte umformulieren”).
• Eigenes Audit-Logging, jede Klassifikations-Entscheidung sollte intern protokolliert werden, mit Score, Modell-Version und Reviewer-Action. DSA-pflichtige Plattformen brauchen das für regulatorische Reports, und es schafft die Datengrundlage, um Detektoren später gezielt nachzutrainieren oder Anbieter zu wechseln.

Unser Testurteil

Moderation API verdient 4 von 5 Sternen. Die Plattform ist eine der wenigen ernsthaften europäischen Alternativen im Content-Moderation-Markt, multi-modal, breite Detektoren-Palette, dänischer Sitz, klarer DSA-Fokus. Für Medienhäuser, Marktplätze und Communities mit Entwicklerteam und Compliance-Anforderungen ist das eine sehr gute Wahl. Den fünften Stern verliert die Plattform durch die fehlende dedizierte EU-Server-Region unterhalb des Enterprise-Plans, den harten Preissprung zwischen Basic und Growth, fehlende deutsche Dokumentation und kaum öffentliche Benchmarks für deutschsprachige Inhalte. Erfreulich: Die AVV ist anders als zunächst angenommen über alle Pläne verfügbar, was die DSGVO-Eignung im mittleren Segment deutlich verbessert. Wer die budget-bedingten Einschränkungen akzeptieren kann, bekommt aktuell eine der wenigen EU-tauglichen Optionen am Markt, und einen plausiblen Migrationspfad weg von Perspective API.

Was wir bemerkt haben

• Juni 2026, Bei der Quellenprüfung hat sich eine ältere Annahme nicht bestätigt: Die AVV/DPA ist laut Preisseite über alle Pläne verfügbar (unter „Governance & Security” gelistet), nicht erst ab Enterprise. Enterprise-exklusiv ist nur die dedizierte EU-Server-Region (Custom Regions) sowie SAML-SSO/SCIM. Das verschiebt die DSGVO-Bewertung im mittleren Segment deutlich nach oben, die Schwächenliste wurde entsprechend korrigiert.
• Januar 2026, Jigsaw (Google) hat angekündigt, die Perspective API nach 2026 einzustellen. Begründung: weniger Bedarf für ein eigenständiges Tool angesichts gereifter KI-Fähigkeiten. Damit entsteht konkreter Migrationsdruck für Medienhäuser und Communities, die Perspective bisher kostenlos genutzt haben. Moderation API positioniert sich explizit als Drop-in-Nachfolger, die Migration bleibt aber kostenpflichtig, was den Markt für bezahlte Moderations-APIs spürbar belebt.
• Mai 2026, Bei genauerem Hinsehen lagen die tatsächlichen Einstiegspreise deutlich höher als zunächst notiert. Der Basic-Plan kostet 79 USD/Monat (nicht 29 USD), Growth 249 USD und Enterprise 799 USD. Im Juni 2026 erneut auf der Preisseite bestätigt, Pilotbudgets entsprechend planen.
• 2026, Der EU Digital Services Act (DSA) ist seit Februar 2024 für VLOPs/VLOSEs in Kraft, seit 2025 in voller Breite. Moderation API positioniert sich aggressiv als DSA-konformer Anbieter, das ist ein klarer Marketing-Hebel gegenüber US-Konkurrenten, die DSA-Anforderungen oft nur indirekt erfüllen.
• 2025/26, Der Trend zu multi-modaler Moderation aus einer Hand hat sich verschärft. Auch Microsoft (Azure Content Safety) und OpenAI haben ihre Angebote ausgebaut, Moderation API muss seine USPs (dänischer Sitz, breiteres Detektoren-Portfolio, Custom Models) klar herausarbeiten, um nicht zwischen den Hyperscaler-Angeboten zerrieben zu werden.