MLOps-Dienstleister für DACH-Mittelstand: 7 Fragen die ihr vor der Vertragsunterschrift stellen müsst

74% der Unternehmen bleiben laut BCG-Studie von September 2025 in AI-Pilots stecken. Der häufigste Grund ist nicht die Modell-Auswahl, nicht das Budget und selten die Datenqualität — es ist ein fehlendes oder fragiles MLOps-Setup. Wenn ihr überlegt, dafür einen externen Dienstleister zu holen, sind hier die sieben Fragen, die ihr vor der Vertragsunterschrift stellen müsst.

Wir stellen sie nicht theoretisch, sondern basierend darauf, wo wir in den letzten 24 Monaten bei bestehenden Kunden nachträglich Setups reparieren mussten, die vorherige Dienstleister hinterlassen hatten. Jede Frage entspricht einer realen Konstellation, die schiefging.

Frage 1: Können sie ein Modell tatsächlich in Production bringen — und wie beweisen sie das?

Klingt trivial, ist es nicht. Der Markt der MLOps-Dienstleister ist voll mit Beratern, die Slideware liefern und Kubernetes-Cluster aufsetzen, aber nie ein Modell mit realem Traffic betrieben haben.

Was ihr fragen solltet: „Zeigt mir bitte ein konkretes Modell, das ihr in Production gebracht habt. Welche Latenz, welcher Durchsatz, wie oft hat es Drift-Alerts ausgelöst?" Wenn die Antwort abstrakt bleibt („wir haben viele Kunden im Enterprise-Bereich"), ist das ein Red Flag. Wenn ihr konkrete Zahlen bekommt („99th percentile Latenz war 380ms, wir haben in 6 Monaten drei Drift-Events gehabt, hier ist der Post-Mortem"), habt ihr einen Praktiker vor euch.

Bei uns bei NeuralMedic sieht das so aus: unsere aktuellen Retainer-Kunden in Customer-Service und Sales-Tech betreiben Modelle mit sub-500ms Median-Latenz und einer klaren Drift-Response-Pipeline. Falls relevant, zeigen wir das im Discovery-Call konkret.

Frage 2: Welche MLOps-Tools und Cloud-Provider beherrschen sie wirklich?

Hier trennt sich Spreu vom Weizen. Ein guter MLOps-Dienstleister beherrscht 2-3 Kern-Stacks tief, nicht 15 oberflächlich. Wenn eine Beratung behauptet, sie könne AWS SageMaker, Azure ML, Vertex AI, Databricks, Kubeflow, MLflow, Weights & Biases, BentoML, Triton, KServe und Ray alle gleich gut — das ist eine Warnung, keine Empfehlung.

Was ihr fragen solltet: „In welchen 2-3 Setups seid ihr am tiefsten? Warum? Was würdet ihr für unseren Kontext empfehlen, und warum?" Die Antwort muss den Trade-off benennen (managed vs. self-hosted, Vendor-Lock-in vs. Kontrolle, initiale Kosten vs. langfristige Wartbarkeit).

Für DACH-Mittelstand-Setups empfehlen wir meist eine Kombination aus Managed-Serving (SageMaker oder Vertex AI in EU-Region) plus MLflow für Model-Registry plus Prometheus/Grafana plus Evidently für Drift-Detection. Nicht weil es Buzzword-tauglich ist, sondern weil ein 2-Personen-Data-Team das langfristig betreiben kann.

Frage 3: Wie lösen sie DSGVO für ML-Pipelines konkret?

Diese Frage stellt fast niemand — und deshalb kommen wir häufig hinein, um genau das nachträglich zu bauen. DSGVO für ML-Systeme ist mehr als eine Datenschutz-Erklärung. Es geht um konkrete technische Umsetzung:

• Data-Lineage-Dokumentation: Welche Trainingsdaten wurden für welche Modell-Version genutzt? Wenn ein Kunde seine Daten gelöscht haben will, wisst ihr welche Modelle betroffen sind?
• Right-to-Erasure für Trainingsdaten: Wenn ein Betroffener sein Recht auf Löschung geltend macht, könnt ihr die Modelle re-trainieren ohne diesen Datenpunkt? Oder ist das rechtlich problematisch?
• EU-Region-Compliance: Welche Cloud-Regionen werden für welche Workloads genutzt? Sind Trainings-Runs möglicherweise in Nicht-EU-Regionen abgelaufen, ohne dass es transparent ist?
• Inferenz-Logs: Werden Modell-Version und Input-Hash pro Anfrage geloggt? Sonst kann bei einem Audit oder einem Vorfall niemand beantworten, welcher Modell-Output welchen Kunden betroffen hat.

Ein Dienstleister der auf DSGVO mit „wir sind ISO 27001-zertifiziert" antwortet, hat die Frage nicht verstanden. ISO ist gut, aber DSGVO ist eine andere Ebene.

Frage 4: Was ist ihr Pricing-Modell und was sind realistische Ranges?

Der DACH-MLOps-Markt hat eine klare Preisstruktur, die ihr kennen solltet:

• MLOps-Audit (1-3 Tage): 2.500-7.900 EUR fix. Ergebnis: 1-Pager oder Kurz-Report mit priorisierten Empfehlungen.
• MLOps-Sprint (4-6 Wochen): 15.000-30.000 EUR fix. Ergebnis: erstes Modell reproduzierbar in Production, mit Basis-Monitoring.
• MLOps-Retainer: 15.000-35.000 EUR/Monat. Ergebnis: laufender Betrieb, Optimierung, neue Modelle.

Wenn euer Dienstleister ausschließlich mit Time-and-Material-Preisen arbeitet (Stundensatz 150-250 EUR ohne Cap), habt ihr keinerlei Kostenkontrolle. Wenn er nur Enterprise-Preise (Sprints ab 80.000 EUR) nennt, ist er wahrscheinlich Mittelstand-untauglich. Passt das Pricing-Modell nicht zu eurer Firmengröße, passt der Dienstleister nicht.

Wichtig auch: was ist NICHT im Preis enthalten? Cloud-Kosten während der Implementierung? Third-Party-Tools (MLflow-Enterprise, WandB)? Change-Requests? Klärt das bevor ihr unterschreibt.

Frage 5: Wie sichern sie Know-how-Transfer ab?

Vendor-Lock-in in MLOps-Beratung ist die häufigste Falle. Ein Dienstleister der euren Setup baut, ihn aber nur selbst betreiben kann, hat euch als Kunden für die Ewigkeit — nicht weil ihr wollt, sondern weil ihr müsst.

Was ihr fragen solltet: „Wie stellt ihr sicher, dass unser Team den Setup langfristig eigenständig betreiben kann? Welche Trainings, welche Dokumentation, welches Pair-Programming?"

Konkrete Anforderungen die ihr stellen könnt:

• Alle Konfigurationen in Infrastructure-as-Code (Terraform oder Pulumi), im euren Git-Repository, nicht in einem proprietären Dienstleister-System
• Runbook-Dokumentation für die 10 häufigsten Incident-Typen
• Mindestens 2 eurer Team-Mitglieder wurden im Setup pair-programmed und können ihn eigenständig deployen
• Wöchentliche Handover-Sessions in den letzten 4 Wochen des Engagements

Wir bauen so gut wir können nach dem Prinzip „von Anfang an transferierbar". Nicht weil wir kein Retainer-Geschäft wollen, sondern weil wir aus Erfahrung wissen: Kunden die uns nach 6 Monaten selbst weiterlaufen lassen können, kommen später zurück für neue Projekte. Die die uns brauchen, kündigen sobald sie können.

Frage 6: Welche Erfahrung haben sie im DACH-Mittelstand konkret?

Big-Tech-MLOps-Beratung (die Netflix/Uber/Meta-Blogposts als Referenz nutzt) ist selten übertragbar auf einen bayerischen Maschinenbauer mit 400 Mitarbeitern. Die Rahmenbedingungen sind fundamental anders:

• Kleinere Data-Teams (2-5 Data Engineers vs. Big-Tech-Plattformteams)
• Historisch gewachsene IT-Landschaften (SAP, Windows Active Directory, on-prem-Datenbanken)
• Andere Regulatorik (DSGVO, EU AI Act, Branchenvorgaben wie MDR)
• Andere Sales-Zyklen (12-18 Monate vs. 6-9 Monate bei US-Tech)

Was ihr fragen solltet: „Nennt uns drei DACH-Mittelstand-Referenzen (nicht DAX, nicht US-Unicorn) wo ihr MLOps implementiert habt. Was war die Firmengröße? Was war das Ergebnis nach 6 Monaten?"

Wenn die Antwort nur DAX-Kunden nennt oder ausweicht, ist der Dienstleister vermutlich nicht Mittelstand-erfahren, egal was das Marketing sagt.

Frage 7: Was passiert wenn ein Modell in Production fehlerhaft läuft?

Das ist die wichtigste Frage — und die die am seltensten gestellt wird. ML-Systeme sind nicht deterministisch. Modelle driften, Daten ändern sich, Downstream-Systeme brechen. Was macht euer Dienstleister wenn das um 3 Uhr nachts passiert?

Konkrete Anforderungen:

• SLA: Antwortzeit im Support-Fall (kritisch: unter 4h; wichtig: unter 24h; nicht-kritisch: 48-72h)
• Incident-Response-Prozess: Wer wird informiert, in welcher Reihenfolge? Gibt es ein Runbook das euer Team ausführen kann bis der Dienstleister übernimmt?
• Rollback-Strategie: Wie schnell kann ein fehlerhaftes Modell auf die vorherige Version zurückgerollt werden? (Ziel: unter 15 Minuten via Blue-Green oder Canary-Deployment)
• Post-Mortem-Kultur: Gibt es strukturierte Post-Mortems nach Incidents? Wie werden Lessons Learned dokumentiert und geteilt?

Ein Dienstleister der auf diese Frage mit „das kommt selten vor" oder „das ist nicht Teil unseres Standard-Scopes" antwortet, hat entweder nie einen Production-Incident gehabt (extrem unwahrscheinlich) oder er möchte sich nicht binden. Beide sind Warnzeichen.

Zusammenfassung: die 7 Fragen als Checkliste

Bevor ihr eure Unterschrift unter einen MLOps-Beratungs-Vertrag setzt, lasst euch diese sieben Fragen konkret beantworten:

1. Konkrete Production-Modelle mit Zahlen — nicht abstrakte Referenzen
2. 2-3 Kern-Stacks tief, nicht 15 oberflächlich
3. DSGVO als konkrete technische Umsetzung, nicht als ISO-Zertifikat-Verweis
4. Realistisches Pricing (Audit 2.5-8k, Sprint 15-30k, Retainer 15-35k/Monat)
5. Know-how-Transfer explizit im Scope, mit klaren Deliverables
6. DACH-Mittelstand-Referenzen (nicht nur DAX oder US-Tech)
7. Incident-Response mit SLA, Runbook, Rollback-Strategie, Post-Mortem-Kultur

Wenn euer potenzieller Dienstleister diese sieben Fragen konkret und mit Zahlen beantworten kann, seid ihr in guten Händen. Wenn nicht, sucht weiter.

Falls ihr überlegt uns bei NeuralMedic zu beauftragen: gebt uns 30 Minuten in einem kostenfreien Discovery-Call. Wir beantworten diese sieben Fragen konkret für euren Case — mit realen Zahlen aus unseren aktuellen Production-Deployments, nicht mit Marketing-Slides.