Ein Real-Time Machine Learning Engineer bringt Modelle des maschinellen Lernens in Anwendungen, die zeitnah auf neue Eingaben reagieren müssen. Zur Arbeit gehören die Bereitstellung von Vorhersagen, Tests unter Last und die Überwachung des laufenden Systems. Der Schwerpunkt liegt auf verlässlicher Software im Betrieb, nicht allein auf einem möglichst genauen Modell im Experiment.
Inhaltsverzeichnis
Was bedeutet Echtzeit in diesem Beruf?
Der Begriff Echtzeit braucht ein konkretes Ziel: Wie schnell muss eine Antwort vorliegen, wie viele Anfragen kommen gleichzeitig und was passiert bei einer verspäteten Antwort? Ein Empfehlungssystem mit kurzer Antwortzeit stellt andere Anforderungen als eine sicherheitskritische Maschinensteuerung. Die Stellenbezeichnung allein sagt deshalb wenig über die erforderlichen Garantien aus.
Für die technische Auslegung unterscheidet der Performance-Leitfaden von TensorFlow Serving insbesondere Durchsatz und Antwortzeiten. Auch seltene langsame Antworten sind relevant. Ein guter Durchschnittswert kann verbergen, dass ein Teil der Nutzer sehr lange warten muss.
Aufgaben vom Modell bis zum laufenden Dienst
| Bereich | Konkrete Aufgabe |
|---|---|
| Bereitstellung | Modellversion laden und über eine definierte Schnittstelle erreichbar machen |
| Eingabedaten | Formate, fehlende Werte und dieselbe Merkmalsaufbereitung wie beim Training prüfen |
| Leistung | Antwortzeiten, Fehlerraten und Durchsatz unter realistischer Last messen |
| Neue Versionen | Qualität vergleichen, Einführung begrenzen und Rückkehr zur vorherigen Version vorbereiten |
| Betrieb | Messwerte, Alarme, Zuständigkeiten und Verhalten bei Ausfällen festlegen |
Welche Aufgaben beim ML-Team, bei Data Engineers oder beim Plattformbetrieb liegen, muss das Unternehmen klären. Es gibt keine feste Aufteilung, nach der Data Scientists ausschließlich trainieren und ML Engineers ausschließlich betreiben.

Welche Kenntnisse sind für den Einstieg sinnvoll?
Beginnen Sie mit solider Softwareentwicklung: verständlicher Code, Versionsverwaltung, automatisierte Tests, Schnittstellen und Fehlersuche. Hinzu kommen Grundlagen des maschinellen Lernens und der Datenverarbeitung. Wer ein Modell bereitstellt, sollte erklären können, welche Eingaben es erwartet und wie seine Qualität beurteilt wird.
Container, Cloud-Dienste und Überwachung können je nach Stelle dazugehören. Kubernetes, mehrere Cloud-Plattformen, Java und ein bestimmtes Streaming-System sind jedoch keine allgemeine Pflichtkombination für jede Position. Wählen Sie die Werkzeuge nach der tatsächlichen Zielstelle. Bei Datenströmen gibt es Überschneidungen mit dem IoT Data Specialist.
Ein Lernprojekt als belastbare Arbeitsprobe
Ein begrenztes Übungsprojekt kann zeigen, wie Sie Modellqualität und Betrieb zusammenbringen. Verwenden Sie dafür geeignete öffentliche oder künstliche Daten ohne vertrauliche Inhalte.
- Trainieren Sie ein kleines Modell und dokumentieren Sie die Eingaben und eine einfache Vergleichslösung.
- Stellen Sie eine Vorhersageschnittstelle bereit und testen Sie fehlerhafte Eingaben.
- Messen Sie Antwortzeiten und Fehlerraten bei mehreren gleichzeitigen Anfragen.
- Vergleichen Sie eine zweite Modellversion mit denselben Testdaten.
- Zeigen Sie, wie Sie bei Problemen zur vorherigen Version zurückkehren.
Die Evaluator-Dokumentation von TFX beschreibt den Vergleich neuer Modelle mit einer Ausgangsversion anhand festgelegter Qualitätskriterien. Ein erfolgreiches Übungsprojekt belegt Ihre Vorgehensweise, ersetzt aber keine Erfahrung mit einem produktiven System.

Stellenangebote und Gehalt richtig einordnen
Suchen Sie auch nach ML Engineer, MLOps Engineer und Software Engineer mit ML-Schwerpunkt. Vergleichen Sie die Aufgaben statt nur die Titel. Klären Sie, ob es um neue Modelle, Schnittstellen, Datenplattformen oder Rufbereitschaft geht.
Für einen Gehaltsvergleich brauchen Sie Region, Erfahrungsstufe, tatsächliche Verantwortung und vereinbarte Arbeitszeit. Lassen Sie sich Fixgehalt, variable Bestandteile und Regelungen für Bereitschaftsdienste getrennt erläutern. Eine allgemeine Gehaltsspanne für diesen speziellen Titel wäre ohne passende Datengrundlage wenig aussagekräftig.
Fragen für das Bewerbungsgespräch
- Welche Antwortzeiten müssen im Normalfall und unter hoher Last erreicht werden?
- Wer entscheidet, ob eine Modellversion ausreichend gut ist?
- Wer betreut den Dienst bei Störungen und außerhalb der Arbeitszeit?
- Welche Daten und Testumgebungen stehen zur Verfügung?
- Wie werden Modellfehler von Fehlern der Infrastruktur unterschieden?
Diese Fragen helfen zu beurteilen, ob die Stelle zu Ihren Kenntnissen passt und ob Verantwortung, Ressourcen und Einarbeitung zusammenpassen.