Um 6:40 Uhr schlägt der Freshness-Check an: Die Tabelle orders im Data Warehouse hat seit 23:12 Uhr keinen neuen Datensatz bekommen. In einem Shop, der nachts sonst 300 bis 400 Bestellungen verbucht, ist das kein ruhiger Abend, sondern ein Ladejob, der hängt.
Die Data Engineerin startet den Sync neu, um 7:15 Uhr sind die Daten vollständig, und um 9:00 Uhr sieht die Geschäftsführung einen korrekten Tagesbericht. Ohne den Check hätte dort ein Umsatzeinbruch von 38 Prozent gestanden, und der Vormittag wäre mit der Suche nach einem Marketingproblem vergangen, das es nicht gibt.
Genau dafür sind Datenqualitätsprüfungen da: nicht für ein perfektes Datenmodell, sondern um die Fehler zu fangen, bevor jemand eine Entscheidung auf ihnen aufbaut. Wer neu in einem Team ist oder eine gewachsene Pipeline übernimmt, steht trotzdem meist vor einer Liste von 200 Tabellen und weiß nicht, wo er anfangen soll. Diese Checkliste ist für genau diese Lage gedacht.
Woran Sie merken, dass Ihre Zahlen nicht stimmen, bevor es jemand anders merkt
Die meisten Datenfehler in Onlineshops kündigen sich an, nur nicht dort, wo man hinschaut. Ein Dashboard zeigt einen Umsatz, der um 4 Prozent vom Zahlungsanbieter abweicht. Die Anzahl der Neukunden springt an einem Dienstag um das Dreifache. Die Retourenquote liegt plötzlich bei 0 Prozent, weil das ERP eine Spalte umbenannt hat und der Join ins Leere läuft. Jedes dieser Symptome passt zu einer von wenigen Fehlerklassen.
Die erste Klasse ist Menge: zu wenige oder zu viele Zeilen, etwa weil ein Ladejob ausgefallen ist oder ein Retry dieselben Bestellungen zweimal geschrieben hat. Die zweite ist Frische: Daten sind vollständig, aber alt. Die dritte sind Schlüssel und Beziehungen: doppelte Bestellnummern, Positionen ohne Kopfdatensatz, Kunden-IDs, die im Kundenstamm fehlen. Die vierte sind Werte: negative Preise, Währungscodes wie "EURO" statt "EUR", Zeitstempel im Jahr 1970. Die fünfte ist Bedeutung: Alles ist technisch korrekt, aber die Definition hat sich verschoben, etwa weil Gutscheinkäufe plötzlich als Umsatz zählen.
Die ersten vier Klassen lassen sich automatisch prüfen. Die fünfte braucht einen Abgleich mit einer Quelle, der Sie vertrauen. In fast jedem Shop ist das der Zahlungsanbieter: Was Stripe, Adyen, Mollie oder PayPal als ausgezahlt melden, ist näher an der Wahrheit als jede Tabelle, die aus Tracking-Events gebaut wurde.
Diese Einteilung ist der erste Schritt aus der Unsicherheit. Sie müssen nicht 200 Tabellen verstehen, sondern für jede wichtige Tabelle fünf Fragen beantworten. Und nicht jede Tabelle ist wichtig: In einem typischen Shop-Datenmodell hängen die meisten Berichte an weniger als 15 Tabellen, vor allem Bestellungen, Bestellpositionen, Kunden, Produkte, Zahlungen, Retouren und Sitzungen.
Die Schnellprüfung: acht Schritte pro Tabelle in etwa 30 Minuten
Das folgende Verfahren eignet sich für die erste Bestandsaufnahme einer Tabelle. Für die Bestelltabelle eines mittelgroßen Shops dauert es etwa eine halbe Stunde, wenn Sie Lesezugriff aufs Warehouse haben. Die Abfragen sind bewusst einfach gehalten.
- Eigentümer und Quelle notieren. Woher kommt die Tabelle, welcher Job lädt sie, wer wird geweckt, wenn sie fehlt? Ohne diese Antwort ist jeder spätere Alarm herrenlos.
- Zeilen pro Tag zählen, 60 Tage zurück. Ein Diagramm aus dieser einen Abfrage zeigt Lücken, Doppelladungen und Saisonmuster sofort. Ein Tag mit 0 Zeilen oder mit dem Doppelten des Nachbartags ist ein Kandidat für eine Rückfrage.
- Letzten Zeitstempel prüfen. Wie alt ist der jüngste Datensatz, verglichen mit dem Ladeplan? Achten Sie auf Zeitzonen: Liegt der Shop in Europe/Berlin und das Warehouse in UTC, verschieben sich Tagesgrenzen um 1 bis 2 Stunden, je nach Sommerzeit.
- Primärschlüssel auf Eindeutigkeit prüfen.
select order_id, count(*) as n
from orders
group by order_id
having count(*) > 1;
- Pflichtfelder auf leere Werte prüfen. Bestellnummer, Kunden-ID, Betrag, Währung und Zeitstempel. Der Anteil leerer Werte pro Tag ist aussagekräftiger als die Gesamtsumme, weil er zeigt, ab wann ein Feld leer bleibt.
- Beziehungen prüfen. Gibt es Bestellpositionen ohne Bestellung, Bestellungen ohne Kunden, Zahlungen ohne Bestellung? Ein Anteil verwaister Datensätze über 0,5 Prozent verdient eine Erklärung.
- Wertebereiche und erlaubte Werte prüfen. Beträge größer null, Status nur aus der bekannten Liste, Währungscodes nur EUR, CHF und die übrigen, die Sie tatsächlich verkaufen.
- Mit der Geldquelle abgleichen. Summe der bezahlten Bestellungen pro Tag gegen die Summe der Transaktionen beim Zahlungsanbieter. Abweichungen unter 1 Prozent erklären sich meist durch Zeitverschiebung und Gebühren, Abweichungen darüber durch fehlende oder doppelte Datensätze.
Nach diesen acht Schritten wissen Sie, ob die Tabelle grundsätzlich vertrauenswürdig ist, und Sie haben die Abfragen für die Automatisierung schon geschrieben.
Welche Prüfung wohin gehört: ein Entscheidungsbaum
Nicht jede Prüfung gehört an denselben Ort. Manche gehören direkt in die Ladestrecke, andere als Test ins Transformationsprojekt, andere in ein Monitoring, das Trends beobachtet. Die folgenden Fragen helfen bei der Einordnung, der Reihe nach beantwortet.
- Würde ein Fehler in dieser Prüfung einen Finanz- oder Umsatzbericht verfälschen? Ja: weiter mit Frage 2. Nein: weiter mit Frage 4.
- Lässt sich die Regel als feste Bedingung formulieren, etwa "Bestellnummer eindeutig" oder "Betrag größer null"? Ja: als blockierender Test in die Transformation, zum Beispiel als dbt-Test
unique,not_null,accepted_valuesoderrelationships. Schlägt er fehl, wird das abhängige Modell nicht gebaut. Nein: weiter mit Frage 3. - Hängt die Regel von einem Erwartungswert ab, der sich mit der Saison ändert, etwa die Zahl der Bestellungen pro Tag? Ja: als Volumen-Monitoring mit dynamischem Schwellenwert, das warnt, aber nicht blockiert. Nein: als täglicher Abgleich mit der Geldquelle, dessen Abweichung in einem Kanal landet, den jemand liest.
- Nutzt ein Modell für maschinelles Lernen oder eine automatische Aktion diese Tabelle, etwa Preisregeln oder Empfehlungen? Ja: Verteilungsprüfung der wichtigsten Merkmale vor jedem Training und jeder Batch-Vorhersage. Nein: weiter mit Frage 5.
- Wird die Tabelle von mehr als einem Team regelmäßig gelesen? Ja: Freshness- und Schema-Prüfung, gelegentlich ein Blick auf leere Werte. Nein: keine eigene Automatisierung, Prüfung nur bei Bedarf.
Der Baum führt fast immer zu wenigen blockierenden Tests auf den Geldtabellen und zu weichen Warnungen überall sonst. Werkzeuge gibt es viele: dbt für Tests im Transformationsprojekt, dbt source freshness für die Frische, Great Expectations oder Soda Core für komplexere Regeln. Die Wahl des Werkzeugs ist zweitrangig. Wer die Fragen beantwortet hat, kann jede dieser Lösungen sinnvoll konfigurieren.
Fehler, die Datenchecks wertlos machen
Die häufigste Ursache für schlechte Datenqualität in Teams mit Prüfungen ist nicht das Fehlen von Tests, sondern Tests, auf die niemand mehr reagiert. Folgende Muster sehen Datenteams in Onlineshops immer wieder.
- Zu viele Alarme. Wer 40 Warnungen am Tag bekommt, liest keine davon. Ein Kanal mit mehr als 3 bis 5 Alarmen pro Woche ohne Handlung muss ausgedünnt werden.
- Feste Schwellen für saisonale Größen. Ein Check "mindestens 800 Bestellungen pro Tag" schlägt im Januar jeden Sonntag an und bleibt am Black Friday stumm, selbst wenn die Hälfte der Bestellungen fehlt. Besser ist ein Vergleich mit demselben Wochentag der letzten 8 Wochen.
- Nur auf leere Werte prüfen.
not_nullauf jeder Spalte gibt ein gutes Gefühl, fängt aber weder Duplikate noch falsche Beträge. - Retries ohne Idempotenz. Wenn ein Ladejob nach einem Timeout neu startet und Daten anhängt statt sie zu ersetzen, entstehen Duplikate, die kein Schema-Check sieht.
- Zeitzonen ignorieren. Ein Tagesumsatz in UTC weicht vom Tagesumsatz in Berliner Zeit ab, besonders an Tagen mit Mitternachtsaktionen.
- Tracking-Daten als Wahrheit behandeln. In Deutschland, Österreich und der Schweiz lehnen je nach Banner und Zielgruppe viele Besucher Cookies ab. Events aus dem Webtracking erfassen daher systematisch weniger Käufe als das Backend. Wer Conversion-Raten aus Tracking-Käufen und Backend-Sitzungen mischt, rechnet mit zwei Grundgesamtheiten.
- Soft Deletes vergessen. Stornierte oder gelöschte Bestellungen bleiben mit einem Flag in der Tabelle und zählen weiter, wenn niemand den Filter setzt.
- Prüfungen nur in der Testumgebung. Daten in Staging sind sauber, weil sie klein sind. Die Fehler entstehen in Produktion.
Jeder dieser Punkte ist schnell behoben, sobald er sichtbar ist. Das Problem ist, dass sie lange unsichtbar bleiben, weil der Bericht plausibel aussieht.
Wie die Checkliste im Alltag überlebt und wann Sie darauf verzichten
Eine Checkliste, die einmal durchgearbeitet und dann vergessen wird, hilft genau einmal. Damit sie bleibt, braucht sie drei Dinge. Erstens Eigentümer pro Prüfung, nicht pro Werkzeug: Für den Umsatzabgleich ist die Person verantwortlich, die den Finanzbericht baut. Zweitens eine Reaktionsregel: blockierende Tests werden am selben Tag behoben, Warnungen innerhalb einer Woche entweder behoben oder angepasst. Drittens eine Rückschau einmal im Quartal, in der Prüfungen ohne Treffer und Alarme ohne Handlung gelöscht werden.
Ein Zahlenbeispiel für eine Volumenprüfung: Ein Shop hat an den letzten 8 Dienstagen im Schnitt 1.240 Bestellungen verbucht, mit einer Standardabweichung von 95. Ein Alarm ab drei Standardabweichungen unter dem Mittel liegt bei 1.240 minus 285 gleich 955 Bestellungen. Kommen an einem Dienstag nur 910 an, wird gewarnt.
Kommen 1.010 an, nicht, obwohl das 19 Prozent unter dem Schnitt ist. Ob das zu großzügig ist, hängt davon ab, wie teuer ein übersehener Fehler gegenüber einem Fehlalarm ist. In einem Shop mit Werbebudget, das täglich nach Umsatz gesteuert wird, lohnt eher eine engere Schwelle von zwei Standardabweichungen, hier also 1.050 Bestellungen.
Jetzt zur Frage, wann Sie diesen Aufwand nicht treiben sollten. Ein Shop mit 30 Bestellungen am Tag, einer Shopify-Instanz und einem Bericht, den die Inhaberin einmal pro Woche anschaut, braucht kein Monitoring-System. Dort reicht ein monatlicher Abgleich der Umsätze mit dem Zahlungsanbieter, und alles Weitere kostet mehr Zeit, als es Fehler verhindert. Ebenso wenig lohnt eine automatisierte Prüfung für eine einmalige Analyse, deren Daten nach zwei Wochen niemand mehr anfasst; dort genügen die acht Schritte von Hand.
Verzichten sollten Sie auch dann, wenn die Pipeline gerade umgebaut wird. Tests auf ein Datenmodell, das in drei Wochen ersetzt wird, erzeugen vor allem Pflegeaufwand und Fehlalarme. Schreiben Sie die Abfragen auf, prüfen Sie von Hand und bauen Sie die Automatisierung erst auf das neue Modell. Und wenn niemand im Team die Alarme lesen kann oder will, bauen Sie zuerst diese Zuständigkeit auf. Ein Test ohne Empfänger ist kein Schutz, sondern nur ein Protokoll darüber, dass man es gewusst hätte.