Themen-Hub

Backtesting & Validierung

Wie testet man eine Strategie ehrlich, bevor echtes Geld fließt? Walk-Forward, Out-of-Sample, Survivorship-Bias, Overfitting — die handwerklichen Grundlagen systematischen Tradings.

22 Artikel zu diesem Thema

Ein Backtest zeigt, wie sich ein festes Regelwerk auf historischen Daten verhalten hätte, und zwar unter genau den Annahmen, die im Test stecken. Die Validierung stellt die nächste Frage: Ist das Ergebnis mehr als eine Anpassung an zufällige Muster der Vergangenheit? Dazu gehören saubere Daten ohne Survivorship- und Look-Ahead-Fehler, realistische Kosten für Spread, Kommission und Slippage, eine klare Trennung von Optimierungs- und Testzeitraum sowie statistische Prüfungen, die berücksichtigen, wie viele Varianten ausprobiert wurden.

Die Artikel reichen von Grundlagen wie Walk-Forward in der Praxis bis zu Verfahren wie Bootstrap-Resampling, Monte-Carlo-Permutationstests oder White's Reality Check. Begriffe wie Overfitting und Survivorship-Bias erklärt das Glossar. Im Backtest-Playground lässt sich eine Moving-Average-Crossover-Strategie auf Beispieldaten ohne Code durchspielen.

Die Beiträge richten sich an Trader und Entwickler, die eigene Strategien in MetaTrader 5 oder Python testen, und an alle, die einen fremden Backtest beurteilen sollen, etwa bevor sie ein System übernehmen oder weiterentwickeln lassen. Für die meisten Methodik-Artikel genügen Grundbegriffe der Statistik wie Mittelwert, Standardabweichung und Standardfehler. Beiträge zu Verfahren wie der Deflated Sharpe Ratio oder der Combinatorial Purged Cross-Validation setzen etwas mehr voraus und enthalten Python-Code. Wie ein getestetes System anschließend stabil läuft, behandelt der Hub Trading-Bots und Broker-APIs.

  • Die beste von vielen Varianten berichten. Wer hundert Parameterkombinationen testet und die beste auswählt, erhöht allein durch die Auswahl die Chance auf eine gut aussehende Kurve, auch wenn keine Variante einen echten Vorteil hat. Die Zahl der getesteten Varianten gehört deshalb in die Bewertung, etwa über die Deflated Sharpe Ratio oder einen Multiple-Testing-Test.
  • Informationen aus der Zukunft. Ein Signal aus dem Tagesschlusskurs lässt sich nicht zur Eröffnung desselben Tages handeln. Quartalszahlen erscheinen in der Regel erst Wochen nach dem Quartalsende, manche Datenbanken ordnen sie aber rückwirkend dem Stichtag zu. Solche Look-Ahead-Fehler sind in der Kapitalkurve nicht zu erkennen (Bias-Korrektur).
  • Nur die Überlebenden testen. Ein Aktienuniversum aus den heutigen Indexmitgliedern enthält keine Firmen, die zwischenzeitlich insolvent oder delistet wurden. Das verzerrt Rendite und Risiko in die optimistische Richtung (survivorship-freie Universen).
  • Zu wenige Trades. Der Standardfehler des mittleren Trade-Ertrags sinkt nur mit der Wurzel der Trade-Anzahl. Rechenbeispiel: Bei 0,3 R mittlerem Ertrag und 1,5 R Standardabweichung (R ist das Anfangsrisiko eines Trades) liegt die t-Statistik nach 30 Trades bei etwa 1,1, nach 120 Trades bei etwa 2,2 (Stichprobengröße).
  • Kosten pauschal oder gar nicht. Je kleiner der durchschnittliche Gewinn pro Trade, desto stärker verschieben Spread, Kommission und Slippage das Ergebnis. Kurzfristige Strategien reagieren darauf besonders empfindlich.

Auch ein sauber validierter Backtest ist kein Beleg für künftige Ergebnisse. Märkte wechseln zwischen ruhigen und volatilen Phasen, und eine Strategie, die nur in einem Regime funktioniert hat, wirkt im Rückblick oft stabiler, als sie ist. Sinnvoll ist deshalb eine Kette von Prüfungen: ein Out-of-Sample- oder Walk-Forward-Test, Stresstests mit historischen Krisenphasen (Stress-Testing), danach ein Forward-Test auf einem Demokonto und ein vorher festgelegtes Kriterium, wann die Strategie als gescheitert gilt. Damit sich Ergebnisse später nachprüfen lassen, gehören Code, Datenstand und Parameter versioniert (reproduzierbare Backtests). Typische Gründe, warum Live-Ergebnisse hinter dem Test zurückbleiben, fasst der Beitrag Vom Backtest zur Live-Strategie zusammen.

  1. Vom Backtest zur Live-Strategie: die fünf häufigsten Fallen: Der Überblick über typische Fallen zwischen Backtest und Livebetrieb zeigt, welche Fehlerquellen Sie in den folgenden Schritten gezielt ausschließen sollten.
  2. Bias-Korrektur in Backtests: Survivorship, Look-Ahead, Selection systematisch eliminieren: Bevor Sie Kennzahlen bewerten, prüfen Sie die Daten: Survivorship-, Look-Ahead- und Selection-Bias erkennen und mit Point-in-Time-Daten korrigieren.
  3. Walk-Forward in der Praxis: so testen Sie Strategien ehrlich: Mit Walk-Forward trennen Sie Optimierung und Test über rollende Fenster und sehen, ob Ergebnisse und Parameter über mehrere Zeiträume stabil bleiben.
  4. Wie viele Trades braucht ein Backtest? Signifikanz prüfen: Danach folgt die Frage, ob die Anzahl der Trades überhaupt reicht, mit Standardfehler, t-Statistik und Probabilistic Sharpe Ratio an einem Rechenbeispiel erklärt.
  5. Deflated Sharpe Ratio: die ehrliche Korrektur für Backtest-Overfitting: Zuletzt korrigiert die Deflated Sharpe Ratio das Ergebnis für die Zahl getesteter Varianten sowie für Schiefe und Kurtosis der Erträge.

Wie viele Trades braucht ein Backtest?

Eine feste Zahl gibt es nicht. Entscheidend ist, wie groß der mittlere Ertrag pro Trade im Verhältnis zu seiner Streuung ist. Der Standardfehler sinkt nur mit der Wurzel der Trade-Anzahl: Für einen halb so großen Standardfehler braucht es viermal so viele Trades. Ein kleiner Vorteil pro Trade braucht deshalb ein Vielfaches an Trades, bis er sich statistisch von null unterscheiden lässt. Zusätzlich zählt, ob die Daten verschiedene Marktphasen abdecken.

Was unterscheidet Walk-Forward von einem einfachen Out-of-Sample-Test?

Ein einfacher Out-of-Sample-Test teilt die Daten einmal: Optimiert wird auf dem ersten Teil, geprüft auf dem zweiten. Walk-Forward wiederholt diesen Schritt: optimieren auf einem Zeitraum, testen auf dem direkt folgenden, dann um die Testlänge weiterrücken, wahlweise mit festem oder wachsendem Optimierungsfenster. So entsteht eine zusammengesetzte Out-of-Sample-Kurve aus mehreren Phasen, und es wird sichtbar, ob die optimalen Parameter stabil bleiben oder von Fenster zu Fenster springen.

Warum sind Live-Ergebnisse oft schlechter als der Backtest?

Häufig kommen mehrere Ursachen zusammen. Wurden viele Varianten getestet, ist das beste Ergebnis zum Teil Zufall. Look-Ahead- und Survivorship-Fehler schönen die Daten. Spread, Kommission und Slippage fallen live oft höher aus als im Test angenommen, und Ausführungsverzögerungen fehlen im Test manchmal ganz. Dazu kommen Marktphasen, die im Testzeitraum nicht vorkamen. Je mehr dieser Punkte ein Backtest offen lässt, desto größer kann der Abstand zum Livebetrieb ausfallen.

Ist ein guter Backtest ein Beleg für künftige Gewinne?

Nein. Ein Backtest zeigt, wie sich Regeln unter den Annahmen des Tests in der Vergangenheit verhalten hätten. Saubere Daten, realistische Kosten, Out-of-Sample-Prüfung und statistische Tests senken die Wahrscheinlichkeit, einem Zufallsergebnis aufzusitzen. Gegen Regimewechsel, eine veränderte Marktstruktur oder neue Kosten schützen sie nicht. Ein validierter Backtest ist deshalb eine Voraussetzung für den Livebetrieb, aber keine Zusage über künftige Ergebnisse.

Was gehört in einen aussagekräftigen Backtest-Report?

Neben der Rendite gehören Maximal-Drawdown, Sharpe Ratio und Trade-Statistik in den Report, berechnet mit Spread, Kommission und Slippage. Wichtig sind außerdem Datenquelle und Zeitraum, die Zahl der getesteten Varianten, die Trennung von Optimierungs- und Testzeitraum und das Out-of-Sample-Ergebnis. Fehlen diese Angaben, lässt sich nicht beurteilen, ob die Kennzahlen belastbar sind.

Methodik · 10 Min

Wie viele Trades braucht ein Backtest? Signifikanz prüfen

Ab wie vielen Trades ist ein Backtest belastbar? Standardfehler, t-Statistik, Probabilistic Sharpe Ratio und Minimum Track Record Length mit Rechenbeispiel.

Artikel lesen
Backtesting · 9 Min

Sharpe, Sortino, Calmar: welche Kennzahl was misst

Sharpe, Sortino und Calmar im Vergleich: Formeln, korrekte Annualisierung, typische Rechenfehler in Backtests und eine Python-Funktion für alle drei Kennzahlen.

Artikel lesen
Strategie · 5 Min

Vom Backtest zur Live-Strategie: die fünf häufigsten Fallen

Warum Trading-Strategien im Backtest brillieren und live versagen — die fünf häufigsten Fallen und wie man sie umgeht. Marcel Gautsche.

Artikel lesen
Methodik · 4 Min

Bias-Korrektur in Backtests: Survivorship, Look-Ahead, Selection systematisch eliminieren

Survivorship, Look-Ahead, Selection, Data-Snooping — die vier großen Bias-Quellen ruinieren die meisten Backtests. So eliminieren Sie sie systematisch.

Artikel lesen
Risk · 4 Min

Bootstrap-Resampling: die ehrlichere Alternative zu Monte-Carlo?

Bootstrap braucht keine Verteilungsannahme. Es sampelt aus dem, was tatsächlich passiert ist. Das macht es in vielen Trading-Anwendungen sauberer als Monte-Carlo — wenn man die Stolperfallen kennt.

Artikel lesen
Methodik · 4 Min

Combinatorial Purged Cross-Validation: der CV-Standard für Zeitreihen-Backtests

Combinatorial Purged Cross-Validation nach Lopez de Prado: warum klassische k-fold CV bei Zeitreihen scheitert und wie CPCV mit Purging und Embargoing Multi-Path-Inferenz möglich macht.

Artikel lesen
Methodik · 4 Min

Deflated Sharpe Ratio: die ehrliche Korrektur für Backtest-Overfitting

Deflated Sharpe Ratio nach Bailey und Lopez de Prado korrigiert die nackte Sharpe Ratio für Skewness, Kurtosis und Multiple Testing. Formel, Python-Code und ein Beispiel mit PBO.

Artikel lesen
Methodik · 5 Min

Hidden Markov Models in der Praxis: Regime-Detection ohne Overfitting

HMM in der Praxis: Regime-Detection ohne Overfitting. Forward-Backward, Viterbi, Baum-Welch und die ehrliche Frage — wann HMM einen echten Mehrwert gegen einfache Vola-Filter liefert.

Artikel lesen
Execution · 5 Min

Market Impact: das Square-Root-Law in der Praxis

Market-Impact-Modelle in der Praxis: das Square-Root-Law, Kyle's Lambda, Bouchaud-Memory-Modelle und konkrete Anwendung für Order-Größen-Limits und Cost-Adjusted Backtests.

Artikel lesen
Volumen · 5 Min

Money Flow Index (MFI): RSI mit Volume-Komponente

Der Money Flow Index kombiniert RSI-Logik mit Volumen. Wann der Volumenanteil tatsächlich einen Unterschied macht — und wann nicht. Mit Backtests und ehrlicher Bewertung.

Artikel lesen
Methodik · 4 Min

Monte Carlo Permutation Tests: ist Ihre Strategie besser als Zufall?

Monte Carlo Permutation Tests prüfen, ob eine Trading-Strategie statistisch besser ist als Zufall. Block-Permutation, P-Value-Interpretation und Python-Code in der Praxis.

Artikel lesen
KI · 4 Min

RAG-Systeme für Trader: eigene Wissensbasis mit LLMs

RAG-Systeme für Trader: eigene Strategie-Doku, Earnings-Archive und Research-Notizen mit LLMs durchsuchbar machen. Stack, Setup, Kosten und Datenschutz.

Artikel lesen
Risk · 6 Min

Stress-Testing mit historischen Szenarien: was hätte 2008/2020/2022 passiert?

Stress-Testing mit historischen Szenarien: 1987, 1998, 2008, 2020, 2022 als Replay über das aktuelle Portfolio — was Korrelationen, Spreads, Vola und Liquidität tun.

Artikel lesen
Methodik · 5 Min

Synthetic Data für Backtests: GANs & Diffusion Models in der Praxis

GANs, TimeGAN und Diffusion Models generieren synthetische Marktdaten für Backtests. Wie Sie die Daten validieren, wo sie helfen und wo sie gefährlich werden.

Artikel lesen
Candlestick · 4 Min

Three-Line Strike: das statistisch stärkste Candle-Pattern?

Three-Line Strike: Bulkowski's angeblich stärkstes Candle-Pattern. Eigener Backtest auf S&P-500-Daten 2010-2025, Kritik der Original-Studie, Setups und ehrliche Bewertung.

Artikel lesen
Infrastruktur · 4 Min

VPS-Deployment für Trading-Bots: 24/7 stabil betreiben

VPS für Trading-Bots — Anbieter, Latenz, Co-Location, Backup-Konzepte, Monitoring. Wie Sie Ihre EAs und Python-Bots wirklich stabil 24/7 laufen lassen.

Artikel lesen
Machine Learning · 3 Min

Walk-Forward-Validierung für ML-Trading

Walk-Forward-Validierung für ML-Trading-Modelle: warum klassisches Cross-Validation in Zeitreihen versagt und wie ein robustes Setup aussieht.

Artikel lesen
Methodik · 3 Min

Walk-Forward in der Praxis: so testen Sie Strategien ehrlich

Walk-Forward-Analyse ist das ehrlichste Tool gegen Overfitting. So setzen Sie sie in MT5 und Python richtig auf — mit konkreten Beispielen und Stolperfallen.

Artikel lesen
System-Design · 5 Min

Warum 90 % der Trading-Bots scheitern — und was die anderen anders machen

Warum 90 % der Trading-Bots scheitern — die sechs realen Gründe abseits von Code-Bugs. Position-Sizing, Regime-Drift, Re-Optimieren.

Artikel lesen
Methodik · 5 Min

White's Reality Check & Hansen's SPA: Multiple-Testing-Korrektur für Strategien

White's Reality Check und Hansen's SPA korrigieren für Multiple Testing bei Trading-Strategien. Wann Bonferroni zu konservativ ist und wie der Bootstrap-Test in Python sauber läuft.

Artikel lesen
KI im Trading · 6 Min

Reproduzierbare Backtest-Umgebungen dasselbe Ergebnis auch in zwei Jahren.

Ein Backtest, den niemand reproduzieren kann, ist nur eine Behauptung. Fixierte Seeds, gepinnte Dependencies und versionierte Daten-Snapshots machen Ergebnisse prüfbar.

Artikel lesen
KI im Trading · 5 Min

Survivorship-Bias-freie Aktienuniversen: die Toten gehören in den Datensatz.

Datensätze, die nur überlebende Firmen enthalten, schönen jede Strategie systematisch. Ein vollständiges Universum inklusive Pleiten zeigt die wahre Renditeverteilung.

Artikel lesen