Красивый график доходности на бирже — почему он обманывает создателя
Идеальный бэктест — плохой знак: как торговая стратегия учится обманывать своего создателя Чем красивее история доходности, тем больше вопросов к торговой системе Лид. Большинство разработчиков радуется, когда стратегия показывает на истории плавную доходность, небольшую просадку и высокий процент прибыльных сделок. Я бы в этот момент перестал радоваться и начал допрос. Рынок редко выдаёт идеальные результаты. Зато их охотно выдаёт алгоритм, которому позволили выучить правильные ответы заранее. Все ищут лучшую стратегию. Компьютер находит лучшую иллюзию Представим, что мы проверили одну торговую гипотезу и получили сильный результат. Это повод изучать её дальше. Теперь представим, что мы перебрали тысячу вариантов: разные периоды индикаторов, фильтры волатильности, часы входа, стопы, цели и правила выхода. Один вариант почти неизбежно окажется красивее остальных. Проблема в том, что победитель мог найти не устойчивую закономерность, а случайный рисунок конкретного исторического отрезка. Чем больше вариантов мы перебираем, тем выше шанс обнаружить комбинацию, которая отлично описывает прошлое и ничего не знает о будущем. Это и есть переобучение: стратегия выглядит умной, потому что заранее увидела ответы. Исследователи Дэвид Бейли, Джонатан Борвейн, Маркос Лопес де Прадо и Цзи Цзинь Чжу посвятили отдельную работу оценке вероятности переобучения бэктеста. Авторы подчёркивают, что обычное разделение данных на обучающую и контрольную части в инвестиционных тестах может давать ненадёжную оценку, и предлагают специальную схему комбинаторной перекрёстной проверки. Исследование The Probability of Backtest Overfitting, версия от 27.02.2015. Цена скрытого кладбища экспериментов Допустим, исследователь показывает стратегию с коэффициентом Шарпа 2. На презентации это выглядит убедительно. Но важен вопрос: сколько моделей было проверено до неё? Если это единственная заранее сформулированная гипотеза — одна ситуация. Если победителя выбрали из 500 вариантов, а остальные 499 исчезли из отчёта, статистический смысл результата меняется. Зритель видит победителя. Исследователь должен учитывать весь перебор. Поэтому журнал экспериментов важнее красивого финального PDF. В нём должны оставаться: исходная гипотеза до запуска теста; все проверенные варианты, включая провальные; причина изменения параметров; набор данных и период; модель комиссий, спреда и проскальзывания; критерий, по которому стратегия признаётся пригодной или отклоняется. Если не фиксировать неудачные попытки, разработчик начинает считать каждую новую версию первой. Очень удобная бухгалтерия: расходы исчезают, остаётся только лучший результат. Реальная торговля не обязана повторять симуляцию Бэктест исполняет правила на исторических данных. Он не испытывает сомнений, не отменяет заявку в последний момент и не увеличивает позицию после серии убытков. Но даже технически честная симуляция зависит от допущений: какие цены были доступны, мог ли объём исполниться, учитывались ли задержка, спред, комиссии, финансирование и недостаток ликвидности. Американская National Futures Association в требованиях к гипотетическим результатам указывает, что симуляция не является реальной торговлей, использует преимущество ретроспективного взгляда и не способна полностью воспроизвести влияние финансового риска на поведение участника. NFA Compliance Rule 2-29. Это пример исследовательской осторожности, а не изложение требований к белорусской компании «ТехноИнвест». Бэктест полезен. Он нужен, чтобы отбрасывать слабые идеи, проверять механику и оценивать возможное поведение стратегии. Ошибка начинается там, где инструмент исследования превращают в сертификат будущей прибыли. Четыре проверки, которые портят красивую картинку Первая — отложенный период. Финальный участок данных нельзя постоянно открывать после каждого изменения, иначе он постепенно становится частью обучения. Проверили, поправили, снова посмотрели — и вот «независимый» тест уже прекрасно знаком разработчику. Вторая — проверка устойчивости параметров. Если стратегия работает только при периоде 19, но разваливается при 18 и 20, перед нами может быть случайная точка. Область приемлемых параметров убедительнее одиночного пика, хотя сама по себе ничего не доказывает. Третья — разные рыночные режимы и инструменты. Тренд, боковик, высокая и низкая волатильность, спокойные и кризисные участки должны анализироваться отдельно. Стратегия не обязана быть прибыльной везде. Она обязана честно показывать, где перестаёт работать. Четвёртая — стресс допущений. Увеличиваем расходы, ухудшаем цену исполнения, добавляем задержку, убираем несколько лучших сделок. Если небольшое ухудшение уничтожает доходность, оценённого преимущества может не хватить для реальной торговли. Простота тоже не гарантирует качества Простая стратегия тоже может быть выбрана после огромного числа проб и оказаться случайной. Риск определяется не количеством строк кода, а процессом поиска и проверки. Как я бы строил исследовательский процесс Сначала формулируется причина, почему эффект может существовать. Затем фиксируются правила и критерии провала. После этого проводится первичный тест, проверка чувствительности и оценка на данных, которых стратегия не видела. Финальный этап — наблюдение без капитала или с заранее ограниченным риском, если такая проверка допустима для конкретной системы. На каждом шаге идея может быть закрыта. Это нормально. Задача исследовательского процесса — не доказать, что автор был прав. Его задача — как можно дешевле обнаружить, где он ошибся. В THE ULTIMA бэктест должен быть не рекламным плакатом, а частью системы контроля. Сценарии, данные, исполнение и риск существуют вместе. Если стратегия выигрывает только в идеально подобранном прошлом, она не прошла испытание — она выучила декорации. Рынок не платит за самый красивый график из тысячи. Он выставляет счёт за тот единственный вариант, который мы решили запустить. Следующий шаг: откройте последний бэктест и добавьте к нему три числа: сколько вариантов проверялось до победителя, как результат изменяется у соседних параметров и что происходит при удвоенных торговых расходах. Если этих данных нет, исследование ещё не закончено. Начальник отдела продаж ООО «ТехноИнвест Групп» | Банковский холдинг ОАО «Технобанк» https://investtb.by +375 29 757 40 85 +375 25 776 02 59 ▫️ [Мой телеграм](https://t.me/the_ultima_trading) e-mail: herman.v@investtb.by Данный материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией или предложением о покупке или продаже указанной ценной бумаги.
Пост взят с международного финтех-медиа ресурса
ДЛЯ ЛЮДЕЙ