백테스트 수익률이 실전에서 무너지는 4가지 이유 (퀀트 투자 주의사항)
퀀트투자 주의사항
백테스팅 결과만 믿고 퀀트 투자나 자동매매에 뛰어들었다가 실망스러운 성과를 마주하는 투자자들이 많습니다. 저 역시 수십 가지 전략을 직접 백테스트하고 실전에 적용해 보면서 "왜 과거 데이터와 실전 성과는 이토록 다를까?"라는 깊은 회의감을 느꼈습니다. 숫자에 매료되기 쉬운 퀀트 투자의 허와 실, 그리고 개인 투자자가 꼭 경계해야 할 함정들을 정리해 봅니다.
백테스트 수익률 50가지 전략을 돌려보고 깨달은 점
제가 퀀트 투자에 처음 발을 들인 것은 ETF 기반의 정적 자산배분 전략(올웨더 포트폴리오 등)이었습니다. 이후 시장 상황에 따라 비중을 바꾸는 동적 자산배분(VAA 전략 등)으로 범위를 넓혀갔습니다. 조금이라도 더 높은 수익률과 낮은 낙폭을 찾기 위해 플랫폼과 자동매매 프로그램을 활용해 검증해 본 전략만 대략 50가지가 넘었습니다.
하지만 실전에서의 결과는 처참했습니다. 백테스트 화면에서 보았던 완만하고 아름다운 우상향 그래프와 낮은 최대 낙폭(MDD)은 온데간데없고, 실전 매매에서는 전혀 다른 경향을 보이며 손실이 누적되었습니다.
분명히 로직과 조건에는 문제가 없어 보였는데 무엇이 잘못된 걸까요? 퀀트 투자는 단순히 과거 데이터나 프로그래밍 기술만으로 완성되는 것이 아니며, 그 뒤에 숨겨진 거시경제(Macro) 흐름과 백테스트의 구조적 한계를 이해하지 못하면 독이 된다는 사실을 절실히 깨달았습니다.
백테스팅이 실전에서 무너지는 4가지 치명적 함정
전문적인 퀀트 투자자와 금융공학 연구자들이 늘 지적하는 백테스트의 주요 오류는 다음과 같습니다.
| 함정 | 핵심 내용 |
|---|---|
| 과최적화·P-value 해킹 | 과거 데이터에만 맞춘 패턴, 실전에선 무너짐 |
| 검증 데이터 재활용 오류 | 검증셋을 반복 수정하면 검증력 자체가 무력화 |
| 생존자·미래참조 편향 | 상장폐지 기업 제외, 미래 정보 반영으로 성과 과장 |
| 시장 체질 변화 | 금리·규제·참가자 구성 변화로 전략이 멈춤 |
과거 지표라는 착시와 투자 심리의 편향
개인 투자자 입장에서 과거의 수익률 지표(CAGR, MDD 등)는 사실상 가장 쉽게 접하고 믿을 수 있는 유일한 기준처럼 보입니다. 시각적으로 명확하고 숫자로 제시되기 때문에 인간의 뇌는 이를 단순한 진리로 받아들이기 쉽습니다.
그러나 퀀트 투자 역시 시스템 트레이딩이나 차트 매매를 하는 사람들과 마찬가지로 인간의 인식과 행동 편향에서 자유로울 수 없습니다.
- 믿고 싶은 것만 보는 편향: 백테스트 성과가 좋게 나오면 전략의 위험 요소나 수수료/슬리피지 비용, 데이터 품질 문제는 무시하려는 경향이 생깁니다.
- 과도한 확신: 샤프 지수(Sharpe Ratio)가 2 이상 나오는 고수익 전략을 발견했을 때, 정작 그것이 데이터 오류나 과적합 때문일 가능성을 의심하기보다 자신의 투자 능력으로 오해하게 됩니다.
거시경제(Macro) 공부와 거장들의 지혜가 필요한 이유
수많은 시행착오 끝에 내린 결론은 "퀀트 전략을 다루기 위해서도 거시적인 거시경제 공부가 필수적"이라는 점입니다. 단순히 통계적 노이즈를 찾아내는 컴퓨터 프로그램만으로는 시장의 체제 변화를 이겨낼 수 없습니다. 왜 이 팩터가 수익을 내는지, 주식과 채권 및 원자재의 상호작용이 경제 사이클상 어떻게 움직이는지 논리적인 이유를 설명할 수 있어야 합니다.
하지만 일반 개인 투자자가 고도의 마크로 경제 분석을 직접 수행하기란 결코 쉽지 않습니다. 그렇기 때문에 시대를 이겨낸 투자 거장들의 클래식 서적을 읽는 것이 좋은 대안이 됩니다.
- 상식적 논리 구축: 레이 달리오, 하워드 막스, 조엘 그린블라트 등 시장의 침체기와 번영기를 모두 겪어낸 거장들의 책을 읽으며 '경제학적 논리와 상식'에 기반한 가설을 세우는 능력을 키워야 합니다.
- 투자 심리 제어: 장기적인 통계적 우위를 온전히 누리기 위해서는 폭락장에서도 전략을 유지할 수 있는 투자 철학이 밑바탕에 깔려 있어야 합니다.
결론: 개인 투자자가 나아가야 할 퀀트 투자의 방향
퀀트 투자는 어설프게 접근하면 독이 되지만, 바르게 이해하고 활용하면 아주 훌륭한 리스크 관리 도구가 됩니다.
처음부터 수십 가지 조건을 조합한 복잡한 모델이나 자동매매 프로그램에 의존하기보다, 경제학적 근거가 확실한 단순한 전략부터 검증해 나가는 것이 좋습니다. 그리고 백테스트 결과를 절대적 신봉의 대상이 아닌 '손실 가능성을 점검하는 보조 지표'로 삼아야 합니다.
지나간 수익률 숫자에 현혹되지 않고 거시적 경제 흐름과 본인의 심리적 편향을 함께 통제할 때, 비로소 시장에서 오래 버틸 수 있는 단단한 자산배분 포트폴리오를 만들 수 있습니다.
참고 자료: 유튜브 채널 '월가아재', 월가의 영웅들(도서)