ETHUSDT 1H: 최적의 RSI 설정은 아웃오브샘플에서도 유효할까요?

모든 백테스트는 승자를 만들어냅니다. 여러 설정의 그리드를 테스트하고 평균 수익률 순으로 표를 정렬하면, 한 행이 맨 위에 자리하게 됩니다. 불편한 질문은 그 최상위 행이 실제로 무엇을 말해주는가입니다. 시장의 진짜 행동을 발견한 것일까요, 아니면 테스트한 표본의 노이즈에 우연히 들어맞은 설정을 찾은 것일까요?

오늘은 ETHUSDT를 대상으로 한 구체적인 실험을 통해 이 질문에 답해보겠습니다. 매우 단순한 RSI 하락 규칙을 가져와 데이터의 앞부분에서 25가지 변형을 테스트하고, 대부분의 사람들이 그렇게 하듯 승자를 선정한 뒤, 그 동일한 승자가 이후 데이터에서 어떻게 움직였는지 확인했습니다. 위 차트는 1시간 캔들과 아래쪽의 RSI(14) 패널, 그리고 가장 엄격한 버전의 트리거가 발동한 지점을 표시한 파란 점을 보여줍니다.

백테스트의 함정이란: 과적합과 아웃오브샘플 테스트 측정 방법

과적합은 규칙이 특정 과거 구간에 지나치게 맞춰져서, 시장이 아니라 그 구간 자체를 설명하게 될 때 발생합니다. 이는 프로그래밍 오류가 아니며, 스스로 신호를 보내지도 않습니다. 더 많은 설정을 시도할수록, 그중 하나가 순전히 우연으로 뛰어나 보일 가능성이 커지며, 특히 그 뒤에 있는 거래 수가 적을 때 더욱 그렇습니다.

표준적인 방어책은 아웃오브샘플 분할입니다. 특정 날짜를 기준으로 데이터를 나누고, 앞쪽 구간(인샘플)에서만 최적화를 수행한 뒤, 선택한 설정을 뒤쪽 구간(아웃오브샘플)에서 다시 손대지 않고 평가하는 방식입니다. 일반적인 분할 비율은 인샘플 60%, 아웃오브샘플 40%이며, 본 글에서도 이 비율을 사용합니다. 해석 원칙은 단순합니다. 분할 이후에도 설정이 대체로 같은 성격을 유지하면 그 결과는 유효하다고 볼 수 있고, 무너진다면 이전 수치는 대부분 과적합이었다는 뜻입니다.

보조적으로 도움이 되는 두 가지 지표가 있습니다. 첫째는 아웃오브샘플 표 안에서 인샘플 승자의 순위입니다. 진짜 우위가 있다면 중간에 묻히지 않고 여전히 상위권에 있어야 합니다. 둘째는 각 구간에서 수익을 낸 설정의 비율입니다. 그리드의 4분의 3이 분할 이전에는 작동하다가 이후에는 거의 작동하지 않는다면, 그 그리드는 지속 가능한 패턴이 아니라 과거의 특정 시장 국면을 설명하고 있었던 것입니다. 거래 비용도 중요한데, 수수료를 반영하기 전에도 간신히 이기는 규칙이라면 왕복 비용을 부과하는 순간 더 이상 이기지 못하기 때문입니다.

테스트 방법

해외 거래소의 USDⓈ-M 무기한 선물 ETHUSDT 캔들을 1H 봉 주기로 사용했으며, 기간은 2020년 9월부터 2026년 10월까지, 총 53,933개 봉이고 모든 타임스탬프는 UTC 기준입니다. 규칙은 의도적으로 단순합니다. RSI(14)가 X 아래로 교차할 때 종가에 매수하고, H봉 이후에 매도합니다. X = 20, 25, 30, 35, 40, H = 6, 12, 24, 48, 96봉의 조합으로 25가지 설정을 그리드로 테스트했으며, 왕복 거래당 0.1%의 비용을 부과했습니다.

각 이벤트의 결과는 신호가 발생한 봉의 종가부터 H봉 이후의 종가까지로 측정하므로, 24봉 보유는 정확히 1시간 캔들 기준 하루에 해당합니다. 교차는 RSI가 기준선 위쪽에서 내려올 때만 집계되며, 이는 자연스러운 쿨다운 역할을 합니다. 즉 기준선 아래에 오래 머무르는 구간이 있어도 봉마다 하나씩이 아니라 하나의 이벤트로만 집계됩니다. 분할 기준일은 2024-05-11이며, 이 날짜 이전은 모두 인샘플, 이 날짜부터 이후는 모두 아웃오브샘플로 처리합니다.

보통은 임의의 봉 이후 평균 움직임을 기준(아무 봉)으로 비교하지만, 여기서는 각 구간에서 25개 설정 전체의 중앙값을 기준으로 삼는 것이 더 유용합니다. 질문의 핵심이 하나의 규칙이 동전 던지기보다 나은가가 아니라, 선택한 규칙이 같은 그룹의 다른 설정들에 비해 우위를 유지하는가이기 때문입니다. 이 수치는 과거 가격으로 계산한 결과이며 실제 거래가 아닙니다. 규칙에 명시된 왕복 0.1% 외에 추가적인 수수료나 슬리피지는 반영되지 않았으며, 실제 체결 결과는 다를 수 있습니다.

결과

인샘플(2024-05-11 이전)과 아웃오브샘플(2024-05-11부터) 비교, 왕복 0.1% 비용 반영 후 평균 거래 수익률

	설정	인샘플 거래 수	인샘플 평균 거래	인샘플 승률	아웃오브샘플 거래 수	아웃오브샘플 평균 거래	아웃오브샘플 승률
인샘플 최적 설정	RSI < 20, 4일 보유	48	+1.17%	50.0%	38	-0.32%	50.0%
아웃오브샘플 최적 설정(사후적으로 확인)	RSI < 35, 4일 보유	209	+1.03%	56.5%	144	+0.15%	53.5%
전체 설정 중앙값	25개 설정		+0.15%			-0.24%

과거 가격으로 계산한 결과이며 실제 거래가 아닙니다. 수수료 및 슬리피지는 반영되지 않았습니다.

인샘플 최적화 결과 선택된 설정은 RSI < 20, 4일 보유로, 그리드 내에서 가장 낮은 임계값이자 가장 긴 보유 기간 중 하나였으며, 48건의 인샘플 이벤트에서 거래당 평균 +1.17%를 기록했습니다. 2024년 5월에 이 연구를 수행했다면 바로 이 행을 기록했을 것입니다.

분할 이후 동일한 설정은 38건의 이벤트에서 거래당 평균 -0.32%를 기록했으며, 아웃오브샘플 표에서 25개 중 14위에 그쳐 상위권이 아닌 그리드 중간 수준에 머물렀습니다. 승률은 양쪽 구간 모두 50.0%로 동일했는데, 이는 중요한 세부 사항입니다. 규칙이 갑자기 더 자주 지기 시작한 것이 아니라, 승리한 거래의 크기가 패배한 거래와 비용을 더 이상 상쇄하지 못하게 된 것뿐입니다.

그리드 전체 수치는 더욱 적나라합니다. 인샘플에서는 25개 설정 중 76.0%가 양(+)의 평균 거래 수익률을 기록했습니다. 아웃오브샘플에서는 8.0%만 그러했습니다. 중앙값 설정은 +0.15%에서 -0.24%로 바뀌었습니다. 한 규칙의 거의 모든 변형이 한 시기에는 작동하다가 다음 시기에는 거의 작동하지 않는다면, 정직한 결론은 규칙이 아니라 그 첫 번째 시기가 성과를 만들어냈다는 것입니다.

표의 세 번째 행은 사후적 확인에 해당합니다. 아웃오브샘플 최적 설정인 RSI < 35, 4일 보유는 인샘플에서도 209건의 거래에서 +1.03%로 강세를 보였지만, 아웃오브샘플에서는 144건의 거래에서 평균 +0.15%에 그쳤고, 승률도 56.5%에서 53.5%로 낮아졌습니다. 사후적으로 찾아낸 최선의 답조차, 왕복 비용을 지불하고 나면 미미한 수준에 불과합니다.

실패한 지점

여기서는 손가락으로 가리킬 만한 극적인 특정 날짜가 없으며, 바로 그것이 교훈입니다. 실패는 하나의 치명적인 거래가 아니라, 느리고 분산된 침식이었습니다. 선택된 설정은 2024-05-11 이후에도 절반의 거래에서 승리했지만 결국 마이너스로 끝났는데, 이는 우위가 방향이 아니라 움직임의 크기에 있었음을 보여주는 특징입니다.

가장 낮은 임계값은 가장 취약한 임계값이기도 합니다. RSI < 20은 수년 치 1시간 데이터 전체에서 단 48건의 인샘플 이벤트만 만들어냈기 때문에, 유난히 강한 반등 몇 건만으로도 평균이 +1.17%까지 올라가 그 행이 그리드 최상위에 오를 수 있었습니다. 이렇게 작은 표본으로는 실제 비대칭성과 운 좋은 연속 사건을 구분할 수 없습니다. 더 느슨한 임계값은 209건의 인샘플 거래를 바탕으로 했으며, 두 구간 사이의 변동이 훨씬 적었습니다. 아웃오브샘플에서 여전히 약해지긴 했지만, 부호가 뒤집히지는 않았습니다. 이벤트 수가 적을수록 결과는 더 요란해 보이지만 신뢰도는 더 낮아집니다.

차트에서 읽는 법

위 차트에서 파란 점은 최근 1시간봉 구간에서 RSI(14)가 20 아래로 엄격하게 교차한 지점을 표시하며, 지표 패널은 캔들 아래에 위치합니다. 이러한 신호가 얼마나 드문지 주목하기 바랍니다. 이처럼 선택적인 트리거를 중심으로 규칙을 구축하고 있다면, 가장 먼저 확인해야 할 것은 평균이 얼마나 좋아 보이는지가 아니라 백테스트가 실제로 몇 건의 이벤트를 기반으로 하는지입니다.

최적화를 사용한다면, 결과를 보기 전에 일부 데이터를 따로 떼어두고, 인샘플 평균이 아니라 손대지 않은 구간에서의 순위로 설정을 판단하는 것을 고려하기 바랍니다. 이번 사례처럼 분할 이후 그리드 중간으로 떨어지는 설정은 아직 확인되지 않은 것으로 취급해야 합니다. 인접한 설정들을 살펴보는 것도 도움이 됩니다. 20은 훌륭하게 작동하는데 25는 그렇지 않다면, 그 표면은 들쭉날쭉하며 그 선택은 노이즈일 가능성이 큽니다. 마지막으로, 처음부터 비용을 반영하기 바랍니다. 왕복 0.1%는 작은 수치이지만, 여기서 중앙값 설정과 보합 사이를 가르는 정확한 기준선입니다.

Pullwave 지표는 이 문제에 어떻게 접근할까요

Pullwave는 초대제로 운영되는 TradingView 지표로, 가격과 거래량에 대한 고정된 규칙을 따르며 재량적 판단은 없습니다. 차트에는 롱 및 숏 진입, 추가 진입, 일부 청산 및 전체 청산이 표시되며, 표시가 나타날 때 알림을 보낼 수 있습니다. 규칙은 공개되어 있지 않으며, 미래를 예측하지 않고, 손실 거래도 존재합니다.

위 차트의 금색 화살표는 동일한 캔들에서 pullwave.net의 공개 기록을 바탕으로 한 Pullwave의 표시입니다. 여기서 테스트한 기법의 파란 점과 비교해 보기 바랍니다. 이와 같은 단일 조건 트리거는 그 자체로 노이즈가 많으며, 완전한 규칙 체계는 언제 추가 진입을 하고, 언제 일부 청산을 하며, 언제 물러설지에 대해서도 답해야 합니다. 모든 주문은 사용자가 직접 실행하며, 지표는 표시를 그리고 알림을 보낼 뿐입니다.

핵심 요약

• ETHUSDT 1H에서 인샘플 최적 설정(RSI < 20, 4일 보유)은 2024-05-11 이전에는 평균 +1.17%, 이후에는 -0.32%를 기록했으며, 아웃오브샘플에서는 25개 중 14위에 그쳤습니다.
• 수익을 낸 설정의 비율은 인샘플 76.0%에서 아웃오브샘플 8.0%로 떨어졌고, 중앙값 설정은 +0.15%에서 -0.24%로 바뀌었습니다.
• 작은 표본일수록 가장 요란한 결과를 만들어냅니다. 승자가 된 행은 단 48건의 거래에 근거했지만, 209건의 거래를 가진 더 느슨한 임계값은 훨씬 더 안정적이었습니다.
• 최적화를 수행한다면, 사전에 손대지 않은 데이터를 따로 확보해 두고 인샘플 평균이 아니라 아웃오브샘플 순위로 설정을 판단하는 것을 고려하기 바랍니다.
• 첫 번째 테스트부터 비용을 포함하기 바랍니다. 왕복 0.1%만으로도 이 표의 여러 행의 결과를 좌우하기에 충분합니다.

---

차트의 금색 화살표는 TradingView용 Pullwave 지표의 표시입니다. pullwave.net에서 Pullwave 지표의 작동 방식을 확인하세요.