OptiNod アカデミー

복수매매와 과매매 — 손실 직후 거래가 늘면 기댓값이 음수로 돈다

손실 직후 진입 기준이 흔들려 거래 수가 늘면, 거래마다 붙는 비용이 쌓여 양의 기댓값 시스템도 실전에서 음수로 돌아섭니다.

> 손실 직후에는 진입 기준이 흔들리고 거래 수가 늘어납니다. 늘어난 거래마다 붙는 *비용*이 양의 기댓값을 줄이고, 얼마나 줄어드는지는 거래 기록에 숫자로 남습니다.

과매매(Overtrading)의 비용은 2000년 Brad Barber와 Terrance Odean의 분석에서 숫자로 확인됐습니다. 두 사람은 대형 할인증권사 개인계좌 약 6만 6천 개의 6년치 거래를 분석했습니다. 거래를 가장 활발히 한 상위 20% 가구의 연 순수익률은 약 11.4%로, 같은 기간 시장 지수 약 17.9%에 크게 못 미쳤습니다. 총수익률은 거래 빈도가 낮은 집단과 큰 차이가 없었지만, 순수익률의 차이는 대부분 거래비용에서 나왔습니다. 복수매매(Revenge Trading)는 이 과매매가 손실 직후에 집중되는 형태입니다. 손실을 본 직후 회복 압박이 커지면 진입 기준이 느슨해지고, 짧은 시간에 거래 수가 늘어납니다.

대중은 복수매매를 "손실에 흥분해서 벌이는 감정적 매매"로 뭉뚱그립니다. 이 틀로만 보면 해법이 "냉정을 되찾기"로 좁혀지고, 그 냉정은 다음 손실에서 다시 흔들립니다. 복수매매의 비용은 감정의 크기로 재는 것이 아닙니다. 늘어난 거래 수만큼 거래마다 붙는 비용이 쌓인 것이고, 그 크기는 거래 기록에 그대로 남습니다.

거래 하나의 순기댓값은 그 거래의 총기댓값에서 왕복 비용을 뺀 것입니다. 왕복 비용을 R로 환산하려면 왕복 수수료와 왕복 슬리피지를 더해 손절폭으로 나눕니다. 진입 기준을 낮춰 늘린 거래는 총기댓값이 0에 가깝거나 음수인데, 왕복 비용은 검증된 거래와 똑같이 붙습니다. 그래서 거래 수가 늘수록 계좌의 기댓값은 왕복 비용의 배수만큼 음수로 밀립니다.

손실 직후의 회복 압박이 진입 기준을 낮춥니다

복수매매는 손실 구간에서 위험을 좇는 데서 시작됩니다. 손실을 확정한 직후에는 그 손실을 빨리 되돌리려는 압박이 커지고, 이 압박은 손실회피에서 다루는 위험을 좇는 성향과 같은 방향입니다. 확정된 손실의 고통이 크기 때문에, 사람은 본전을 되찾을 작은 가능성을 크게 보고 곧바로 다음 거래로 들어갑니다.

문제는 이 재진입이 신호를 기다린 진입과 다르다는 점입니다. 검증된 시스템은 정해진 조건이 갖춰졌을 때만 진입합니다. 반면 손실 직후의 재진입은 조건이 갖춰지기 전에 "이번엔 되돌린다"는 압박으로 들어가므로, 진입 기준이 그만큼 느슨해집니다. 기준이 느슨해진 거래는 검증 구간에서 측정한 우위가 없습니다. 즉 진입 조건을 반쯤만 채운 거래의 총기댓값은 0 부근이거나 그 아래로 떨어집니다.

회복 압박은 거래 하나로 끝나지 않습니다. 느슨해진 기준으로 들어간 거래가 다시 손실로 끝나면 압박은 더 커지고, 재진입 간격은 더 짧아집니다. 손실이 압박을 만들고, 압박이 기준을 낮추고, 낮아진 기준이 거래를 늘리는 이 악순환은 짧은 시간에 거래 수를 몇 배로 늘립니다.

거래 하나마다 붙는 비용은 기댓값을 일정하게 줄입니다

거래 수가 기댓값을 줄이는 이유는 비용입니다. 진입과 청산을 한 번 왕복할 때마다 수수료와 슬리피지가 붙고, 이 비용은 거래의 성패와 상관없이 고정으로 나갑니다. 이것은 백테스트가 가정한 것보다 실거래에서 더 크게 작용하는 거래비용이며, 신호와 집행 사이에서 벌어지는 집행 차이의 한 형태입니다.

비용을 R로 환산하면 그 크기를 정확히 알 수 있습니다. 무기한 선물에서 테이커 수수료가 편도 0.05%면 왕복 0.10%이고, 슬리피지가 편도 0.03%면 왕복 0.06%입니다. 합치면 왕복 약 0.16%입니다. 손절폭을 2%로 두면 1R이 2%이므로, 왕복 비용은 0.16을 2.0으로 나눈 약 0.08R입니다. 거래 한 번을 열고 닫을 때마다 0.08R이 성패와 상관없이 나갑니다.

이 0.08R은 검증된 거래에서는 이미 계산에 들어가 있습니다. 총기댓값 +0.20R짜리 진입은 비용을 빼면 순기댓값 +0.12R입니다. 문제는 기준을 낮춰 늘린 거래입니다. 총기댓값이 0인 거래는 비용을 빼면 순기댓값 −0.08R이 됩니다. 이런 거래를 더할수록 계좌의 기댓값은 거래 한 번마다 0.08R씩 음수로 밀립니다.

거래 수가 늘면 양의 기댓값 시스템도 음수로 돌아섭니다

한 주의 손익으로 보면 거래 수의 효과가 뚜렷하게 나타납니다. 검증된 진입이 주 10회 나오고 각각 순기댓값 +0.12R이면, 그 주의 기대 손익은 +1.2R입니다. 여기에 손실 직후의 복수매매가 20회 더해졌다고 봅니다. 이 20회의 총기댓값을 넉넉히 0으로 잡아도, 왕복 비용 0.08R이 거래마다 나가므로 −0.08R에 20을 곱한 −1.6R입니다. 주간 합계는 +1.2R에서 1.6R을 뺀 −0.4R입니다.

진입 규칙은 그대로 양의 기댓값입니다. 검증된 10회는 여전히 +1.2R을 벌었습니다. 그런데 손실 직후에 더한 20회에서 나간 비용이 그 이상이어서, 양의 기댓값 시스템이 음수 주간으로 돌아섰습니다. 여기서 20회의 총기댓값을 0으로 잡은 것은 가장 관대한 가정입니다. 기준을 낮춘 거래는 대개 총기댓값이 0 아래이므로, 실제로 줄어드는 폭은 이 계산보다 큽니다.

이 산수가 복수매매의 핵심입니다. 계좌가 음수로 돌아선 원인은 손실 직후에 늘어난 거래 수입니다. 거래 수는 규칙으로 관리할 수 있으므로, 이 원인은 고칠 수 있습니다.

복수매매는 손실 직후 재진입 기록으로 측정됩니다

복수매매를 감정 탓으로 돌리면 고칠 지점이 흐려집니다. 손실 직후의 거래만 따로 모으면 세 가지 숫자로 확인됩니다.

첫 번째는 손실 직후 재진입률입니다. 손실로 청산한 거래마다, 그 직후 정해진 시간 안에(예: 30분 또는 5봉) 새 거래를 열었는지 표시합니다. 이 재진입 거래만 모아 평균 R을 계산해, 전체 거래의 평균 R과 비교합니다. 재진입 거래의 평균 R이 뚜렷이 낮거나 음수면 복수매매가 확인됩니다.

두 번째는 거래 수 대비 주간 R입니다. 주별로 거래 수와 순손익 R을 나란히 적어 두면, 거래 수가 많은 주에서 R이 낮게 나오는 관계가 보이고, 이 관계가 반복될수록 과매매의 흔적이 뚜렷해집니다.

세 번째는 연속손실 뒤 빈도입니다. 2연패나 3연패 직후 시간당 거래 수가 평소의 몇 배인지 세어 보면, 연패가 길어질수록 빈도가 늘어나는 흐름이 보이고, 이는 회복 압박이 거래 수로 이어진다는 증거가 됩니다.

이런 급증은 빠르고 깊은 하락에서 특히 잘 나타납니다. 비트코인은 2026년 1월 14일 약 97,924달러 고점에서 2월 6일 60,000달러까지 약 39% 내렸고, 이 하락은 3주 남짓한 기간에 일어났습니다. 이런 구간에서는 짧은 시간에 손실 거래가 연달아 나오기 쉽고, 손실 하나하나가 회복 압박을 키워 재진입 간격을 좁힙니다. 하락 자체는 시장의 움직임이지만, 그 구간에서 거래 수가 몇 배로 늘었는지는 자기 기록에만 있습니다.

재진입 대기과 한도가 거래 수를 규칙으로 고정합니다

핵심은 거래 수를 감정에서 떼어 규칙으로 정하는 것입니다. 손실 직후의 압박이 거래 수를 늘리므로, 손실 뒤의 행동과 하루 전체 매매에 미리 한도를 겁니다.

• [ ] 손실 후 재진입 대기: 손실로 청산하면 정해진 시간 동안 신규 진입을 멈춥니다. 다음 진입은 새 신호가 갖춰진 뒤에만 합니다.
• [ ] 일일 최대 거래 수: 하루 진입 횟수의 상한을 미리 정하고, 상한에 닿으면 그날은 진입을 끝냅니다.
• [ ] 일일 최대 손실: 하루 누적 손실이 정해진 한도(예: −2R)에 닿으면 당일 매매를 종료합니다.
• [ ] 진입 기준 고정: 손실 뒤에도 진입 조건을 낮추지 않습니다. 조건이 갖춰지지 않으면 거래하지 않습니다.
• [ ] 기록: 매 거래에 직전 거래의 결과와 재진입 간격을 적어, 주마다 재진입률과 거래 수 대비 R을 계산합니다.

이 한도들의 목적은 손실 직후에 기준을 벗어나 늘어나는 거래를 막아, 검증된 진입만 실제로 실행하는 데 있습니다.

두 가지 함정

*물량을 키워 한 번에 되돌린다는 생각.* 손실 뒤 물량을 키우는 것은 복수매매가 거래 수 대신 거래 크기로 나타난 형태입니다. 연패 구간에서 진입 규모를 키우면 한 번의 손실이 계좌에서 차지하는 몫이 커지고, 파산 확률이 빠르게 오릅니다. 손실을 한 번에 되돌리려고 규모를 키우는 방식은 마틴게일과 같은 구조이고, 파산 위험이 마지막 연패 한 번에 집중됩니다.

*거래를 늘리면 표본이 커진다는 생각.* 표본은 같은 규칙을 지킨 거래에서만 의미가 있습니다. 기준을 낮춰 늘린 거래는 조건이 다른 거래이므로, 표본을 키우는 대신 서로 다른 분포를 섞습니다. 이렇게 섞인 기록에서는 원래 시스템의 기댓값도 흐려집니다. 표본을 늘리려면 같은 기준의 거래를 시간에 걸쳐 모아야 합니다.

거래 수는 기록으로만 관리할 수 있습니다

복수매매와 과매매의 특징은 개별 거래에서는 정상으로 보인다는 점입니다. 손실 직후의 재진입도 그 순간에는 "이번엔 되돌릴 수 있다"는 판단으로 보이고, 거래 하나하나는 규칙을 크게 벗어나지 않은 것처럼 느껴집니다. 문제는 손실 직후에 이런 거래가 몇 개씩 겹쳐 쌓일 때 나타나고, 그렇게 쌓인 것은 거래 기록 전체를 하나의 표본으로 놓고 볼 때만 숫자로 확인됩니다. 모든 거래에 직전 결과와 재진입 간격을 적고, 손실 직후 재진입률·거래 수 대비 주간 R·왕복 비용 R을 계산하면, "손실 뒤에 거래가 많아진다"는 느낌이 관리할 수 있는 지표가 됩니다. 손실 직후의 거래 수에 한도를 걸고 그 한도를 기록으로 확인하면, 회복 압박이 거래 수를 늘리는 악순환이 멈춥니다.