켈리 공식 — 베팅 위험과 포지션 비중을 구분해야 하는 이유

켈리 비율은 손실 시 잃는 계좌 비율과 투자 금액을 구분해 읽어야 합니다. 승률 55%·손익비 1.5의 가상 예제로 풀켈리 25%, 위험 한도 1%, 포지션 비중의 차이를 확인합니다.

발행 2026년 6월 1일 · 내용 수정 2026년 9월 26일

켈리의 "최적"은 장기 복리 성장률이 가장 커지는 한 점을 가리킵니다. 그 비율을 정확히 맞추려면 승률과 손익비를 정확히 알아야 하는데, 매매에서 이 둘은 언제나 추정값입니다.

켈리 공식은 1956년 벨 연구소의 존 켈리(John Kelly)가 통신 채널의 정보 전송률을 연구하다 유도한 베팅 기준입니다. 이 글에서는 이기면 건 금액의 b배를 순이익으로 받고, 지면 건 금액 전부를 잃는 두 결과 모형을 다룹니다. 승률을 p, 패율을 q=1−p라 하면 최적 비율은 f* = p − q/b입니다. 승률 55%에 손익비 1.5라는 가상 조건에서는 f* = 0.55 − 0.45/1.5 = 0.25가 됩니다. 여기서 25%는 한 번 졌을 때 잃는 계좌 자산의 비율입니다. 손절을 둔 포지션에 투자하는 금액 비율과 구분해야 합니다.

대중적으로 이 공식은 "수학이 증명한 최적 베팅 크기"로 받아들여집니다. 25%라는 숫자가 나오면 그 비율로 거는 것이 가장 빠른 길이라고 읽는 것입니다. 그런데 켈리가 최대화하는 대상은 로그 자산의 기대값, 즉 장기 복리 성장률입니다. 이 결론은 가정한 확률과 손익 분포가 유지되는 모형 안에서 성립합니다.

풀켈리(full-Kelly)는 이 모형의 성장률을 최대화하지만, 감당할 수 있는 낙폭을 보장하지는 않습니다. 계산에 넣은 p와 b가 실제보다 크면 산출된 비율이 실제 최적을 넘을 수 있습니다. 추정값으로 구한 켈리 비율을 참고하되, 계좌 손실 한도와 포지션 금액을 따로 계산해야 합니다. 이 글을 읽고 나면 켈리 숫자를 확인할 때 먼저 "한 번 잃는 금액의 비율인지, 투자하는 금액의 비율인지"를 구분하게 됩니다.

켈리가 최대화하는 대상은 복리 성장률입니다

켈리 공식은 한 판의 기대 이익을 키우는 문제를 풀지 않습니다. 두 결과 모형에서 한 판의 기대 이익이 양수인 조건은 p × b > q입니다. 손익비가 1일 때는 승률 50% 초과, 손익비가 1.5일 때는 40% 초과가 그 조건입니다. 베팅 비율을 0~100%로 제한하고 기대 이익만 최대화하면 이 조건 아래에서는 전액 베팅이 답이 되지만, 한 번의 패배로 자산을 모두 잃습니다. 켈리는 이와 다른 목표인 기대 로그성장률을 최대화합니다.

이 구분이 중요한 이유는 복리에서는 한 번의 큰 손실이 이후 회복 부담을 키우기 때문입니다. 50% 손실을 회복하려면 100% 수익이 필요합니다. 이 글의 가상 모형에서 베팅당 기대 로그성장률은 자연로그를 쓴 g(f) = 0.55 × ln(1 + 1.5f) + 0.45 × ln(1 − f)입니다. 풀켈리 f=0.25에서는 약 0.045693, 두 배인 f=0.50에서는 약 −0.004128입니다. 이 예에서는 과대 베팅으로 장기 로그성장률이 음수가 됩니다. "풀켈리의 두 배면 성장률이 0"이라는 관계가 모든 승률과 손익비에 정확히 적용되는 것은 아닙니다. g는 한 판의 단순 수익률이나 확정 수익률이 아닙니다.

가격 급락 사례는 손실 가정이 얼마나 중요한지 보여 줍니다. 이하 가격은 Binance BTCUSDT 현물의 UTC 일봉 원자료 기준입니다. 2021년 5월 19일 시가는 약 42,850 USDT, 장중 저가는 30,000 USDT로 시가 대비 약 30% 하락했습니다. 4월 14일 고가 64,854 USDT와 비교하면 하락폭은 더 큽니다. 이 가격 변화가 계좌에 주는 손실은 포지션 금액, 레버리지와 실제 청산 가격에 따라 달라집니다. 계산에 넣은 손실 크기가 이런 상황에서도 성립하는지를 먼저 점검하십시오.

풀켈리는 감당할 수 있는 낙폭을 보장하지 않습니다

풀켈리는 기대 로그성장률의 최적점이며 최대 낙폭(maximum drawdown)에 상한을 두는 규칙이 아닙니다. 앞의 가상 모형에서 현재 자산의 25%씩 걸고 세 번 연속 지면 자산은 0.75³ = 0.421875, 처음의 약 42.19%가 남습니다. 다른 거래가 없는 이 구간의 낙폭은 약 57.81%입니다. 이는 특정 연패 경로의 계산이며, 모든 풀켈리 전략의 예상 낙폭을 뜻하지 않습니다. 실제 낙폭 분포는 손익 분포, 거래 간 관계와 관측 기간을 함께 봐야 합니다.

낙폭이 이토록 깊은 이유는 켈리 공식이 트레이더가 느끼는 심리적 고통을 비용으로 치지 않기 때문입니다. 공식에는 로그 자산의 기대값만 들어갑니다. 60% 낙폭을 거쳐 결국 신고가를 찍는 경로와 20% 낙폭으로 완만하게 오르는 경로가 같은 종착점에 도달한다면, 켈리 공식은 두 경로를 구분하지 않습니다. 그러나 트레이더에게 두 경로는 전혀 다른 경험입니다. 60% 낙폭 구간에서 시스템을 의심하고 손절해 버리면, 그 순간 장기 성장률 가정은 무너집니다.

2022년 11월 FTX 붕괴 당시 BTCUSDT는 11월 6일 시가 약 21,300 USDT에서 11월 8일 저가 약 17,167 USDT, 11월 9일 저가 15,588 USDT까지 하락했습니다. 6일 시가부터 9일 장중 저가까지 약 27% 하락한 것입니다. 계좌의 낙폭을 판단하려면 이 가격 변화에 당시 포지션 금액과 손절·청산 체결 내역을 함께 대입해야 합니다. 켈리 비율을 적용하기 전에, 급락과 연패 시나리오를 포지션 사이징(position sizing) 관점에서 점검하십시오.

f* 한 줄은 p와 b가 정확할 때만 최적입니다

이 단순식은 p와 b가 알려져 있고, 결과가 정해진 이익과 손실 두 가지라는 가정에서 나옵니다. 카지노 게임은 규칙으로 확률을 계산할 수 있지만, 기대 이익이 음수라면 그 방향에 양의 금액을 걸 근거가 생기지 않습니다. 매매의 승률과 손익비는 과거 자료에서 추정하며, 미래에도 유지되리라는 보장이 없습니다. 손익이 거래마다 달라지는 경우에는 평균 승률과 평균 손익비 두 숫자만으로 전체 수익률 분포를 대신할 수 없습니다.

입력 오차가 베팅 크기를 바꾸는 정도를 수치로 확인해 보겠습니다. 손익비가 1.5로 같을 때 승률 55%의 켈리 비율은 25%, 실제 승률이 50%라면 약 16.67%입니다. 후하게 추정한 비율은 실제 모형의 최적을 넘습니다. 다만 최적점을 조금 넘었다고 성장률이 곧바로 음수가 되는 것은 아니며, 영향은 오차 크기에 따라 달라집니다. 비용·체결 차이와 과최적화는 승률이나 손익비를 악화시킬 수 있습니다. 백테스트와 실거래의 괴리(backtest vs live)를 점검할 때는 두 값을 각각 다시 측정하십시오.

2024년 8월 5일 급락에서 BTCUSDT는 UTC 일봉 시가 58,161 USDT에서 저가 49,000 USDT까지 약 16% 하락했습니다. 이런 급변 상황에서는 손절 슬리피지로 한 번의 손실이 계획보다 커질 수 있습니다. 승리 시 이익과 승률이 같다는 조건에서 손실 크기가 커지면 b가 줄고, 단순식의 켈리 비율도 낮아집니다. 자기 시스템의 기대값과 손익비(risk-reward expectancy)를 실거래 체결가와 비용 기준으로 다시 측정하십시오. 손익 분포가 두 결과 모형과 얼마나 다른지도 함께 확인해야 합니다.

하프켈리의 성장률과 위험 감소를 같은 모형에서 비교해야 합니다

하프켈리는 계산된 풀켈리 비율의 절반을 쓰는 방식입니다. 분수 켈리는 베팅 크기를 줄여 손실 노출을 낮추는 방법이지만, 절반이라는 배수가 모든 전략에 적합하거나 안전하다는 뜻은 아닙니다. 같은 손익 모형에서 성장률과 위험이 각각 얼마나 바뀌는지 계산해야 합니다.

앞의 승률 55%·손익비 1.5 모형에서 하프켈리는 f=0.125입니다. 베팅당 기대 로그성장률은 풀켈리의 약 75.35%를 유지합니다. 표의 변동성은 계좌 곡선 전체의 흔들림이 아니라, 한 번의 베팅으로 발생하는 단순 수익률의 표준편차입니다.

이 두 결과 모형의 단순 수익률 표준편차는 f × (1 + b) × √(p × q)이므로 f를 절반으로 줄이면 정확히 절반이 됩니다. 최대 낙폭이나 여러 거래 뒤 계좌 가치의 변동성까지 항상 절반이 되는 것은 아닙니다. 하프켈리는 추정 오차에 대한 여유를 늘릴 수 있지만, 추정 오차가 크면 줄인 비율도 실제 최적을 넘을 수 있습니다.

켈리 비율은 가정한 분포 안에서 성장률이 최대가 되는 지점입니다. 운용에서는 추정 오차, 비용, 감당할 낙폭과 동시 포지션 한도를 함께 두어야 합니다. 파산 확률(risk of ruin)을 비교할 때도 파산의 기준과 기간을 먼저 정하십시오. 손실이 베팅액으로 제한되고 매번 자산의 100% 미만을 거는 이상적 모형은 유한한 횟수 안에 잔액이 정확히 0이 되지 않습니다. 실전 검토에는 운용 중단을 부르는 손실 수준에 도달할 확률, 청산 가능성과 계획을 넘는 손실을 따로 살펴야 합니다.

손익이 달라지는 거래에는 두 결과 공식을 그대로 적용할 수 없습니다

f* = p − q/b는 고정된 +bR과 −1R을 전제로 한 단순식입니다. 실제 거래는 부분 청산, 수수료, 손절 슬리피지 때문에 수익과 손실이 여러 크기로 발생합니다. 일반적인 켈리 접근은 이런 수익률 분포도 다룰 수 있지만, 단순히 평균 손익비를 대입한 값이 같은 최적해가 되는 것은 아닙니다.

두 결과 모형에서 승률 p가 같다면 b가 커질수록 f*도 커집니다. 그러나 목표가를 멀리 두면 실제 승률도 달라질 수 있으므로, 손익비만 높여 적정 위험을 늘릴 수는 없습니다. 먼저 거래당 계획 손실을 계좌의 일정 비율 r로 정하고, 진입가 대비 손절 거리 d로 포지션 금액을 계산할 수 있습니다. 선형 상품에서 비용을 제외하면 포지션 금액 ÷ 계좌 자산 = r ÷ d입니다. 이 계산은 계획 손실을 맞추는 절차이며 켈리 최적성을 증명하지는 않습니다. 갭과 슬리피지로 실제 손실이 r를 넘을 수도 있습니다.

예를 들어 BTCUSDT가 2024년 3월 14일 73,777 USDT 고가를 기록한 구간을 배경으로, 거래당 계획 위험을 자산의 1%로 둔 가상 거래를 생각해 보겠습니다. 구조적 저점 아래에 정한 손절가가 진입가에서 3% 떨어져 있다면 포지션 금액은 자산의 약 33.33%(1% ÷ 3%)입니다. 진입가에서 1.5% 떨어져 있다면 약 66.67%입니다. 같은 1% 계획 위험이라도 투자 금액은 달라집니다. 이 수치는 비용과 손절 초과 손실을 제외한 예시이며, 해당 날짜의 실제 매매 성과나 권장 비율이 아닙니다.

손익비 1.5, 승률 55% 시스템에 켈리를 적용하는 셋업

승률 55%, 이기면 +1.5R, 지면 −1R인 가상 시스템으로 계산 순서를 확인해 보겠습니다. 아래 비율과 점검 기준은 개념 설명용이며, 실제로 검증된 전략이나 누구에게나 맞는 운용 규칙을 뜻하지 않습니다. 적용을 검토할 때는 비용을 반영한 체결 기록과 표본 밖 결과로 가정부터 확인해야 합니다.

• 풀켈리 계산: f* = 0.55 − 0.45/1.5 = 0.25. 이 모형에서는 손실 시 계좌의 25%를 잃는 베팅 비율입니다. 안전한 손실 한도나 투자 금액 비중을 뜻하지 않습니다.
• 예시 위험 한도: 하프켈리는 12.5%입니다. 여기서는 이 값과 별도로 거래당 계획 손실 한도를 자산의 1%로 정했다고 가정합니다. 1%는 풀켈리 25%의 1/25 = 4%이고, 쿼터켈리라면 6.25%입니다.
• 포지션 크기: 계획 위험 1%를 진입가 대비 손절 거리로 나눕니다. 손절 거리가 2.5%라면 포지션 금액은 자산의 40%(1% ÷ 2.5%), 1.5%라면 약 66.67%입니다. 비용과 체결 오차는 별도로 반영합니다.
• 익절 예시: 롱 포지션에서 손절 거리가 2.5%이고 목표를 1.5R로 두면, 비용 전 목표가는 진입가 +3.75%(2.5% × 1.5)입니다. 실제 체결 손익비는 비용과 슬리피지에 따라 달라집니다.
• 상향 조정 검토: 실거래 50건과 추정 파산 확률(risk of ruin) 1% 미만이라는 조건만으로 위험을 1%에서 1.5%로 자동 상향하지 않습니다. 표본의 불확실성, 표본 밖 성과, 비용과 동시 포지션 손실 한도를 함께 확인합니다.
• 재점검 예시: 승률 50% 미만 또는 손익비 1.2 미만을 관찰하면 신규 진입을 재검토하고 입력값을 다시 측정합니다. 위험을 0.5%로 낮추는 선택도 별도의 운용 결정이며, 이 기준을 넘겼다는 이유만으로 안전이 보장되지는 않습니다.

이 셋업에서 25%는 가상 두 결과 모형의 풀켈리, 1%는 별도로 둔 계획 손실 한도입니다. 같은 위험 단위로 비교하면 1%는 25%의 1/25입니다. 이를 손절 거리로 나누어 구한 40%나 66.67%는 포지션 금액 비중이므로, 켈리 위험 비율과 직접 비교하지 않습니다.

동시 포지션은 합산 손실과 상관관계를 함께 봐야 합니다

이 글에서 계산한 반복 베팅 예시는 결과가 독립이고 분포가 일정하다는 가정을 사용합니다. 일반적인 켈리 포트폴리오 문제는 자산 사이의 관계까지 고려할 수 있습니다. 시장에서 여러 포지션을 동시에 보유한다면, 각 거래의 단일 베팅 계산을 그대로 더하기 전에 함께 손실 나는 상황을 확인해야 합니다.

BTC 롱과 ETH 롱은 같은 시장 충격에 함께 손실을 볼 수 있습니다. 2021년 11월 10일 BTCUSDT의 69,000 USDT 고가 이후 하락이나 2022년 FTX 붕괴처럼 급락 구간에서는 다른 보유 자산의 동반 손실도 점검할 필요가 있습니다. 상관이 높다는 사실만으로 세 포지션을 정확히 한 베팅의 세 배라고 계산할 수는 없습니다. 동일한 손익을 동시에 내는 모형에서는 그 관계가 성립하지만, 실제 포트폴리오는 자산별 변동과 손절 체결을 함께 계산해야 합니다.

가령 상관이 높은 포지션 묶음의 계획 손실 한도를 계좌의 1%로 정했다면, 각 포지션의 계획 위험 합계가 그 한도 안에 들도록 배분할 수 있습니다. 이는 설명용 관리 규칙이며 켈리 공식이 자동으로 정해 주는 한도가 아닙니다. 모두 손절에 도달하는 시나리오와 손절가를 넘어 체결되는 시나리오를 따로 계산하십시오. 진입 전에 확인할 숫자는 개별 포지션의 크기뿐 아니라, 함께 손실 날 때 계좌에서 사라질 금액입니다.

계산 근거: Kelly의 1956년 원문, Rotando·Thorp의 켈리와 주식시장 논문, 분수 켈리를 설명한 Thorp 공동 편저 소개. 표의 값은 본문에 명시한 가상 두 결과 모형을 직접 계산한 결과입니다.