망치형? 장악형? 캔들 패턴은 시드를 갈아먹는 사기일까

캔들? 인간의 심리를 그리다

일본 에도 시대 오사카 도지마 쌀 거래소의 상인 혼마 무네히사는 “가격은 기분이 그린 그래프”라고 말했다. 그가 정리한 가격 기록은 오늘날 캔들 차트라 불리는 시각 도구의 원형이다. 일정 기간의 시가, 고가, 저가, 종가를 하나의 캔들로 표현하는 방식은 색상, 몸통 길이, 꼬리 길이만으로 매수·매도 세력의 힘겨루기를 압축한다. 서양에는 1991년 스티브 니슨이 《Japanese Candlestick Charting Techniques》를 출간하며 널리 퍼졌고, 십자형의 도지형이나 망치형처럼 직관적인 별칭이 붙은 캔들은 트레이딩 교육의 첫 단원에 자리 잡았다. 동양의 미학적 형상과 서구의 통계 사고가 만난 결합체는 30년도 넘게 기술적 분석의 상징처럼 거론된다.

 

그러나 시장 참여자가 폭증하고 알고리즘 거래가 초당 수만 건의 주문을 쏘아 대는 2020년대 후반, 캔들의 모양이 여전히 정보를 담고 있는가라는 물음은 진실과 관성 사이에서 부유한다. 트레이더는 하락장에 길게 드리운 망치형을 보며 바닥 매수 기회를 떠올리지만, 같은 시점에 머신러닝 모델은 수백 개의 거래소에서 실시간으로 흡수한 미세 흐름을 이미 가격에 반영하고 있다. 심리적 직관이 빅데이터 처리를 뛰어넘을 가능성은 희박해 보이기도 한다. 그럼에도 개별 캔들의 의미를 읽으려는 노력은 끊이지 않는다.

 

왜일까? 첫째, 캔들은 시장 참여자의 의사결정 흔적을 가장 압축적으로 노출한다. 둘째, 숫자 행렬보다 형상이 주는 신속한 인지 효과가 있다. 셋째, 가격은 모든 것을 포함한다는 이론식 가정이 완전히 무너지지 않은 한 가격 자체를 직관적으로 읽어내는 방법론은 필요하다. 캔들의 모양은 “추세를 보는 망원경이자 미시적 비행기 창문”이라는 은유가 지금도 유효한 배경이다.

 

머신러닝 연구도 이런 직관적 형상을 버리지 못했다. 2025년 초 발표된 딥러닝 논문은 전통적 도지형, 장악형과 새로 정의한 MIDDAM 패턴을 검출하여 외환 시장에서 예측 정확도를 향상시키기도 했다. 연산은 AI가 담당하지만 훈련 데이터의 라벨링엔 여전히 인간이 개발한 캔들의 외형이 기준이 된다. 무네히사가 종이에 그렸던 심리의 형상은 GPU 클러스터 위에서 새 숨을 쉬고 있는 셈이다.

---

숫자로 확인하는 캔들의 성적표

2000년 MIT의 한 연구는 캔들 패턴이 실제 수익으로 이어지는지 여부를 대규모 데이터로 검증한 첫 논문이다. 그들은 1962~1996년 NYSE·AMEX·NASDAQ 상장주식의 일봉을 커널 회귀로 분석해 헤드 앤 숄더, 더블탑 등 10개 패턴을 자동 탐색했다. 패턴 완료 후 단 하루의 수익 분포를 전체 분포와 비교한 결과, NASDAQ에서는 10개 전 패턴, NYSE/AMEX에서는 7개 패턴이 5% 유의 수준에서 다르게 분포했다. “모양은 심리를 드러내고, 심리는 단기 가격에 작지 않은 흔적을 남긴다”는 직관이 통계로 부분 입증된 셈이다.

 

단일 캔들 수준의 연구도 있다. 미국 트레이더 토머스 벌코스키는 1990~2024년 약 8,000개 종목의 일봉 데이터를 직접 가공해 《Encyclopedia of Candlestick Charts》를 발표했다. 그의 웹사이트엔 103종 패턴의 이론적 방향과 승률이 순위까지 포함돼 공개돼 있다(thepatternsite.com).

• Hammer: 이론상 강세 반전, 실측 반전 성공률 60%
• Bearish Engulfing: 하락 반전 성공률 79%
• Bullish Engulfing: 상승 반전 성공률 63%
• Dark Cloud Cover: 하락 반전 성공률 60%
• Northern Doji: 예상은 하락 반전이지만 실측은 51%

 

통계 해석에서 유의해야 할 점은 세 가지다. 첫째, 반전 성공률이 60%를 넘더라도 거래 비용과 슬리피지를 제외하면 실제로는 수익을 얻을 수 없는 이론상의 의미다. 둘째, 패턴 출현 빈도가 적으면 승률이 높아도 연간 기회 수가 부족해 전략적인 의미가 크지 않을 수 있다. 셋째, 목표가격 도달률이 높지 않다면 승률의 의미가 낮아진다. Hammer는 반전 확률이 60%지만 10일 평균 변동폭을 보았을 때 최고 기록은 4.12%이며 애매하다. 따라서 패턴 자체보다 얼마나 멀리 가는가(익절 포인트)와 얼마나 빨리 실패를 인정하는가(손절 규칙)가 더 중요하다.

 

그러나 최근 연구는 머신러닝이 패턴 해석의 한계를 보완할 수 있다고 본다. 2025년 PMC에 실린 한 논문은 일봉 타임 프레임에서 AI가 전통적 패턴을 자동 분류하여 백테스트한 결과, MDD(최대 낙폭)를 10%p 가량 줄였다고 보고하고 있다. 다만 저자들 역시 “패턴만으로는 낙관할 수 없으며, 거래량·변동성·거시 이벤트를 결합한 복합적 판단이 필수”라고 결론짓는다. 신호는 여전히 불완전하지만 인간이 그린 모양이 알고리즘을 통해 여전히 유효하게 취급된다는 점에서는 의미가 있다.

---

그렇다면 실전 적용이 가능한 캔들 스틱 전략은?

숫자와 역사가 패턴의 존재는 입증했지만 주식 앱을 켜고 바로 망치형이 나왔다고 매수한다면 결과는 다소 실망스러울 것이다. 실전 전략에서 가장 먼저 고려해야 할 것은 타임 프레임이다. 어떤 트레이더는 장기 차트가 큰 그림(1차 추세)을, 중기 차트가 확인(2차 추세)을, 단기 차트가 진입이나 청산(3차 결정)의 역할을 맡는 식으로 분석하기도 한다​. 예를 들어, 4시간 봉에서 상승 추세가 확정된 종목이 1시간 봉에서 상승형 캔들을 형성하면, 패턴 신뢰도가 시장의 큰 방향과 일치해 강화된다. 반대로 4시간 봉이 하락 추세인데 1시간 봉에 잠깐 뜨는 도지형 캔들을 믿고 역추세 매매에 나서는 것은 불리한 숫자가 두 개나 세 개가 적힌 주사위를 던지는 것과 다르지 않다.

 

브라이언 섀넌의 《Technical Analysis Using Multiple Timeframes》는 실전 절차를 다음처럼 제안한다.

 

1. 최소 3배 긴 상위 봉(예: 하루→3시간, 3시간→12시간)을 먼저 열어 핵심 추세를 확인한다.

2. 중위 캔들에서는 추세가 지속되는지 거래량으로 확인한다

3. 하위 캔들에서는 패턴과 오실레이터로 진입 타이밍을 잡는다.

 

핵심은 신호가 일치하는지 여부다. 상·중·하위 세 프레임이 모두 상승 방향을 가리킬 때, 특정 캔들의 의미는 맥락 없이 조사한 통계적으로 확률을 초월할 수 있다. 이는 랜덤 워크나 베이지언 업데이트를 극복하는 행동금융학적 사고다.

 

이러한 다중 프레임 전략을 가동하려면 리스크 관리 규칙도 필수적으로 갖춰야 한다. 첫째, 손절 기준은 상위 캔들을 기준으로 한다. 예를 들어 4시간봉 추세선이 깨지면 1시간 봉으로 형성한 유리한 캔들이어도 즉시 철수할 수 있어야 한다. 둘째, 익절은 일정한 기준이 있어야 한다. 캔들별 평균 목표가를 참고하는 것으로부터 시작할 수도 있을 것이다. 벌코스키 데이터에 따르면 Bearish Engulfing 10일 평균 하락폭은 –5.92%다. 목표가를 이 수치를 기준으로 조정하여 활용하면 모자라거나 지나친 기대 양쪽 상황에 대응할 수 있다. 셋째, 보조 지표를 이용해 캔들이 신뢰도를 높인다. 그럴듯한 캔들이 발생해도 거래량이 평균 이하라면 생각과 다르게 흐를 가능성이 커진다.

 

마지막으로 패턴을 보는 관점을 업데이트할 필요가 있다. 과거엔 육안에 의존하던 패턴 인식이 이젠 딥러닝이나 강화 학습과 결합해 동시다발적 시장 모니터링으로 진화했다. 또한 현대의 트레이더는 무료 API 등을 이용하여 패턴뿐만 아니라 거래량이나 심리 지표 등을 같이 받아와 다양한 스크립트를 만들고 활용하고 있다. 이렇게 참여 주체가 다양화되고 있다. 그러나 캔들의 모양은 결국 사람과 알고리즘, 데이터가 만드는 합성 언어이며 사라지지는 않는다는 점에서 의미가 있다. 이러한 점을 인지하고 읽는 방식과 본질적 의미를 파악하기 위해 전략을 더욱 고도화 해야할 것이다.