2024년 포트폴리오 성적표는 잔인했다. 엔비디아 하나를 갖고 있느냐 없느냐가 수익률 전체를 갈랐고, 수십 년 경력의 펀드매니저도 “이 종목은 갈 것 같은 느낌”이라는 직관에 무릎 꿇었다. 느낌. 그것이 문제다.

국내 개인 투자자의 평균 보유 기간은 3개월 남짓이다. 오르면 팔고 싶고, 내리면 겁이 난다. 이 행동 패턴을 바꾸지 않고 종목만 바꾸는 것은 낡은 지도를 들고 새 도시를 여행하는 것과 다르지 않다. 퀀트 투자(Quantitative Investing)는 그 지도를 숫자로 다시 그리는 작업이다.

이 글이 다룰 핵심 가치는 세 가지다. ①감정 편향을 제거하는 팩터 스코어링 체계 구축, ②엑셀만으로 구현 가능한 멀티팩터 모델링 실전, ③백테스팅의 함정과 진짜 검증법. 고급 수학도, 파이썬도 필요 없다. 필요한 건 논리와 일관성, 그리고 자기 욕심에 지지 않는 규율이다.

퀀트 투자란 무엇인가 — 기관의 무기를 개인이 쓰는 법

퀀트(Quant)는 수학자 출신 제임스 사이먼스가 1980년대 헤지펀드 메달리온을 설립하며 세상에 이름을 알렸다. 그는 30년 넘게 연평균 수익률 66%를 기록했다. 시장 역사상 유례없는 숫자다. 비결은 천재적인 직관이 아니었다. 반복 가능한 통계 패턴의 발굴과, 그 패턴이 무너질 때 즉각 전략을 수정하는 시스템이었다.

퀀트 투자의 본질은 간단하다. “수익률이 좋은 주식들의 공통점을 수치화한 것”이 팩터(Factor)이고, 그 팩터를 조합해 종목을 선별하는 것이 퀀트 전략이다. PER이 낮은 종목이 장기 초과수익을 낸다는 패턴 — 이것이 밸류 팩터다. 최근 6개월 수익률이 높은 종목이 계속 오르는 패턴 — 이것이 모멘텀 팩터다.

개인이 이 전략을 구현하기 어려웠던 이유는 데이터 접근성이었다. 그러나 지금은 다르다. KRX 정보데이터시스템(data.krx.co.kr)에서 전 종목의 재무 데이터를 무료로 다운로드할 수 있고, 이를 엑셀에 붙여넣으면 팩터 스코어링이 시작된다.

6대 팩터 완전 해부 — 어떤 숫자가 수익률을 설명하는가

학계와 실무에서 공통적으로 검증된 팩터는 크게 여섯 가지다. 이들을 이해하지 않고 엑셀 모델을 만드는 것은 공식의 의미도 모르고 수학 문제를 외우는 것과 같다.

한국 시장의 특이점이 있다. 글로벌 연구에서 모멘텀 팩터는 가장 강력한 알파 소스 중 하나로 꼽히지만, 아시아 시장—특히 한국—에서는 그 효과가 미국 대비 약하거나 통계적으로 불안정하다. 반면 사이즈 팩터, 즉 소형주 프리미엄은 한국 시장에서 가장 강력하게 작동한다. 이 구조적 차이를 이해하지 못하고 미국 퀀트 전략을 그대로 이식하면 실망스러운 결과를 마주하게 된다.

한 가지 더. 퀄리티 팩터는 2001년 엔론 사태 이후 전 세계 투자자들의 주목을 받았다. 재무제표상 완벽해 보였던 기업이 수천억 달러 부채를 숨긴 채 파산했다. 이후 ROE(자기자본수익률), 자유현금흐름(FCF), 부채비율을 기반으로 한 퀄리티 스코어링이 팩터 투자의 필수 요소가 됐다.

엑셀로 멀티팩터 모델 만들기 — 실전 5단계 스코어링 프레임워크

이론을 아는 것과 실제로 엑셀을 열어 스코어를 뽑는 것은 완전히 다른 일이다. 가상의 투자자 ‘박준혁(43세, 직장인, 투자 원금 5,000만 원)’의 사례를 통해 구체적으로 살펴보자.

유니버스(투자 대상) 설정

KRX에서 코스피·코스닥 전 종목의 재무 데이터를 내려받는다. 박준혁은 분석 복잡성을 줄이기 위해 1차 필터로 시가총액 500억~5,000억 원(소형주 구간)을 설정했다. 상폐 우려 종목(자본잠식, 적자 3년 연속)은 제거한다. 이것이 퀀트에서 ‘유니버스 정의’다. 무엇을 포함하느냐보다 무엇을 제외하느냐가 더 중요하다.

팩터 선택 — 3개 조합의 마법

박준혁은 밸류(PBR), 퀄리티(ROE), 모멘텀(6개월 수익률) 세 팩터를 선택했다. 이 조합이 핵심이다. 밸류와 퀄리티는 음(-)의 상관관계를 갖는 경우가 많다 — 싼 주식일수록 퀄리티가 낮고, 퀄리티가 높을수록 비싼 경향이 있다. 여기에 방향성을 보여주는 모멘텀을 더하면, 세 팩터 간 상관관계가 매우 낮아져 포트폴리오 분산 효과가 극대화된다.

랭킹 기반 백분위 스코어링

각 팩터를 절댓값으로 비교하면 안 된다. PBR 0.5와 ROE 20%는 단위가 다르기 때문이다. 대신 전체 유니버스 내 백분위 랭킹으로 표준화한다. 엑셀에서는 =RANK(셀, 범위, 1)/COUNT(범위)로 0~1 사이의 값을 도출한다. 이상치 처리를 위해 상위 1%, 하위 1%는 경계값으로 대체하는 윈저라이징(Winsorizing)을 적용한다.

종합 팩터 스코어 산출

세 팩터를 동일가중(각 33.3%)으로 합산해 최종 스코어를 낸다. 상위 20개 종목이 박준혁의 포트폴리오가 된다. 여기서 비중 결정은 단순 동일가중이 가장 안전하다. “이 종목은 더 좋아 보여”라는 판단을 개입시키는 순간, 퀀트 전략이 아니라 ‘퀀트처럼 보이는 주관적 투자’가 된다.

백테스팅의 진실 — 수익률 1,000%에 속지 말아야 할 이유

백테스팅(Backtesting)은 과거 데이터로 전략을 검증하는 시뮬레이션이다. 문제는 이것이 착각을 만들어내기에 너무 좋은 도구라는 점이다. 실제로 국내 퀀트 커뮤니티에서는 “백테스트 돌려보니 1,000% 수익”이라는 게시글이 끊임없이 올라온다. 그리고 그 전략들의 실전 성과는 거의 항상 실망스럽다. 왜인가?

과최적화(Overfitting)의 함정

지표를 10개, 20개 조합하면 과거 데이터에 완벽하게 맞아떨어지는 전략을 만들 수 있다. 이것은 시험문제의 답을 미리 알고 푸는 것과 같다. 진짜 전략은 단순하고, 논리적 근거가 있어야 한다. 복잡한 전략일수록 미래 예측력은 낮아진다.

생존자 편향(Survivorship Bias)

시가총액 상위 100개 종목을 현재 기준으로 골라 5년 전으로 거슬러 올라가면? 당연히 수익률이 높게 나온다. 이미 살아남아 상위에 올라온 종목들이기 때문이다. 백테스팅은 반드시 해당 시점 기준의 데이터—즉 그 당시에 알 수 있었던 정보만—를 사용해야 한다.

MDD를 수익률보다 먼저 보라

백테스트 결과지에서 MDD(Maximum Drawdown, 최대낙폭)는 수익률보다 훨씬 중요한 지표다. MDD 40%를 보고 “그럴 수도 있지”라고 넘기는 투자자는 없다. 실제로 자산이 40% 빠지는 경험을 하면 대부분 손절하고 전략을 포기한다. 전략 자체가 옳더라도, 버티지 못하면 수익을 가져갈 수 없다. 내가 심리적으로 견딜 수 있는 MDD가 20%라면, 백테스트 MDD도 20% 이하인 전략을 선택해야 한다.

또한 거래비용과 슬리피지(주문가와 체결가의 차이)를 반드시 반영해야 한다. 소형주 전략에서 거래비용을 0.3% 적용하는 것과 0%로 설정하는 것은 연간 수익률에 수 %포인트 차이를 만든다. KOSPI200에 모멘텀 전략을 적용한 분석에서 거래비용을 반영하고도 단순 지수 추종 대비 연평균 4%포인트의 초과수익이 확인된 것은, 역설적으로 비용까지 고려했기 때문에 믿을 수 있는 숫자다.

역발상 인사이트 — “퀀트 투자의 진짜 적은 시장이 아니라 당신 자신이다”

내가 20년간 시장을 지켜보며 깨달은 가장 불편한 진실은 이것이다. 퀀트 전략이 실패하는 이유의 90%는 모델이 틀려서가 아니라, 투자자가 전략을 끝까지 따르지 않아서다.

퀀트 전략은 반드시 ‘언더퍼폼 구간’을 통과한다. 모멘텀 전략이 2022년처럼 급격한 추세 반전이 오면 단기적으로 크게 깨진다. 밸류 전략은 ‘가치 함정(Value Trap)’에 빠진 종목—즉 싼 데 이유가 있는 종목—을 피하지 못하면 수년간 지수를 하회할 수 있다. 이 구간에서 전략을 수정하고, 더 좋아 보이는 방법론으로 갈아타는 행동이 수익률을 갈아먹는다.

여기서 또 다른 역발상이 나온다. 전략이 가장 잘 안 먹히는 것처럼 보이는 시점이, 팩터 프리미엄이 가장 크게 축적되는 시점이다. 모두가 밸류 전략을 포기할 때, 가치 스프레드(저평가 종목과 고평가 종목의 밸류에이션 격차)가 극대화된다. 2022년 성장주 버블 붕괴 이후 밸류 팩터가 강력하게 리바운드한 것이 그 증거다.

반론과 재반론 — 퀀트 투자의 진짜 위험은 무엇인가

5단계 실전 로드맵 — 지금 당장 엑셀을 열어라