문제 해결을 위한 여러 개의 절차와 방법의 집합. 알고리즘(algorithm)의 단순 정의다. 용어부터 복잡하고 생소한 알고리즘은 컴퓨터 프로그램을 짜는데 활용된다. 일반인과는 전혀 상관없어 보이는 알고리즘이 시장과 만나면 상황은 조금 달라진다. 증시에서 익숙한 프로그램 매매도 일종의 알고리즘 매매다. 대량매매에 나서야 하는 기관투자가들에게는 숙명과 같다. 개인 투자자들 사이에서도 다양한 전략구사가 가능한 알고리즘 매매에 대한 관심이 커지고 있다. 하지만 이를 악용하는 사례도 또한 늘어나면서 규제당국의 눈초리는 어느 때보다 날카롭다. 알고리즘 매매가 채 활성화되지 않은 국내에서도 부작용 사례가 잇따르며 고민이 크다. 국내에서는 이제 막 꽃피고 있는 알고리즘 매매의 양면성을 짚어본다.[편집자]
"금융업계에서 수학자의 몸값이 높아지고 있다. 금융에서 많은 일은 통계와 수학에 대한 지식을 필요로 한다. 구글의 검색엔진도 수학적 알고리즘을 활용한 것이다."
지난 6월 방한했던 제임스 사이먼스 르네상스 테크놀로지스 회장의 말이다. 사이먼스 회장은 시장의 광기를 수학으로 예측해 큰 돈을 번 것으로 유명하다. 르네상스테크놀로지의 대표펀드는 펀드매니저 주관이 아닌 컴퓨터 프로그램이 운용하는 퀀트펀드다. 이들의 퀀트펀드는 워런 버핏도 이기지 못한 약세장에서 홀로 승승장구했다. 30년간의 수익률은 워런 버핏을 능가한다. 바로 이 퀀트 뒤에는 알고리즘이 있다. 알고리즘 매매에 대한 관심도 어느 때보다 뜨겁다.
◇ 기관들 주로 활용..전자체결시스템 등장 결정적
알고리즘 매매는 말 그대로 알고리즘에 기반한 거래다. 어떻게 매매할지에 대해 프로그램처럼 미리 짜놓고 자동적으로 거래가 되도록 하는 것이다. 사람이 아닌 컴퓨터, 즉 기계의 힘을 빌린다.
이미 우리에게 익숙한 프로그램 매매도 일종의 알고리즘에 의해 거래되는 알고리즘 매매다. 최근에는 특정한 조건을 걸어놓고 이에 따라 자동적으로거래가 되도록 만드는 '전략 알고리즘' 거래가 활발해지고 있다.
알고리즘 매매는 일반인들보다는 기관투자가들이 주로 활용해왔다. 대량으로 주식을 거래해야 하는 기관 입장에선 대량 주문을 내면 시장에 부담을 주는 동시에 그들의 전략이 노출되면서 이들에게도 고스란히 부담이 됐다. 알고리즘 매매는 이런 대량 주문을 여러 개로 쪼개서 낼 수 있게 해주면서 대량 매매로 인한 부작용을 해소했다.
컴퓨터 프로그램에 기반한 알고리즘 매매는 정보기술(IT) 발달과 함께 자연스럽게 나타났지만 1980년대 후반 거래소의 전자체결시스템이 등장한 것이 결정적인 계기로 작용했다. 본래 주식거래에는 '딜러'와 시장을 연결하는 중간상인 역할의 '브로커'가 공존했지만 브로커 없이 직접 주문을 할 수 있는 직접시장접속(DMA)이 도입되면서 알고리즘 매매를 가능하게 해줬다.
김준석 자본시장연구원 연구원은 "미국 시장에서 `십진법` 호가 도입이 스프레드와 가격대별 호가잔량 감소를 가져오면서 수익 감소에 대응해 알고리즘 매매가 도입됐다"며 "투자자 입장에서도 시장충격비용을 최소화하기 위해 적극 활용하게 됐다"고 설명했다. 과거 호가단위는 16진법을 사용해 0.06달러 수준이었는데 십진법 채택으로 0.01달러로 줄었고 브로커들의 매매마진 역시 6분의 1 수준으로 쪼그라들자 짧은 시간 안에 더 많은 거래가 필요해진 셈이다.
◇ 새로운 기회와 툴 제공..인간의 한계 초월
알고리즘 매매는 북미와 유럽에서 놀라운 성장 속도를 보인다. 이들의 전체 주식거래량에서 차지하는 비중은 70%에 달할 정도로 압도적이다. 이와 달리 아직 아시아에서는 활용도가 크지 않은 초기단계다. 아시아의 경우 상대적으로 변동성이 높고 매매 호가간 차이가 크다보니 알고리즘 매매가 쉽지 않다. 그만큼 선진국 시장으로 갈수록 훨씬 적합해지고 니즈가 크다고 볼 수 있다.
미국과 유럽에서는 주식 가격대별 호가 잔량이 줄어들고, 훨씬 더 다양한 전략이 필요해졌다. 알고리즘 매매는 매우 짧은 순간의 가격불균형에서도 매매기회를 포착하면서 진가를 발휘하고 있다. 전에 없던 새로운 기회를 제공했고 시장 유동성을 더 풍부하게 만들었다. 거래 빈도가 높아지면서 유동성이 늘었고, 반대로 유동성이 너무 많을 경우에는 적절하게 조절해 주는 역할도 했다.
사람이 아닌 기계가 하는 만큼 반응 속도가 빠를뿐 아니라 주관적인 판단을 배제해주는 이점도 있다. 컴퓨터의 자동주문은 수익을 낼 수 있는 기회를 포착한 후 키보드를 눌러 주문을 내는 사람의 행동과는 비교가 되지 않는다. 또 시장이 일시적으로 흔들릴 때 인간의 감정에 치우치지 않고 원칙대로 대응이 가능하다. 불필요한 거래를 줄이기 때문에 그만큼 비용도 절감된다.
기관 투자가 입장에서는 대량 매매가 수월해지는 동시에 이들의 대량주문을 역이용하는 스니핑을 방지할 수도 있다. 스니핑(sniffing)은 컴퓨터 네트워크 상에 흘러다니는 트래픽을 엿듣는 도청장치를 말한다. 시장에서 기관의 대량 주문 등을 감지해 이를 역이용하는 것도 스니핑으로 불린다.
◇ 주목받는 퀀트..퀀트펀드로 대중화 노려
알고리즘 매매의 시작은 지표 등을 통해 매매 신호를 포착해 자동으로 주문을 실행하는 시스템 매매에 가까웠지만 이제는 시장 환경에 따라 주문 수량을 설정하고 자동으로 주문을 처리해 수익률 극대화 물론 위험 분산에 나선다. 그야말로 알고리즘 매매의 끝없는 진화다.
이렇게 탄생한 거래전략이 바로 퀀트다. 퀀트는 수학적 모델을 활용한 계량분석 기법을 통해 투자대상을 찾는 방법인데 이를 분석하고 적용하는 과정에서 알고리즘이 활용된다. 기업의 실적이나 재무상태, 주가 등을 분석해 매매 시점을 포착하는 만큼 단순한 주문 알고리즘을 넘어 고차원적으로 활용된 것으로 볼 수 있다.
요즘엔 이에 기반한 퀀트펀드도 각광을 받고 있다. 수학모델을 이용 시장의 움직임을 바탕으로 컴퓨터 프로그램을 만들어 투자결정을 내리는 펀드다. 다양한 신호에 따라 자동으로 매매하도록 하는 알고리즘이 기본이 된다. 세계적으로는 르네상스테크놀로지가 퀀트펀드로 유명하다. 르네상스테크놀로지의 사이언스 회장은 수학과 물리학 연구방법론을 펀드 운용에 적용해 1988년부터 10년 동안 2479%라는 놀라운 수익률을 기록했다.
이들 펀드는 분산투자로 위험을 낮출 수 있고 주요 금융지수와 상관관계를 줄이면서 지수 등락과 상관없이 수익을 내기도 한다. 투자자가 원하는 맞춤형 전략도 가능하다. 이를테면 고객이 원할 경우 원금 손실의 최대폭을 일정수준으로 제한할 수 있다. 국내는 아직 퀀트가 크게 활성화되지 않지만 조금씩 주목받고 있다. 퀀트펀드는 물론 수학적 알고리즘을 활용한 퀀트기법을 통해 큰 돈을 번 자문사들도 여럿 눈에 띈다.
물론 인간의 판단의 필요한 부분에서 퀀트는 맹점이 있을 수는 있다. 대개 정해진 공식과 짜여진 각본에 따라 매매를 하기 때문에 공식이 적용되지 않은 특정한 상황에서는 제대로 이를 파악하지 못해 낭패를 보는 경우도 나온다. 워낙 전문가적인 영역이기 때문이 일반 투자자들로서는 정확히 이해하고 투자하는데 어려움이 따를 수 있다. 퀀트펀드의 경우 대부분 사모형식인 것도 이런 이유가 크다.
