이달초 미국 시카코연방지방법원은 미국 투자회사 팬더에너지트레이딩 설립자인 마이클 코샤에 대해 선물가격 조작 혐의에 대해 기소했다. 그는 미국이 2010년 도드프랭크안 마련 후 고빈도 매매 관행에 대해 범죄혐의가 적용된 첫 사례가 됐다.
코샤는 지난해 이미 미국 상품선물거래위원회(CFTC)로부터 알고리즘 매매를 통해 원유와 콩, 밀, 구리 등 선물시세를 조작한 혐의로 벌금을 부과받았다. 이들은 시세보다 높은 가격에 매도주문을 낸 뒤 동일가격의 매수주문을 무더기로 넣었다. 이를 보고 가격이 오를 것으로 본 일반 투자자들도 가세하며 시세를 올렸다. 팬더에너지는 주문 체결 직전 이를 취소하고 매도하는 수법으로 이익을 챙겼다. 비슷한 수법은 외환시장에서도 이뤄졌다. CFTC는 "알고리즘 매매는 합법적이지만 시세조종을 목적으로 사용하는 것은 불법"이라고 명시했다.
알고리즘 매매의 넘치는 매력에도 이에 대한 인식은 그다지 좋지 않다. 특히 최근에는 알고리즘 매매의 부작용이 부각되면서 규제를 강화해야 한다는 목소리가 높아지고 있다. 아직 알고리즘 거래가 활성화되지 못한 국내도 예외는 아니다. 이래저래 긍정적인 부분보다는 부정적인 부분이 크게 부각되고 있다.
◇ 악명 떨치는 고빈도 매매
알고리즘 매매의 대표적인 전략인 고빈도 매매는 최근까지 시장을 요동치게 만들었다. 고빈도 매매는 짧은 시간안에 주문과 취소, 체결을 반복해 수행하는 기법으로 호가를 순간적으로 포착해 거래한다. 속도가 거의 빛과 같이 빠르기 때문에 플래시 트레이딩으로 불리고 컴퓨터를 통한 알고리즘 이용이 필수다. 이런 고빈도 거래는 지난 2011년 현재 미국 주식거래 중 70%를 차지할 정도로 활성화돼 있다.
고빈도 거래는 대체거래시스템(ATS)인 전자증권거래네트워크(ECN)들이 등장하면서 활발해졌다. ECN은 전자시스템을 이용해 주식을 사고 팔수 있는 사설 전자증권거래시스템이다. 정규 거래소보다 거래 속도나 비용 면에서 유리한 조건을 제시해 알고리즘 매매가 시장에 본격 등장할 수 있는 계기가 됐다.
고빈도 매매에도 문제점이 있었다. 시장에 주문이 급증할 경우 시장 전체에 위험을 초래할 수 있다. 시스템 과부하로 인한 매매 시스템 중단은 종종 있어왔다.
고빈도 매매로 유동성이 급격히 줄어들 경우 시장에 충격을 주기도 한다. 가까운 예가 바로 2010년 5월 6일 미국 증시에서 발생했던 '플래시 크래시' 사태다. 당시 다우지수는 거래 종료 15분을 남기고 1000포인트 가까이 폭락 후 급반등하는데 당시 고빈도 거래자들이 시장 유동성을 회수하면서 사태를 더 키웠다는 비판을 받았다.
본래 원인은 트레이더가 컴퓨터상의 주문에서 거래단위가 실수로 입력됐지만 그 파급효과를 키운 것은 기계적으로 따라 판 고빈도 거래였다. 컴퓨터 매매 프로그램에 기반한 거래가 요건에 부합하지 않는 주식을 동시에 매도하면서 폭락을 이끈 것이다. 이후 프로그램 자동반응으로 순간 폭락은 다시 복구됐다.
고빈도 매매는 가격불균형을 제거하는 순기능을 갖지만 플래시 클래시 순간에 이들이 시장에서 대거 빠져나가면서 순식간에 가격 균형을 깨뜨릴 수 있다. 이런 플래시 클래시는 최근까지 크고 작은 형태로 지속적으로 나타나고 있다.
◇ `한맥 사태` 주문오류 파급 키워
앞선 플래시 크래시처럼 알고리즘 매매는 주문오류의 파급력을 급속도로 키운다. 잘못된 주문이 대량으로 체결될 경우 극단적인 상황이 초래될 수 있다.
국내에서도 한맥증권이 대표적인 사례다. 지난해 한맥증권은 한 직원이 코스피 200옵션 거래에서 시세보다 낮은 가격에 팔고 높은 가격에 사도록 입력을 잘못하면서 급속도로 거래가 체결됐고 되돌릴 수 없는 길을 걸었다. 일부는 차익을 돌려줬지만 대부분 반환이 거부돼 460억원의 손실을 입었다.
홍콩계 헤지펀드 이클립스퓨쳐스는 직접주문전용선(DMA)으로 매수 주문을 낸후 이를 제대로 인식하지 못한 컴퓨터가 같은 주문을 반복적으로 내보내면서 5분여만에 16조원의 매수주문이 나갔다. KTB증권 역시 급락장에서 선물 매수 주문이 나가면서 지수선물이 급등했고 11억원 가량의 손실을 봤다.
◇ 형평성 논란부터 불공정 매매까지
알고리즘 매매가 정보기술에 기반하면서 형평성의 문제 역시 단골메뉴로 지적된다. DMA를 통해 증권사를 거치지 않고 직접 거래가 가능해졌지만 이 경우 일반 투자자들이 홈트레이딩시스템(HTS)을 이용하는 것보다 훨씬 빠를 수밖에 없다. 소수의 거래자가 일반 투자자들을 앞서면서 불공정 거래로 지적되는 예다. 기술력이 더 진보할수록 이런 논란은 더 커질 수밖에 없는 것이 현실이다.
지난 봄 국내에서는 국내 증권, 선물사들이 고액의 수수료를 받고 해외 알고리즘 매매업체들에게 한국 거래소의 증권사 전용 전단처리서버(FEP)를 부당대여해 적발되기도 했다. FEP서버는 회원사와 거래소를 연결하는 서버로 회원시스템과 거래소 시스템 간 주문이나 매매, 시세 정보를 송수신할 수 있다. 이들은 투자자들과 비교가 안되는 속도로 매매를 체결해 부당이익을 취한 것으로 나타났다.
최근 김기준 새정치민주연합 의원은 국정감사에서 비싼 수수료를 지불했더라도 파생상품 시장에서도 우위를 점해 투자금을 조기에 회수할 수 있는 것으로 추정된다"고 설명했다. 거래소에 신고된 알고리즘 거래 계좌수는 2833개로 이 중 1255개가 외국인 계좌수다.
앞선 팬더에너지의 사례처럼 지극히 짧은 시간에 허수성 호가를 반복해 이익을 취하는 불공정 거래는 국내에서도 발생했다. 지난 5월 금융감독원은 미국 소재 알고리즘 트레이딩 전문회사 소속 트레이드들이 코스피 200 야간선물시장에 진입해 부당이득을 취득한 것을 적발했다.
이들은 가장매매와 물량소진 통해 본인들에게 유리한 포지션을 반복적으로 구축, 청산하면서 시세를 조종해 141억원을 벌었다. 이 사건은 국내에서 알고리즘 매매를 이용해 파생상품 시세를 조종한 최초 적발사례로 관심을 모았다.
이들은 매도 포지션을 구축하는 과정에서 매수 호가 물량 이상의 매도주문을 제출해 매수 주문을 소진시키고 시세하락을 유도한 후 시세가 내리면 매도포지션을 청산해 부당이익을 취했다. 국내 기관투자자가 보유 증권에 대해 매도주문을 낸 뒤 이를 매수해 수익을 거둔 경우도 있었다.
◇ 칼 바투 잡은 규제당국..막는 게 능사?
알고리즘 매매를 악용하는 사례가 늘면서 규제 논의가 활발해지고 있고 실제 규제의 틀이 마련되고 있다.
플래시 크래시 사태 후 미국 증권거래위원회(SEC)와 CFTC는 자문위원회를 구성해 권고안을 발표했다. 이미 2012년 EU집행위원회(EC) 경제위원회는 과도한 투기를 막기 위해 초단타매매(HFT) 등 투기성 거래에 대한 강력한 규제를 만들었고 2015년부터 발효될 예정이다. 이 법안으로 유럽 주요 증시 거래량의 약 40%를 차지하는 투기성 거래가 위축될 것으로 우려되고 있다.
국내 역시 한맥증권 사태 이후 오류가 발생한 알고리즘 계좌의 호가를 일괄 취소하고 추가 접수를 차단하는 킬 스위치를 도입했다. 금감원도 지난 여름 논란이 된 DMA 거래 실태 등에 대한 조사에 나섰다.
일각에서는 알고리즘 매매가 아직 활성화되기 전에 부작용이 먼저 부각되면서 일찌감치 시장의 발전이 제한될 수 있다는 우려도 나온다. 고빈도 매매 알고리즘 자체는 합법적이며, 불공정거래 가능성은 항시 존재한다. 규제를 위해 알고리즘 매매 자체를 위축시킬 경우 전 세계적인 수요가 증가하는 상황에서 자칫 도태될 수 있는 부분이다. 국내의 경우 파생상품 시장에서는 알고리즘 거래가 차지하는 비중이 절반 이상에 달하지만 주식시장에서는 거의 미미한 실정이다.
