칼자루 쥔 금감원…시타델證·메릴린치 알고리즘 매매 제재 ‘촉각’(종합)

[그래픽=이데일리 문승용 기자]

[이데일리 최정희 이명철 기자] 코스닥시장에서 초단타 매매를 일삼은 미국 시타델증권에 대해 금융감독원이 불공정거래 의혹을 조사하고 있다.

이날 한국거래소가 시타델증권의 초단타 알고리즘 매매를 위탁받은 메릴린치에 대한 과태료 부과 결정을 미뤘지만 금감원은 이와 별개로 자본시장법 위반 여부를 조사하고 있다. 혐의가 확정되면 시타델증권은 물론 메릴린치증권에 대한 제재도 속도를 낼 전망이다.

금감원 “불공정거래 의혹 조사 중”

거래소의 메릴린치 과태료 부과 결정 여부와 별도로 금융당국은 시타델증권과 메릴린치에 대해 자본시장법 위반 여부를 조사하고 있다.

금감원 관계자는 19일 “작년 7월부터 시타델증권의 알고리즘 매매가 자본시장법상 시세조정인지 시세관여인지 여부를 놓고 조사하고 있다”며 “아직 조사 과정을 발표할 정도의 단계는 아니지만 혐의 적용 여부에 대해 검토하고 있다”고 말했다.

일단 시타델증권은 자본시장법 제178조2항 시장질서 교란행위 금지 규정 위반 혐의를 받고 있다. 거래 성립 가능성이 희박한 호가를 대량으로 제출하거나 반복적으로 정정, 취소해 시세에 부당한 영향을 줬다면 고의성이 없더라도 시장질서 교란행위로 판단해 처벌하도록 돼 있다. 또는 타인에게 그릇된 판단을 하게 할 목적으로 거짓 매매를 하지 못하도록 돼 있는 제176조 시세조정 금지 조항을 어긴 것으로도 볼 수 있다.

어떠한 혐의인지에 따라 시타델증권의 대응도 달라지기 때문에 법리적으로 더 명확한 혐의 적용 여부가 관건이 될 전망이다. 인공지능(AI)을 활용한 거래기 때문에 고의성을 어떻게 판단할지도 쟁점이다.

이 관계자는 “어떤 가능성(혐의)을 염두에 두고 검증을 해나가거나 (초단타매매 거래 행위를) 분석해서 최종 어느 혐의에 도달하는지 보는 등 방법은 여러 가지”라며 “여러 개의 혐의를 동시에 적용할 수는 없어서 법적인 고민을 하는 것”이라고 설명했다.

시타델증권이 자본시장법 위반 혐의를 받는다면 메릴린치도 제재를 피하긴 어려울 전망이다. 메릴린치는 제176조4조 허수 호가·거짓 매매를 위탁한 혐의를 적용받을 가능성이 있다. 지금까지 시세 조정 성격의 주문을 위탁받아 제재를 받은 증권사는 없다.

시세 조정 등 법 위반 여부 가리기 어려워

금감원의 조사와는 별개로 거래소는 이날 시장감시위원회(시감위)를 열었으나 메릴린치에 대한 과태료 부과안을 확정하지 못했다. 지난 3월 시감위 자문기구 성격인 규율위원회에서 메릴린치에 대해 과태료 5억원 이하 부과안을 통과시켰으나 시감위에선 이날까지 세 차례 회의를 열었음에도 결론을 내지 못했다.

거래소 관계자는 “메릴린치에서 추가 소명 기회를 달라고 했고 충분히 기회를 줘야한다고 판단해 회의를 한 번 더 하기로 했다”고 말했다.

거래소는 메릴린치가 허수 호가 주문 처리를 금지한 시장감시규정 4조를 위반했다고 보고 있다. 코스닥 시장을 뒤흔든 시타델증권의 알고리즘 매매는 허수 호가 등 불건전 주문이 상당한 데 이를 위탁받은 메릴린치가 제대로 걸러내지 못했다는 것이다. 외국인의 초단타 매매 등은 주로 직접주문전용선(DMA·Direct Market Access)을 통해 이뤄지지만 모니터링 시스템에 의해 허수 주문 등이 걸러지기 때문에 메릴린치가 모를 수 없다는 게 거래소의 주장이다.

시타델증권은 2017년 9월부터 1년여간 하루 평균 수 천억원을 쏟아부어 코스피·코스닥 상장 종목 1600~1700개의 시세를 조정한 혐의를 받고 있다. 전체 상장 종목(2278개)의 3분의 2에 달한다. 문제는 대규모 자금을 동원해 거래가 거의 일어나지 않은 코스닥 종목의 시세를 조정할 수 있도록 알고리즘을 설계한 것이다. 시타델 증권의 수백 억원 자금만으로도 244조원의 코스닥 시장을 뒤흔들 수 있다. 시타델증권은 알고리즘 매매로 수 천억원의 이익을 낸 것으로 알려졌다.

거래소가 메릴린치에 과태료를 부과하더라도 이는 협회가 회원사를 제재하는 자율 규제 성격에 지나지 않는다. 시타델증권의 알고리즘 매매를 두고 거래소는 허수 호가 주문이 맞지만 시세 조정 혐의에 대해선 아직 결론을 내리지 못했다.

금융투자업계 관계자는 “시타델증권의 알고리즘 매매 과정에서 허수 호가가 나온 것은 맞지만 단순히 허수 호가 주문이 나왔다고 이를 즉각 시세 조정으로 보기는 어렵다”며 “따라서 금감원이 관련 혐의를 입증하기 위한 노력이 필요한 상황”이라고 설명했다.