자본시장연구원

국내 다자간매매체결회사(ATS) 설립 가시화

올해 11월 증권시장에서 ATS(Alternative Trading System)를 설립하기 위한 정식 인가 절차를 준비 중이다. ATS는 정규거래소 이외에 다양한 형태의 증권시장을 통칭하며, 해외시장에서는 이미 다수의 ATS가 활발히 운영되고 있다. 국내에서는 2013년 8월 자본시장법에 ATS 설립을 위한 법적 근거가 마련되었으나 실질적인 설립이 이루어지지 않아 왔다. 규정 도입 10년만인 올해 금융투자협회를 비롯한 민간 출자기관 34개사로 구성된 준비법인이 넥스트레이드(Nextrade) 주식회사를 설립하고 본격적으로 국내 증권거래시장의 첫 ATS 도입을 준비하고 있다.

복수의 거래시장이 설립되면 유통시장 간 경쟁이 촉진되고 다양한 혁신 서비스가 등장하며 시장 효율성이 제고될 것으로 기대된다. 그러나 ATS의 등장만으로 시장에 긍정적인 효과가 보장되는 것은 아니다. 국내시장과 마찬가지로 오랜 기간 거래소 중심의 체제를 유지해오던 일본은 PTS(Proprietary Trading System)¹⁾가 설립된 이후에도 한동안 유의미한 경쟁이 발생하지 않았다. 일본 금융청(Financial Services Agency: FSA)은 올해 거래시장간 경쟁을 제고하기 위하여 최선집행원칙을 개정하고 2023년 1월부터 시행할 예정이다. 본고는 국내시장에 앞서 ATS가 도입된 일본 거래시장의 사례를 자세히 검토하여 국내시장에 시사점을 도출해보고자 한다.


일본의 PTS와 시장분할 현황

일본 시장에는 현재 정규거래소를 비롯하여 Japannext, Cboe Japan, ODX(Osaka Digital Exchange)의 세 PTS에서 주식이 거래되고 있다. 2022년 8월 거래주식수를 기준으로 PTS는 11.6%의 시장점유율을 차지하고 있다. 운영 중인 PTS가 3개사 밖에 되지 않을 뿐만 아니라 ODX는 2022년 6월에 설립되어 서비스를 시작한 지 불과 몇 달밖에 되지 않았다. 그럼에도 PTS는 전체 거래 중 상당한 비중을 차지하며 일본 거래시장에서 안정적으로 자리 잡아 가고 있는 중이다.
  <그림 1>의 시장점유율 추세를 살펴보면 2020년 이후 PTS가 급격하게 성장한 것을 알 수 있다. 2020년 10월에 도쿄 증권거래소 시스템에 장애가 발생하여 종일 전체 종목 거래가 정지되면서 PTS가 실질적인 대체 시장으로 부상하는 계기가 되었다.²⁾ 또한 2019년에 PTS 거래에 신용거래를 도입한 것이 PTS 성장에 영향을 일부 미쳤을 것으로 파악된다.
  일본의 PTS가 현재와 같은 시장점유율을 보인 것은 비교적 최근의 일이며, PTS 설립이 허용된 이후 약 20년간 저조한 실적을 보였다. 일본은 1998년 거래소 집중 의무를 철폐하고 PTS 운영 업무 인가제를 도입하였다. 그러나 제도가 도입되고 10년이 경과한 2010년 초까지도 PTS의 시장점유율은 1%를 넘지 못했다. 2012년 PTS에 5% 공개매수 의무가 면제되면서 시장점유율이 5%까지 급격하게 상승했다. 그러나 이후 다시 10년간 시장점유율은 큰 변화 없이 5%대를 유지하는 수준에 그쳤다. 그 사이 2000년대에 설립되었던 Cross Securities, Monex, Instinet, Japan Securities Agents, Kabu.com, Daiwa, Matsui 등 다수의 PTS가 영업부진을 극복하지 못하고 2010년대 초반에 영업을 중단하였다.

 
일본 PTS 거래 부진 원인: 최선집행원칙의 중요성

일본 FSA는 2005년 금융상품거래법(Financial Instruments and Exchange Law)을 개정하여 PTS에서 경쟁매매방식(auction-based price discovery)을 이용할 수 있도록 허용하였다. 이와 동시에 금융상품거래업자(이하 증권사)가 고객에게 가장 바람직한 거래 결과를 달성하기 위해 최량집행방침(最良執行方針, 이하 최선집행원칙)을 마련하여 공개하도록 규정하였다.(금융상품거래법 제40조의2)

금융상품거래업자는 가격뿐만 아니라 거래비용, 속도, 실행가능성 등과 같은 다양한 요인을 고려하여 최선의 조건으로 주문을 체결시켜야 하는 의무를 진다. 모든 투자자와 금융상품거래업자에게 통용되는 최선집행이란 존재하지 않으며, 금융상품거래업자는 고객 주문을 최선의 조건으로 집행하기 위해 최선집행의 구체적인 방안을 자율적으로 수립할 수 있다. 따라서 최선의 결과 도출을 위하여 해당 상품이 거래되고 있는 모든 시장의 조건을 비교할 의무는 없으며 자체적인 판단 기준에 따라 하나 또는 그 이상의 거래장소를 선택할 수 있다. 비교대상으로 삼은 거래시장이 합당한 근거에 따른 것이라면 최선집행으로 인정된다. 거래시장을 선정한 근거를 공지하고 주기적으로 선정의 정당성에 대해 평가받으면 된다.
 
일본 증권업협회(Japan Securities Dealers Association: JSDA)는 최선집행원칙 도입 초기에 증권사의 부담을 줄여주기 위하여 최선집행원칙에 대한 가이드라인을 마련하였다. 그런데 JSDA가 제시한 가이드라인은 PTS를 통한 거래가 정규거래소에 비해 후순위로 처리되어도 최선집행의무를 준수한 것으로 인정하는 것이었다.³⁾ 유동성, 주문체결가능성, 주문체결속도 등을 고려해보았을 때 거래소를 통해 주문을 체결하는 것이 PTS 등 거래소 이외의 시스템을 통해 거래하는 것보다 우월하다고 판단했다. 당시 PTS의 시장점유율이 0.1% 미만으로 미미한 수준이었기 때문에 정규거래소를 통한 거래에 집중하도록하는 것이 불합리한 판단이라고 볼 수 없었다.

금융상품거래업자가 최선집행 실행방안을 정하면 그에 따라 체결된 주문이 최선의 결과를 가져왔는지에 대하여 FSA가 질적 평가를 수행한다. 이는 금융삼품거래업자에게 부담으로 작용했다. 증권사는 FSA 감사에 따른 번거로움을 회피하기 위하여 대부분의 금융상품거래업자들은 JSDA의 가이드라인을 준용하여 정규거래소를 통한 거래에 집중하도록 최선집행원칙을 수립하였다.
  노무라연구소는 2012년 일본의 상위 40개의 금융상품거래업자를 대상으로 그들이 선택한 최선집행원칙에 대해 조사하였다. 그 결과 전체 금융상품거래업자의 약 60%가 거래소를 통해서만 최선집행 의무를 실행하도록 하는 거래소 독점적인 정책을 가지고 있었다.⁴⁾ 보다 구체적으로 상위 40개 증권사의 42%가 PTS 사용을 금지하는 정책을 보유하고 있었고, 20%가 PTS에 대한 언급을 하지 않고 있으며, 28%의 증권사는 고객이 사전에 PTS 주문회송을 허용한 경우에 PTS로의 주문회송을 허용하는 규정이 있었다. 오로지 10%만이 아무 조건 없이 PTS를 통한 최선주문집행 정책을 허용하고 있었다.

그 결과 거래가 기존과 마찬가지로 정규거래소로 집중되어 경쟁이 충분히 이루어지지 않는 문제가 발생하였다. 이러한 관행은 PTS의 시장점유율이 5% 이상으로 증가한 후에도 고착화되어 2010년대에 지속적으로 주문체결이 거래소를 중심으로 이루어지는 결과를 초래했다.


일본 최선집행원칙 개정 추진

일본 FSA는 2020년 거래시장 간에 충분한 경쟁이 이루어지지 않고 있다는 문제의식 하에 투자자 보호와 투명성 강화를 위하여 최선집행원칙에 대한 재검토를 추진하였다. 2020년 12월 특별조사단을 결성하고 ‘금융상품거래업자 등의 최선집행방침 등에 관한 규제’에 대한 검토를 시행하였다. 2021년 6월, 금융제도심의회는 조사 결과를 바탕으로 ‘최적집행을 보장하기 위한 최적 방안 TF’ 보고서를 발표하였다. 보고서에 따르면 다수의 금융상품거래업자가 거래소를 우선으로 주문하는 최선집행방침을 수립하고 있어 거래시장간 경쟁을 통한 발전에 저해요인이 되고 있다고 판단하였다. 이에 따라 최선집행의무에 대한 규정을 검토하고 개정하도록 권고하였다.

일본 FSA는 권고를 받아들여 2022년 5월 18일 최선집행원칙에 대한 개정을 반영한 「금융상품거래법 시행령 개정에 관한 내각령」을 확정하여 발표하였다. 규정개정 내용 중 최선집행원칙과 관련된 핵심 사항은 크게 두 가지이다.
 
첫째, 증권사가 최선집행원칙을 수립할 때, 개인투자자의 주문은 가격을 중시하는 방향으로 규정하도록 하였다. 개인투자자는 기관투자자와 달리 소량 주문이 대부분을 차지하고 일반적으로 가격이 가장 중요한 거래조건이므로, 개인투자자의 주문에 대해서는 가격을 중심으로 최선집행원칙을 수립하도록 권고하였다. 단, 가격 이외의 요건을 고려하는 경우에는 그 취지와 이유를 추가적으로 설명해야 한다. 가격을 우선시하는 개인의 최선집행원칙 준수를 위해서는 정규거래소 뿐만 아니라 PTS에서 제시되고 있는 호가와 거래비용을 비교하는 과정이 필수적이다. 따라서 고객으로부터 별도의 요청이 없는 한 거래소만을 거래 고려대상으로 선택하는 관례를 유지하는 것은 불가능하다.

둘째, SOR(Smart Order Routing)에 의한 주문집행의 투명성을 높이기 위해 최선집행원칙의 기재사항에 SOR을 사용할 경우 취지 및 SOR에 의한 주문집행 원칙을 상세히 설명하도록 의무화하였다. SOR은 각 거래시장에 제시하는 조건을 비교하여 최선의 조건을 제시하는 시장으로 주문을 전송하는 자동화 시스템이다. 증권사가 SOR을 어떻게 설계하는지에 따라 주문체결의 질이 결정된다. 만일 SOR이 특정 거래시장만 고려하도록 설계될 경우 최선의 조건에서 거래가 이루어지지 않을 수 있다. 또는 SOR을 제공하는 증권사와 계열관계 또는 우호관계에 있는 거래시설에 우선적으로 주문을 회송하도록 설계되어 있다면 고객과 이해상충이 발생할 가능성이 있다. 이러한 문제점을 해결하기 위하여 새로 도입된 주문집행원칙은 SOR에 포함되는 거래시장 범주, 주문집행 원칙, 복수의 거래시장에서 동일한 주문조건을 제시한 경우 주문 처리방법, 원칙 도입 사유 등에 대해 투자자가 이해하기 쉽게 명시하도록 하였다. 개정된 최선집행원칙은 2023년 1월부터 시행될 예정이다.

 
시사점

현재 국내 자본시장법은 증권회사가 최선집행의무 준수를 위한 최선집행기준을 마련하도록 규정하고 있다. 이에 따라 증권사는 고객에게 최선의 체결을 제공해야 할 의무를 진다. 그러나 법에는 구체적인 기준이 아닌 일반적인 선언적 의미의 최선집행 의무만 명시되어 있다. 따라서 증권사는 고객 주문을 최선의 조건으로 집행하기 위한 최선집행 기준의 구체적인 방안을 자율적으로 수립해야 한다.
 
일본의 사례에서 알 수 있듯이 각 증권사가 마련할 최선집행원칙은 ATS의 시장점유율과 거래시장간 경쟁 활성화에 상당한 영향을 미칠 것이다. 일부 증권사는 원활한 거래 및 비용절감을 위하여 기존과 마찬가지로 한국거래소만 이용하여 거래하는 방안을 선호할 수 있으며, 이 경우 대부분의 거래가 정규거래소인 한국거래소에 집중될 가능성이 있다. 반대로 국내 ATS 설립에 참여한 대형 증권사를 중심으로 ATS를 적극적으로 활용하기 위해 노력할 유인이 있으므로 ATS를 우선적으로 고려하도록 최선집행원칙을 마련할 수도 있다.
 
최선집행원칙 수립과 수행에 대한 증권사의 부담을 경감하고 거래시장간 공정한 거래환경을 조성하기 위하여 최선집행원칙에 대한 가이드라인이 필요하다.
 
첫째, 개인투자자 거래의 최선집행 시 총비용을 우선적으로 고려하도록 권고한다. 국내시장에서 개인투자자는 상당한 비중을 차지하며 활발히 거래하고 있다. 대부분의 개인투자자 거래는 거래속도, 시장충격, 체결가능성 등 복합적 요소를 고려하기보다는 호가와 수수료 등 직접비용을 기준으로 최선집행 여부를 판단하도록 하는 것으로 최선의 결과를 보장하기에 충분할 것이다.

둘째, 기관투자자 거래는 기관투자자의 요청에 따라 다양한 요소를 고려하도록 허용한다. 기관투자자 거래는 시장충격을 최소화하는 것을 선호하거나, 거래속도를 우선시하거나, 전체 주문량을 체결시키는 것을 목적으로 하는 등 거래유형에 따라 다양한 수요가 존재한다. 기관투자자의 목적을 충족시킬 수 있는 최선의 체결이 이루어질 수 있도록 선택지를 제한하지 않는 것이 바람직하다.
 
셋째, 각 거래소는 최선집행원칙을 투자자에게 공개하고 SOR 사용 여부와 함께 SOR에 의한 주문집행 원칙을 상세히 설명하도록 해야 한다. 현재 한국거래소의 지분 일부는 증권사가 보유하고 있고 다수의 증권사가 ATS 설립에 참여하는 소유구조로 되어있다. 거래소와 ATS, 증권사 간의 이해관계에 따라 최선집행이 영향을 받지 않도록 투명한 공개가 필요하다.

국내시장의 첫 ATS는 2024년에 운영을 시작할 예정이다. 거래시장간 공정한 경쟁을 통해 거래시장 서비스가 개선되고 시장참여자에 혜택이 돌아갈 수 있도록 철저한 준비가 필요하다.
 

---

1) PTS는 일본에서 ATS를 가리킨다.
2) PRTIMES, 2022. 8. 12, ジャパンネクスト証券 × 大阪デジタルエクスチェンジ PTSウェビナー『市場インフラの一翼を担うPTS —基本的な役割と今後のビジネス展開について—』 を開催.
3) Mitsuhiro Tsunoda, 2012, Are Best Execution Policies Serving customers’ Best Interests?, Nomura Research Institute.
4) Mitsuhiro Tsunoda(2012)