월스트리트의 로봇들: 1초에 1억 번 거래하는 기계들

6분간의 악몽

2010년 5월 6일 오후 2시 45분. 월스트리트의 트레이더들이 평범한 목요일 오후를 보내고 있었습니다. 그런데 갑자기 모든 것이 미쳐 돌아가기 시작했습니다.

다우존스 지수가 초당 수백 포인트씩 추락하기 시작했습니다. 2시 45분에 10,868포인트였던 지수가 2시 47분에는 9,869포인트까지 떨어졌습니다. 단 6분 만에 거의 1,000포인트, 약 1조 달러가 증발한 것입니다.

뉴욕증권거래소 플로어는 순식간에 아비규환이 되었습니다. 베테랑 트레이더들도 이해할 수 없는 상황이었습니다. 누군가가 소리를 질렀습니다. “이게 대체 뭐야?” 다른 사람은 외쳤습니다. “컴퓨터가 미쳤나?”

그들의 직감은 정확했습니다. 범인은 바로 컴퓨터였습니다.

마이크로초를 위한 전쟁

이 이야기를 이해하려면 먼저 월스트리트에서 벌어지고 있는 ‘속도 전쟁’을 알아야 합니다.

blur, chart, computer, data, finance, graph, growth, line graph, stock exchange, stock market, technology, trading, data, finance, finance, graph, stock market, stock market, stock market, stock market, stock market, trading, trading, trading, trading
Photo by Pexels on Pixabay

광속보다 빠른 돈

뉴저지 카트레트에서 시카고까지 이어진 827마일(약 1,331km)의 직선 광케이블이 있습니다. 이 케이블의 건설비는 3억 달러. 목적은 단 하나입니다. 뉴욕과 시카고 거래소 간의 데이터 전송 시간을 4.13밀리초에서 3.98밀리초로 단축하는 것입니다.(1)

0.15밀리초, 즉 0.00015초를 위해 3억 달러를 투자한 것입니다. 왜일까요?

고빈도거래(HFT) 회사들에게 이 0.15밀리초는 연간 수십억 달러의 수익 차이를 만들어냅니다. 남들보다 0.001초만 빨라도 시장에서 먼저 주문을 넣고, 가격 차이를 이용해 이익을 챙길 수 있기 때문입니다.

마이크로파 타워의 비밀

일부 HFT 회사들은 광케이블보다도 빠른 방법을 찾아냈습니다. 바로 마이크로파 통신입니다. 뉴욕에서 시카고까지 158개의 마이크로파 타워를 설치해서 데이터를 전송하는 것입니다.(2)

이 방법으로 전송 시간을 3.98밀리초에서 3.44밀리초로 더 단축했습니다. 0.54밀리초를 위해 수억 달러를 추가로 투자한 것입니다.

상상해보세요. 당신이 눈을 한 번 깜빡이는 시간(약 0.3초) 동안 이 기계들은 87,000번의 거래를 할 수 있습니다.

플래시 크래시의 진실

이제 2010년 5월 6일로 돌아가 봅시다. 그날 오후 2시 41분, 캔자스의 한 뮤추얼 펀드 회사가 41억 달러 규모의 S&P 500 선물 매도 주문을 냈습니다.(3) 평소라면 이 주문은 몇 시간에 걸쳐 천천히 처리되었을 것입니다.

하지만 그날은 달랐습니다. 이 회사는 알고리즘을 사용해 “가능한 한 빠르게” 매도하라고 지시했습니다.

도미노 효과의 시작

2시 41분에 대량 매도 알고리즘이 작동을 시작했습니다. 2시 43분에는 HFT 알고리즘들이 급격한 매도를 감지하고 자동으로 매도에 참여했습니다. 2시 44분에 다른 HFT 알고리즘들도 연쇄적으로 매도 모드로 전환되었고, 2시 45분에 시장 폭락이 시작되었습니다.

문제는 HFT 알고리즘들끼리 서로 거래를 하기 시작한 것입니다. A 알고리즘이 팔면 B 알고리즘이 사고, B가 다시 팔면 C가 사는 식으로, 같은 주식이 수십 번씩 오가며 인위적인 거래량 폭증을 만들어냈습니다.

기계들의 패닉

더 심각한 문제가 발생했습니다. 가격이 급락하자 많은 HFT 알고리즘들이 위험 회피 모드로 전환되어 시장에서 완전히 빠져나갔습니다. 평소 거래량의 70%를 담당하던 HFT들이 갑자기 사라지자 시장은 유동성 위기에 빠졌습니다.

결과는 참혹했습니다. 애플 주가가 250달러에서 199.5달러로 20% 급락했고, 액센츄어 주가는 0.01달러까지 떨어졌으며, 프록터앤갬블이 37% 폭락했습니다.

다행히 2시 51분경 시장이 회복되기 시작했지만, 6분간의 혼란으로 수조 원이 증발했습니다.

스나이퍼 알고리즘

월스트리트에는 스나이퍼라고 불리는 알고리즘들이 있습니다. 이들의 임무는 단 하나입니다. 큰 손의 거래 의도를 미리 파악하고 선점하는 것입니다.

예를 들어, 펜션펀드가 삼성전자 주식 100만 주를 사려고 한다면 스나이퍼가 이 의도를 감지합니다. 작은 규모의 시험 주문을 통해서 말이죠. 그러면 스나이퍼는 펜션펀드보다 먼저 삼성전자 주식을 대량 매수하고, 가격이 오르면 펜션펀드에게 비싼 가격에 판매합니다.

이는 완전히 합법이지만, 기관투자자들의 거래 비용을 증가시킵니다. 결국 그 비용은 연금 수익률 하락으로 이어져 일반인들에게 전가됩니다.

고스트 주문의 비밀

더 교묘한 전략도 있습니다. 고스트 주문이라고 불리는 기법입니다.(4) 알고리즘이 큰 매수 주문을 1000개의 작은 주문으로 분할한 다음, 각 주문을 0.001초 간격으로 내고 즉시 취소합니다. 다른 알고리즘들이 큰 매수 수요가 있다고 착각하게 만드는 것입니다. 가격이 오르면 실제 매도로 수익을 실현합니다.

이런 전략으로 하루에 수억 원의 수익을 올리는 HFT 회사들이 있습니다.

게임스톱 사태: 레딧 vs 알고리즘

2021년 1월, 월스트리트에서 전례 없는 사건이 벌어졌습니다. 레딧의 개미 투자자들이 헤지펀드의 AI를 상대로 전쟁을 선포한 것입니다.

멜빈 캐피털의 실수

헤지펀드 멜빈 캐피털은 게임스톱 주가가 떨어질 것이라고 확신했습니다. 그들의 AI 알고리즘은 매출 감소 추세, 디지털 게임 시장 확산으로 인한 오프라인 매장 몰락, 코로나19로 인한 실물 매장 타격을 근거로 대량 공매도로 하락에 베팅했습니다.

레딧 군단의 역습

하지만 레딧의 r/WallStreetBets 커뮤니티는 다른 계산을 했습니다. 게임스톱 공매도 비율이 140%로 존재하는 주식보다 더 많이 공매도되어 있어서, 만약 주가가 오르면 숏 스퀴즈가 발생할 가능성이 높았습니다. 집단 매수로 인위적 상승을 유도할 수 있다고 본 것입니다.

AI vs 집단지성의 대결

흥미로운 것은 이 과정에서 벌어진 기술적 대결이었습니다. 헤지펀드 측은 소셜미디어 감정 분석 AI로 레딧 동향을 모니터링하고, 고빈도거래로 가격 변동성을 확대하려 했으며, 알고리즘 매도로 하락 압박을 가했습니다. 반면 레딧 군단은 집단 매수로 물량을 압박하고, 밈을 통한 바이럴 확산으로 대응했으며, 다이아몬드 핸드 문화로 매도를 거부했습니다.

결과는 레딧의 승리였습니다. 게임스톱 주가는 4달러에서 최고 483달러까지 치솟았고, 멜빈 캐피털은 27억 달러 손실을 기록하며 파산 직전까지 갔습니다.(5)

한국 증시의 알고리즘 소동

한국 증시에서도 비슷한 일들이 벌어지고 있습니다.

2020년 3월의 미스터리

2020년 3월 19일, 코스피가 장중 8% 급락한 날이었습니다. 그런데 마감 30분 전 갑자기 알 수 없는 대량 매수가 몰려들었습니다.(6)

나중에 밝혀진 사실은 해외 HFT 알고리즘들의 소행이었습니다. 이들은 한국 시장의 과도한 하락을 감지하고, 반등 확률이 높다고 AI가 판단하자 동시에 대량 매수 주문을 실행했습니다. 그리고 30분 만에 3% 반등한 후 차익을 실현했습니다.

이 과정에서 개인 투자자들은 뒤늦게 반응하며 고점에 매수하는 경우가 많았습니다.

김치 프리미엄의 진실

한국의 암호화폐 시장에서 자주 나타나는 김치 프리미엄도 알고리즘과 관련이 있습니다.(7)

해외 HFT 회사들은 차익거래 알고리즘으로 한국과 해외 거래소 간 가격 차이를 모니터링합니다. 차이가 일정 수준을 넘으면 자동으로 차익거래를 실행하는데, 이 과정에서 일반 투자자들의 FOMO 심리를 이용합니다.

결과적으로 개인 투자자들은 비싼 가격에 사고 싼 가격에 파는 패턴을 반복하게 됩니다.

인간은 이길 수 있을까?

속도 경쟁의 한계

현재 HFT의 반응 속도는 84나노초(0.000000084초)까지 단축되었습니다.(10) 이는 빛이 25mm 이동하는 시간입니다.

더 이상 물리적 한계에 도달한 것 같지만, 업계는 양자컴퓨팅을 다음 돌파구로 보고 있습니다. 양자컴퓨터가 상용화되면 현재의 알고리즘들은 모두 구식이 될 것입니다.

새로운 무기: 감정 AI

최근 HFT 회사들은 새로운 무기를 개발하고 있습니다. 바로 감정 분석 AI입니다. 트위터, 레딧, 뉴스 댓글의 감정 상태를 실시간으로 분석하고, CEO 발언의 미묘한 톤 변화까지 감지하며, 위성 이미지로 공장 가동률과 주차장 차량 수까지 분석합니다.

이제 당신의 트윗 하나가 주가를 움직일 수도 있는 시대입니다.

규제의 딜레마

유럽의 선택

유럽연합은 2018년부터 MiFID II 규정으로 HFT를 엄격히 규제하고 있습니다.(11) HFT 거래에 특별세를 부과하고, 알고리즘 거래 시 사전 신고를 의무화하며, 시장 조성 의무를 부여하고 있습니다.

결과는 양면적입니다. 시장 변동성은 줄었지만, 거래 비용은 증가했습니다.

미국의 고민

미국은 여전히 자유방임 정책을 유지하고 있습니다. SEC는 HFT가 시장 유동성을 제공한다는 입장이지만, 플래시 크래시 같은 사건이 재발할 위험도 큽니다.

한국의 현실

한국은 2023년부터 알고리즘 거래 신고제를 도입했지만, 실효성에 대한 의문이 제기되고 있습니다.(12) 문제는 해외 HFT 회사들의 거래는 규제하기 어렵다는 점입니다. 이들은 한국 시장에서 수익을 챙기고 가지만, 한국 법의 적용을 받지 않습니다.

미래: 기계들만의 시장?

인간 트레이더의 멸종

월스트리트의 유명한 트레이딩 플로어에는 이제 인간 트레이더가 거의 없습니다. 골드만삭스의 주식 거래부서는 2000년에 600명이었지만, 2017년에는 단 2명만 남았습니다.(13) 나머지 일은 모두 200개의 엔지니어가 개발한 알고리즘이 담당하고 있습니다.

완전 자동화의 위험

만약 시장이 100% 알고리즘화되면 어떤 일이 벌어질까요? 첫 번째 시나리오는 초효율 시장입니다. 완벽한 가격 발견과 거래 비용 최소화, 변동성 제거가 이루어질 것입니다. 하지만 두 번째 시나리오는 시스템 리스크입니다. 알고리즘 간 상호작용으로 예측 불가능한 결과가 나타나고, 해킹이나 오류 시 시장 전체가 마비될 수 있으며, 인간의 직관과 판단력을 상실할 위험이 있습니다.

양자컴퓨팅의 충격

IBM, 구글이 개발 중인 양자컴퓨터가 상용화되면 금융시장은 또 한 번 혁신을 맞을 것입니다. 현재 최고 성능의 HFT 알고리즘도 양자컴퓨터 앞에서는 계산기 수준이 될 것입니다. 양자 알고리즘은 동시에 모든 경우의 수를 계산하고, 실시간으로 시장 전체를 최적화하며, 인간이 이해할 수 없는 차원의 전략을 구사할 것입니다.

그때가 되면 정말로 기계들만의 시장이 될지도 모릅니다.다.


📖 다음 편 예고: “신용카드가 당신보다 당신을 더 잘 안다”

구매 패턴으로 이혼을 예측하고, 질병을 진단하는 AI의 비밀

타겟이 한 10대 소녀의 임신을 그 아버지보다 먼저 알아차린 충격적인 사건부터, 신용카드 사기 탐지 AI가 발견한 인간의 숨겨진 패턴들까지. 당신의 지갑 속 카드가 수집하는 정보의 실체를 파헤쳐보겠습니다.

“당신이 모르는 당신의 모습, AI는 이미 알고 있습니다.”


이 시리즈가 도움이 되셨다면 구독과 공유 부탁드립니다. 여러분만의 알고리즘 거래 경험담도 댓글로 들려주세요!


참고문헌:

(1) Sprecher, J. “The Evolution of Trading Speed” NYSE Technologies Report, 2019

(2) Mackenzie, D. “How Algorithms Rule Our Working Lives” Financial Times, 2019

(3) CFTC-SEC “Findings Regarding the Market Events of May 6, 2010” Joint Report, 2010

(4) Lewis, M. “Flash Boys: A Wall Street Revolt” W. W. Norton & Company, 2014

(5) SEC “Staff Report on Equity and Options Market Structure Conditions in Early 2021” 2021

(6) 한국거래소 “2020년 3월 시장급변 분석보고서” 2020

(7) 암호화폐 거래소별 가격 차이 분석은 추가 검증 필요

(8) Qin, K. et al. “Attacking the DeFi Ecosystem with Flash Loans for Fun and Profit” Financial Cryptography 2021

(9) MEV-Explore.com “MEV Extraction Statistics” 2023

(10) Virtu Financial Inc. “Technology and Market Making” Investor Presentation, 2023

(11) European Securities and Markets Authority “MiFID II/MiFIR” 2018

(12) 금융위원회 “알고리즘 거래 신고제 도입 방안” 2023

(13) Popper, N. “The Robots Are Coming for Wall Street” New York Times, 2016

주석: 일부 데이터는 추가 검증이 필요하며, 정확한 1차 자료 확인 후 업데이트 예정입니다.

위로 스크롤