AI 자본 지출의 게임 이론
“AI가 세상을 바꿀 것인가?”와 “현재 AI 인프라에 투입되는 자본 지출이 과도한가?”는 서로 다른 질문이다
“만약 AI가 인터넷만큼 혁신적일 것이 확실하고, 전 세계에서 유일한 AI 회사를 운영한다고 상상해보자. 얼마나 빠르게 자본 지출(CapEx)을 늘릴 것인가?
답은 ‘천천히 진행할 것’이다. ‘AI CapEx’는 토지, 전력, 철강, 산업 역량을 동원해 물리적 데이터센터를 구축하는 것을 의미한다. AI 시장에 유일한 기업이라면, AI 수익을 먼저 확인할 때까지 기다릴 것이다. 액체 냉각 시스템 성능을 관찰하고 데이터센터 설계를 조정할 것이다. 적절한 위치에 전력 생산 시설을 먼저 구축한 뒤 광케이블 근처에 데이터센터를 지을 것이다. 다년간의 CapEx를 즉시 확정하지는 않을 것이다. 모델과 아키텍처가 변하면 데이터센터도 진화해야 하기 때문이다.
오늘날 많은 시장 참여자들은 인프라 구축이 AI의 엄청난 잠재력에 의해 정당화된다고 믿는 ‘AI 낙관론자(AI bull)’와, 과도한 인프라 구축이 미래에 대한 기대치를 지나치게 높인다고 생각하는 ‘AI 비관론자(AI bear)’ 중에서 선택해야 한다고 말한다. 하지만 위에서 살펴본 사고 실험은 이런 이분법이 잘못된 것임을 보여준다. CapEx 논쟁의 본질은 규모가 아니라 속도에 관한 것이다.
실제로 AI를 더 신뢰할수록, AI 모델의 발전 속도가 물리적 인프라의 진화를 앞질러 기존 인프라가 금세 구식이 될 수 있다는 점을 더 걱정하게 된다. 예를 들어, 모두가 100k GPU 클러스터(100,000개 GPU로 구성된 초대형 클러스터)를 갖게 되는 시점이 오면, 빅테크 기업들은 기존에 보유한 50k나 25k GPU 클러스터를 어떻게 활용할지 고민해야 한다. 업계 전문가들 중에는 “최첨단(Frontier) 모델은 동일한 데이터센터에서 두 번 훈련되지 않는다”고 말하는 이들도 있다. 모델 훈련이 끝날 때쯤이면 이미 GPU는 구식이 되어 있고, 프론티어 클러스터의 규모도 더 커져 있기 때문이다. 또한, 특정 부지에서 필요한 전력량이나 GPU 랙을 얼마나 밀집해서 배치할지와 같은 결정 역시 GPU의 전력 효율성에 따라 달라지는데, 이 역시 계속 변하는 목표다.
오늘날 인프라 구축 속도를 이해하려면, AI에 대한 낙관론이 분명히 AI CapEx(자본 지출)를 이끄는 중요한 요인 중 하나이긴 하지만, 그것만이 전부는 아니라는 점을 알아야 한다. 클라우드 사업자들은 극도로 치열한 과점 시장에서 경쟁하고 있다. 이 시장은 결코 작은 규모가 아니다. 현재 클라우드 비즈니스는 약 2,500억 달러(약 340조 원) 규모로, 전체 SaaS 시장과 맞먹는 수준이다. 클라우드 빅테크들은 AI를 위협이자 기회로 여기고 있으며, 기술이 어떻게 진화할지 지켜볼 여유가 없다. 지금 바로 움직여야 한다.
이렇게 마이크로소프트, 아마존, 구글 간의 인프라 경쟁은 게임 이론적 양상을 띤다. 마이크로소프트가 투자를 확대하면, 아마존도 뒤처지지 않기 위해 투자를 늘리고, 그 반대도 마찬가지다. 우리는 지금 세계 역사상 가장 거대한 세 기업, 즉 총 시가총액 7조 달러가 넘는 회사들 간의 경쟁적 투자 확대 주기 속에 있다. 매번 경쟁이 격화될 때마다 “우리는 이 정도 투자를 감당할 자금이 충분하다”는 명분이 생기고, 더 큰 투자와 자신감이 자기강화 루프를 만든다. 공급 제약은 이 경쟁에 더욱 불을 붙인다. 지금 토지, 전력, 인력 등을 확보하지 않으면, 남이 먼저 차지해버릴 수 있기 때문이다.
규모가 작은 기업들에게는 이런 긴박감이 훨씬 더 크다. 만약 마이크로소프트(Microsoft)와 아마존(Amazon)이 모든 땅과 전력을 선점하고, 디젤 발전기와 액체 냉각 시스템까지 모두 사들인다면, 당신은 도대체 어떤 방식으로 경쟁할 수 있을까? 아마존, 구글, 마이크로소프트보다 한 단계 아래에 있는 기업들은 실제로 절박함을 느낀다. 지금 움직이지 않으면 다시는 기회가 오지 않을 것 같다는 위기감이다.
이런 분위기는 클라우드 사업자들이 공격적으로 움직이는 또 다른 동기를 설명해준다. 바로 ‘방어’다. 이제는 막대한 손실을 감당할 수 있는 재무 구조를 가진 기업만이 AI 인프라 경쟁에 참여할 수 있는 상황이 됐다. 이런 관점에서 보면, 인프라를 과하게 구축하는 것도 충분히 합리적인 전략이 될 수 있다.
낙관론이든 경쟁 때문이든, 오늘날 빠르게 진행되고 있는 새로운 AI 데이터센터 건설은 앞으로 스타트업들에게 큰 긍정적 효과를 가져올 것이다. 현재 AI 분야에서 발생하는 많은 리스크를 인프라 제공업체들이 부담하고 있기 때문에, 이 위에 서비스를 개발하는 스타트업 입장에서는 사실상 일종의 보조금을 받는 셈이다. 마이크로소프트, 아마존, 구글 간의 경쟁은 앞으로 API 가격을 낮추는 효과를 가져올 것으로 기대된다. 이런 대규모 자본 지출 투자는 AI 생태계에도 도움이 된다. 이 투자를 통해 우리는 AI의 스케일링 법칙을 실험하고, AI의 미래 가능성에 대해 더 많이 배울 수 있게 된다.
과거 정부가 했던 것처럼, 빅테크 기업들은 혁신을 촉진하기 위해 대규모 선제적 인프라 투자를 하고 있다. 이러한 투자가 감가상각 전에 수익을 낼 수 있을지와는 별개로, AI가 장기적으로 세상에 미칠 임팩트에 있어 반드시 거쳐야 하는 중요한 과정이다.
원문: The Game Theory of AI CapEx | David Cahn, Sequoia Capital
blog by ash에서 더 알아보기
구독을 신청하면 최신 게시물을 이메일로 받아볼 수 있습니다.
