마이크로소프트의 AI 접근법
Bob: Microsoft는 AI의 미래를 결정짓는 데 정말 큰 역할을 해왔죠. 잠깐 시간을 내서, AI에 대한 Microsoft의 비전과 미래를 어떻게 보고 있는지, 그리고 Microsoft 같은 대형 테크 기업이 이번 AI 혁신의 흐름 속에서 어떤 역할을 해야 한다고 생각하는지 말씀해주실 수 있을까요?
Kevin: 저희는 AI를 단순한 제품이나 연구 프로젝트로 보지 않습니다. 오히려 AI는 수많은 사람들이 그 위에 다양한 새로운 것들을 만들어낼 수 있는 진정한 플랫폼이라고 생각합니다.
지난 몇 년, 특히 최근 1년 동안 ChatGPT와 GPT-4 같은 기술이 등장하면서, AI 플랫폼의 잠재력이 PC나 스마트폰이 처음 나왔을 때와 비슷한 수준임을 확실히 느낄 수 있었습니다. 여러 기술들이 결합되면서 앞으로 정말 많은 새로운 가능성이 열릴 것이고, 수많은 사람들이 이 위에서 무언가를 만들어낼 겁니다. 사실, 그중 대부분은 지금 우리가 상상조차 못하는 것들일 수도 있습니다.
이처럼 기술을 만든다는 것의 가장 흥미로운 점은, 내가 도구(tool)를 만들고 나면 사람들이 예상치 못한 방식으로 그 도구를 활용한다는 데 있습니다. 저는 늘 도구를 만드는 사람으로 살아왔고, 내가 만든 도구가 다양한 방식으로 쓰이는 모습을 보는 게 정말 흥미롭습니다.
Bob: 사실 Microsoft가 혼자 이 일을 하는 건 아니죠. GitHub, OpenAI, 그리고 최근에는 Meta의 Llama 2까지, 업계의 주요 리더들과 파트너십을 맺어 왔는데요. 이런 파트너들이 Microsoft의 비전에서 어떤 역할을 한다고 생각하는지, 그리고 앞으로 이 생태계가 어떻게 확장될 것으로 기대하는지 좀 더 이야기해주실 수 있을까요? 그리고 아마 수없이 들어보셨겠지만, 이렇게 파트너십과 서비스가 늘어나는 상황에서 필요한 GPU는 도대체 어디서 다 조달하는지도 궁금합니다.
Kevin: GPU에 관한 질문은… 사실 웃을 일은 아니지만, 요즘 들어서 이게 단연 가장 많이 받는 질문이라 웃음이 나올 정도입니다. 솔직히 하루 중에 누군가가 GPU를 요청하지 않는 시간이 거의 없을 정도예요.
플랫폼을 만든다는 것은 파트너들과 함께 구축하고, 또 파트너들이 실제로 활용할 수 있어야 한다는 의미입니다. 그래서 파트너들은 우리에게 정말 중요한 존재입니다. AI 분야에서 가장 중요한 파트너는 단연 OpenAI라고 할 수 있죠. Microsoft와 OpenAI의 파트너십은 벌써 4년째 이어지고 있는데, 처음에는 “우리는 하이퍼스케일 클라우드 기업이니, 함께 AI 슈퍼컴퓨팅 인프라를 구축해서 세계에서 가장 앞선 AI 모델과 시스템을 훈련시키자”라는 제안에서 시작됐습니다. 그리고 그렇게 만들어진 모델과 플랫폼 기반 기술을 Microsoft의 다양한 제품-예를 들면 GitHub Copilot 같은 서비스-에 적용하고, Azure와 Azure OpenAI API 같은 환경에도 배포해서 누구나 그 위에 자신만의 소프트웨어를 만들 수 있도록 하는 작업을 함께 해왔습니다.
다른 파트너들도 정말 중요한 역할을 하고 있습니다. 예를 들어, GitHub은 현재 AI를 적용하기에 가장 흥미로운 플랫폼 중 하나입니다. 우리가 추구하는 ‘코파일럿(Copilot) 패턴’의 첫 번째 사례이기도 하죠. 즉, 누군가가 하고 있는 지식 노동이나 인지적 작업(cognitive work)에 AI를 접목해, 그 업무의 생산성을 획기적으로 높일 수 있는 방법을 보여주고 있습니다. 개발자만 봐도, 세상이 필요로 하는 모든 소프트웨어를 만들기엔 개발자 수가 턱없이 부족한 상황이죠. 게다가 개발자들이 하는 일 중 상당 부분은 반복적이고 지루한 작업입니다. 이런 점에서, 소프트웨어 개발을 더 즐겁게 만들고 개발자의 생산성을 높여주는 도구가 있다는 건 정말 큰 의미가 있습니다.
Meta와 Llama 2에 대해서도 언급하셨는데, Llama 2 역시 이전 Llama처럼 앞으로 많은 사람들이 AI 소프트웨어를 만들 때 핵심 빌딩 블록으로 활용하게 될 거라고 생각합니다. 우리는 AI 소프트웨어가 Azure에서 잘 동작하길 원하기 때문에, 사람들이 쉽게 사용할 수 있도록 모든 노력을 기울이고 있습니다.
다음 산업혁명
Bob: Copilot(코파일럿) 같은 AI 도구가 사람들의 복잡한 인지적 작업을 지원한다는 개념이 정말 흥미로운데요, 이런 AI가 앞으로 우리의 일하는 방식을 어떻게 바꿀 수 있다고 보시나요? 그리고 Copilot 같은 도구를 최대한 잘 활용하려면 어떤 점에 주목해야 할까요?
Kevin: 산업혁명을 떠올려보면, 그 시기에는 처음으로 기계라는 것이 등장해서 인간의 육체노동을 도와주기 시작했습니다. 18세기, 19세기, 그리고 20세기 초반까지 대부분의 노동은 물리적인 일이었죠. 그런데 새로운 기술이 등장하면서 전 세계 사람들이 하던 육체노동이 완전히 바뀌었습니다.
지금 우리가 겪고 있는 변화도 이와 비슷하다고 생각합니다. 이번에는 지식 노동, 즉 인지적 작업이 점점 더 큰 비중을 차지하고 있죠. 저와 당신 모두가 바로 이런 지식 노동자입니다. 하지만 사실 지식 노동자의 생산성을 획기적으로 높여준 기술은 그리 많지 않았어요. PC나 인터넷은 분명 생산성에 큰 가속도를 붙여줬지만, 스마트폰은 오히려 지식 노동의 생산성 측면에서는 큰 변화를 주지 못했다고 봅니다. 그런데 이번 AI 혁신은 지식 노동 분야에서 그 어느 때보다도 큰 변화를 가져올 수 있는 결정적인 계기가 될 것 같습니다.
이처럼 AI, 특히 Copilot과 같은 도구는 반복적이고 비효율적인 작업을 줄이고, 창의적이고 전략적인 일에 더 많은 시간을 쏟을 수 있게 해줍니다. 실제로 AI를 도입한 기업들은 문서 작성, 데이터 분석, 고객 지원 등 다양한 업무에서 생산성이 크게 향상되고 있다는 연구 결과가 나오고 있습니다. 앞으로 AI는 단순한 자동화를 넘어, 지식 노동의 본질 자체를 바꿔놓을 것이고, 우리는 이런 도구들을 적극적으로 활용해 생산성과 업무 만족도를 한층 더 높일 수 있을 것입니다.
참고로, 국내외 전문가들은 AI가 이끄는 이번 산업혁명이 기존의 1~3차 산업혁명과 달리, 인간의 인지적 역량까지 혁신적으로 바꿔놓을 것이라고 예상합니다. AI는 반복적인 작업의 자동화, 효율성 극대화, 예측 유지보수 등 다양한 산업에서 핵심 역할을 하며, 인간과 기계가 협력하는 새로운 일자리와 업무 환경을 만들어낼 것입니다. 동시에 일자리 변화, 개인정보 보호, 사회적 불평등 등 새로운 도전과제도 함께 등장할 수 있으니 이에 대한 준비도 필요합니다.
제가 보기엔 AI가 실제로 활용되는 초기 모습은 크게 두 가지로 나뉠 것 같습니다. 지금도 이미 이런 변화가 조금씩 보이고 있는데요. 첫 번째는, 생산성의 한계 때문에 사회적으로 수요는 많은데 충분히 공급하지 못하는 대표적인 지식 노동 분야입니다. 예를 들어, 더 많은 인력이 필요하지만 생산성 한계 때문에 일 자체를 더 늘릴 수 없는 영역들이 있죠. 이런 분야에서는 AI가 투입되어야만 사회 전체가 원하는 만큼의 결과를 만들어낼 수 있습니다.
두 번째는, 우리가 일상적으로 하는 업무 중 상당 부분이 반복적이고 지루한 일, 즉 ‘허드렛일’이라는 점입니다. 만약 AI가 이런 반복적이고 비효율적인 업무, 혹은 내가 가장 하기 싫어하는 부분을 대신 처리해 준다면, 누구나 그런 도구를 반길 수밖에 없겠죠. 실제로 앞으로는 “사람들이 정말 자동화되길 바라는, 지루하고 귀찮은 일은 어디에 있는가?”라는 문제를 해결해주는 회사들이 빠르게 등장할 것이라고 생각합니다. 이런 변화는 일하는 경험 자체를 더 좋게 만들고, 우리가 더 많은 가치를 창출할 수 있도록 도와줄 것입니다.
흥미로운 점은, 과거에도 이런 대규모 플랫폼 변화가 있을 때마다 진짜 가치 있는 혁신들은 플랫폼이 등장한 첫 1~2년 안에 나온 것들이 아니라는 겁니다. 예를 들어 스마트폰을 생각해보면, 우리가 스마트폰에서 가장 많은 시간을 보내는 곳은 문자(SMS) 앱도 아니고, 웹 브라우저나 이메일 클라이언트도 아닙니다. 오히려 플랫폼이 출시된 이후 몇 년이 지나면서 그 위에 새롭게 만들어진 서비스와 앱들이 진짜 핵심이 됐죠.
결국 정말 중요한 것은 “이제야 가능해진, 이전에는 불가능했던 어려운 문제”가 무엇인지 고민하는 일입니다. 사람들이 집중해야 할 것도 바로 이런 부분이라고 생각합니다. 내가 지금 당장 할 수 있는 쉬운 일들도 분명 쓸모는 있겠지만, 그게 진짜 가치 있는 혁신은 아닐 겁니다. 진짜 의미 있는 도전은, 플랫폼의 변화로 새롭게 가능해진 어려운 문제에 도전하는 데 있다고 봅니다.
개발자 생산성과 몰입 상태
Bob: GitHub Copilot(깃허브 코파일럿)의 코드 어시스턴트가 실제로 굉장히 강력한 사례로 떠오르고 있는데요. Microsoft 내부적으로는 엔지니어들에게 어떤 도구를 제공하고 있고, 이런 도구들이 실제로 Microsoft 엔지니어들의 업무 방식에 어떤 변화를 주고 있는지 말씀해주실 수 있을까요? 그리고 이런 엔지니어링 커뮤니티에서 생산성을 어떻게 추적하고 측정하는지에 대한 생각이나 아이디어도 궁금합니다.
Kevin: 사실 AI 시스템이 개발자 생산성을 측정하는 완전히 새로운 기준을 만들어내고 있는지는 잘 모르겠습니다. 하지만 이 부분이 정말, 정말 중요하다는 건 분명합니다. 만약 소프트웨어 개발 조직을 운영하면서 개발자 생산성에 대한 명확한 지표와 가시성이 없다면, 지금 당장 그 부분부터 챙겨야 합니다. 앞으로 정말 다양한 AI 개발 도구들이 쏟아질 텐데, 이런 측정 체계가 없으면 어떤 도구를 도입해야 할지, 그리고 어떤 순서로 적용해야 할지 결정하기가 매우 어려워질 겁니다.
제가 강조하고 싶은 점은, 개발자 생산성을 코드 몇 줄을 더 썼는지로 판단해서는 안 된다는 것입니다. 진짜 중요한 것은, 개발자가 얼마나 빠르게 사용자에게 새로운 기능이나 제품을 전달하고, 그 결과로 사용자가 실제로 혜택을 받고 있는지까지 측정하는 것입니다. 즉, 이 전체 피드백 루프를 체계적으로 관리하고, 제품 개발 과정 전반에서 어디서 문제가 생기는지 파악할 수 있어야 합니다.
현재 Microsoft 내부에서 AI 도구와 관련해 가장 먼저 하고 있는 일은, 모든 엔지니어가 GitHub Copilot을 적극적으로 활용하도록 하는 것입니다. 이건 정말 큰 생산성 향상을 가져다줍니다. 저희가 개발자들을 관찰해보면, Copilot이 가장 큰 효과를 내는 부분이 바로 개발자가 몰입(flow) 상태를 평소보다 더 오래 유지할 수 있게 해준다는 점입니다. 예전 같으면 코드를 작성하다가 막히는 부분이 생기면, 문서를 찾아보거나 다른 엔지니어에게 물어봐야 해서 흐름이 끊겼는데, 이제는 바로 그 순간에 Copilot이 문제를 해결해줘서 몰입이 깨지지 않습니다. 이런 점은 소프트웨어 개발뿐 아니라, 생성형 AI 도구의 활용 가치를 고민하는 모든 분야에 중요한 시사점을 줍니다.
작년 가을, GPT-4가 공개되기 전쯤에 ‘AI 도구를 활용해서 내가 오랫동안 꿈꿔왔던 SF 소설을 쓸 수 있을까?’라는 도전을 해봤어요. 그런데 AI가 소설 전체를 써주는 데는 한계가 명확하더라고요. 등장인물의 성장이나 잘 짜인 문장, 우리가 기대하는 소설의 완성도를 AI가 챕터 단위로 만들어내기는 어려웠습니다. 하지만 한 가지 정말 좋았던 점은, AI 덕분에 몰입(flow) 상태를 계속 유지할 수 있었다는 거예요. 예를 들어, 하루에 내가 쓸 수 있는 단어 수를 기준으로 생산성을 따져보면, AI 도구를 쓸 때는 평소의 두 배 가까이 쓸 수 있었습니다.
여기서 모두가 주목해야 할 흥미로운 포인트는 바로 ‘몰입 상태(flow state)’라는 개념입니다. 사람들이 언제 가장 생산적이고, 언제 일에서 가장 큰 즐거움을 느끼는지 그 조건을 고민해봐야 한다는 거죠. 몰입 상태에 들어가면 스스로도 확실히 느낄 수 있습니다. 그 순간에는 정말 최고의 성과를 내고 있거든요. 그래서 이런 몰입 상태를 가능한 한 오래 유지할 수 있도록 도구를 활용하는 방법을 고민해야 합니다.
또 한 가지, 저희가 실제로 AI 도구를 많이 활용하는 영역이 바로 AI의 배포 과정입니다. 최근에 진행하는 다양한 테스트나 Responsible AI 관련 업무에도 AI 도구를 적극적으로 활용하고 있어요. 사실 처음 대규모 AI 배포를 시작할 때만 해도, 이런 도구들이 이렇게까지 중요해질 거라고는 예상하지 못했습니다. 그런데 실제로 해보니, AI 도구가 배포와 운영 과정에서도 큰 역할을 하고 있다는 걸 깨달았습니다.
Reprogramming the American Dream
Bob: 리더로서, 이런 기술이 직원들의 역할에 어떤 영향을 줄지에 대한 두려움을 자극하기보다는, 어떻게 하면 이 도구들을 효과적으로 도입해 직원들에게 동기를 부여하고 영감을 줄 수 있을지 말씀해주실 수 있을까요? 그리고 이와 관련해서, 이런 혁신적인 도구에 대한 조직 내 저항은 일상 업무에서 어떻게 극복하고 계신지도 궁금합니다.
Kevin: 이 두 가지는 완전히 다른 질문이라 각각 따로 말씀드릴게요. 사실 저는 이 주제에 대해 책을 쓴 적이 있습니다. 솔직히 말하면, 정말 시기가 좋지 않았어요. ‘Reprogramming the American Dream(아메리칸 드림의 재설계)’라는 책인데, 2020년 3월, 코로나 팬데믹으로 세상이 멈췄던 바로 그 주에 서점에 나왔습니다.
이 책의 핵심 메시지는, AI가 해를 끼칠 가능성보다 훨씬 더 많은 기회를 사람들에게 만들어줄 수 있다는 점입니다. 물론 위험이 전혀 없다는 뜻은 아니고, 그 부분을 무시하거나 AI 제품을 만들 때 뒷전으로 미뤄도 된다는 얘기도 아닙니다. 하지만 우리는 AI가 가져올 긍정적인 시나리오에 더욱 집요하게 집중하고, 그런 긍정적인 가능성을 실제로 실현하기 위해 우리가 더욱 적극적으로 노력해야 한다고 생각합니다.
이 책의 일부는 제 개인적인 경험에서 비롯된 내용이기도 합니다. 저는 버지니아 주 시골 지역에서 자랐는데, 그곳의 경제는 담배 농사, 가구 제조, 섬유 산업에 의존하고 있었습니다. 그런데 제가 고등학교를 졸업할 무렵에는 이 세 산업이 모두 무너져버렸죠.
하지만 이런 지역 사람들도 정말 강력한 도구에 접근할 수만 있다면, 스스로와 가족, 그리고 지역 사회에 새로운 경제적 기회를 만들어내는 놀라운 일들을 해냅니다. 그들은 저나 여러분이 절대 해결할 수 없는 문제들을 풀어내기도 하는데, 그 이유는 우리가 세상의 모든 문제를 다 볼 수 없고, 그들의 시각을 갖고 있지 않기 때문입니다.
이제 AI라는 도구는 그 어느 때보다 훨씬 더 많은 사람들이 쉽게 접근할 수 있게 되었습니다. 지금 당장도 AI 도구를 활용해 흥미로운 일들을 할 수 있고, 컴퓨터공학 박사 학위나 전통적인 AI 전문지식이 없어도 버지니아의 작은 마을에서 창업을 하거나 기업가가 될 수 있습니다. 필요한 건 단지 호기심과 도전정신뿐입니다.
두 번째 질문은, 변화에 저항하는 사람들이 지금 AI로 일어나고 있는 변화에 어떻게 적응하게 할 수 있느냐는 것이었죠.
Microsoft에서 지난 9개월간 경험한 바로는, 그리고 아마 창업 생태계에서도 비슷한 현상을 보고 계실 텐데, 어떤 기술 위에서 많은 사람들이 열정적으로 무언가를 만들기 시작하면, 동료들이 그 변화를 받아들이고 흥미를 느끼며 새로운 것들을 만들어내는 모습을 쉽게 볼 수 있습니다. 그러면 자연스럽게 “나도 이걸 해봐야겠다”는 생각이 들게 되죠. 결국 조직에서 진짜 중요한 건, 이런 변화가 임계점(critical mass)에 도달하도록 만드는 겁니다. 임계점에 이르면 변화가 훨씬 더 쉽게 확산됩니다. 그리고 나면, 처음에 걱정했던 저항과는 반대로, 이제는 “GPU가 부족하다”며 더 많은 리소스를 요구하는 목소리가 쏟아지는 상황이 오게 됩니다.
창업가와 개발자들에게 전하는 조언
Bob: 마지막으로 조금 더 일반적인 질문을 드리고 싶습니다. 지금 AI 분야에서 가장 크고 중요한 미해결 과제는 무엇이라고 생각하시나요?
Kevin: 우리 머릿속에 있는 20와트짜리 기관, 즉 인간의 뇌는 인공 일반 지능(AGI)의 살아 있는 증거입니다. 그런데 이 뇌는 우리가 현재 만들고 있는 디지털 인공 신경망보다 훨씬, 정말 수많은 배 더 효율적이죠. 기술적으로 보면, 이 효율성의 격차를 어떻게 좁힐지에 대해 앞으로도 반드시 발견해야 할 중요한 기술적 돌파구들이 남아 있다고 생각합니다.
이 격차가 해소된다면, 지금처럼 엄청난 비용을 들여 컴퓨팅 인프라를 구축하지 않고도 노트북 한 대로 대규모 AI 작업을 할 수 있게 될 겁니다. 그렇게 되면 앞서 말씀드린 것처럼 제품 개발 주기가 훨씬 빨라지고, 반복 실험의 비용도 크게 줄어들겠죠. 이런 대규모 효율성 혁신이 실제로 이뤄진다면, 우리 같은 기업 입장에서는 인프라 비용을 크게 절감할 수 있을 뿐만 아니라, 전 세계적으로도 AI 혁신의 속도가 지금보다 훨씬 빨라질 거라고 생각합니다.
Kevin: 이 자리에 있는 모든 창업가 분들께 드리고 싶은 말씀은, 정말 어려운 문제를 찾아서 도전해보라는 겁니다. 사소한 것에 집착하지 마세요. 예전에 AppStore에 쏟아졌던 장난스러운 ‘방귀 앱’ 같은 AI 버전을 만들 필요는 없습니다. 단지 어떤 일이 가능해졌다고 해서 그게 꼭 유용한 것은 아니니까요. 진짜 중요한 것은 제품을 만드는 기본에 집중하는 것입니다. AI는 모델일 뿐, 그 자체가 곧 제품은 아닙니다.
창업가로서 가장 중요한 것은 ‘내 사용자가 누구인가?’, ‘그들이 겪는 진짜 문제는 무엇인가?’, ‘내가 그 문제를 어떻게 해결해줄 수 있는가?’를 깊이 고민하는 것입니다. 그리고 나서 AI라는 기술이 정말로 그 문제 해결에 도움이 되는 인프라인지, 실제로 쓸모가 있는지 판단해야 합니다. 이 부분은 시대가 변해도 변하지 않는 본질입니다. AI는 이제 막 등장한 새롭고 흥미로운 인프라일 뿐이고, 이 덕분에 이제껏 풀지 못했던 새로운 문제를 해결하거나, 기존의 문제를 더 나은 방식으로 풀 수 있게 된 것입니다.
Bob: Kevin, 오늘 시간 내주셔서 정말 감사합니다. Microsoft가 그리고 있는 비전과, 이 기술을 실제로 구현하는 과정에서의 도구와 인간적인 부분까지 들려주셔서 매우 뜻깊었습니다. 앞으로도 좋은 이야기 기대하겠습니다.
Kevin: 초대해주셔서 정말 감사합니다.
원문: AI Copilots and the Future of Knowledge Work
blog by ash에서 더 알아보기
구독을 신청하면 최신 게시물을 이메일로 받아볼 수 있습니다.
