우리는 이미 사건의 지평선을 넘어섰고, 본격적인 도약이 시작되었습니다. 인류는 디지털 초지능(digital superintelligence)을 구축하는 데 거의 다다랐으며, 지금까지의 과정은 우리가 상상했던 것만큼 낯설거나 기이하지는 않습니다.
아직 로봇이 거리를 활보하지도 않고, 대부분의 사람들이 하루 종일 AI와 대화하며 지내는 것도 아닙니다. 여전히 사람들은 질병으로 목숨을 잃고, 우주로 쉽게 나아갈 수도 없으며, 우주에 대해 우리가 모르는 것도 여전히 많습니다.
그럼에도 불구하고, 우리는 최근 여러 방면에서 인간보다 더 똑똑하고, 인간의 생산성을 크게 높여주는 시스템을 만들어냈습니다. 가장 어려웠던 구간은 이미 지나왔습니다. GPT-4나 o3 같은 시스템을 탄생시킨 과학적 통찰은 힘들게 얻어낸 성과였지만, 앞으로 우리를 훨씬 더 먼 곳까지 이끌어줄 것입니다.
AI는 다양한 방식으로 세상에 기여하겠지만, 과학 발전 속도를 높이고 생산성을 끌어올려 삶의 질을 향상시키는 효과는 정말 엄청날 것입니다. 미래는 지금보다 훨씬 더 나아질 수 있습니다. 과학적 진보는 전반적인 발전의 가장 큰 원동력이며, 우리가 앞으로 얼마나 더 많은 것을 이룰 수 있을지 상상하는 것만으로도 매우 흥분되는 일입니다.
사실 ChatGPT는 이미 인류 역사상 그 어떤 인간보다도 더 강력한 존재가 되었습니다. 매일 수억 명의 사람들이 ChatGPT를 점점 더 중요한 일에 활용하고 있습니다. 아주 작은 새로운 기능 하나가 엄청난 긍정적 효과를 낼 수 있지만, 작은 오류 하나도 수억 명에게 곱해지면 큰 부정적 영향을 초래할 수 있습니다.
2025년에는 실제로 인지적 작업을 수행할 수 있는 에이전트들이 등장했고, 이제 코드 작성 방식은 예전과 완전히 달라졌습니다. 2026년에는 새로운 통찰을 스스로 발견하는 시스템이 나올 것으로 보이고, 2027년에는 실제 현실에서 다양한 작업을 해내는 로봇의 등장이 예상됩니다.
앞으로 훨씬 더 많은 사람들이 소프트웨어와 예술을 만들어낼 수 있게 될 것입니다. 하지만 세상은 여전히 더 많은 소프트웨어와 예술을 원하고 있고, 전문가들이 새로운 도구를 적극적으로 받아들인다면 여전히 초보자들보다 훨씬 뛰어난 결과를 낼 가능성이 높습니다. 전반적으로 2030년에는 한 사람이 2020년에 비해 훨씬 더 많은 일을 해낼 수 있게 된다는 점이 매우 인상적인 변화가 될 것이고, 많은 사람들이 이 변화의 이점을 누릴 방법을 찾아낼 것입니다.
정작 삶의 본질적인 부분에서는 2030년대가 지금과 크게 다르지 않을 수도 있습니다. 사람들은 여전히 가족을 사랑하고, 창의력을 발휘하며, 게임을 즐기고, 호수에서 수영을 할 것입니다.
하지만 또 다른 중요한 부분에서는, 2030년대는 이전 어느 시대와도 완전히 다른 세상이 될 가능성이 높습니다. 인간 수준의 지능을 얼마나 뛰어넘을 수 있을지는 아직 아무도 모르지만, 이제 곧 그 답을 알게 될 것입니다.
2030년대가 되면, 지능과 에너지—즉, 아이디어와 그 아이디어를 실제로 실현할 수 있는 능력—가 상상할 수 없을 만큼 풍부해질 것입니다. 이 두 가지는 오랫동안 인류 발전의 근본적인 한계였지만, 만약 지능과 에너지가 넘쳐나고(그리고 제대로 된 거버넌스가 뒷받침된다면) 이론적으로는 그 외의 모든 것도 손에 넣을 수 있습니다.
이미 우리는 놀라운 수준의 디지털 지능과 함께 살아가고 있습니다. 처음엔 충격을 받았지만, 이제 대부분의 사람들은 꽤 익숙해졌죠. 우리는 AI가 멋지게 문장을 써내는 걸 보고 감탄하다가도, 곧 소설 한 편을 언제쯤 써줄 수 있을지 궁금해합니다. AI가 생명을 살리는 의료 진단을 내리는 걸 보고 놀라다가도, 이제는 치료법까지 개발해줄 날을 기다립니다. 작은 프로그램을 만들어내는 걸 보고 감탄하다가도, 이제는 아예 새로운 회사를 만들어줄 수 있을지 기대하게 됩니다. 특이점이란 이런 식으로 다가옵니다. 처음엔 경이로웠던 것들이 곧 일상이 되고, 어느새 당연한 기준이 되어버리는 것이죠.
이미 많은 과학자들이 AI 덕분에 예전보다 생산성이 두세 배는 높아졌다고 말합니다. 고도화된 AI가 흥미로운 이유는 많지만, 그 중에서도 우리가 AI를 활용해 더 빠른 속도로 AI 자체를 연구할 수 있다는 점만큼 중요한 것은 없습니다. 우리는 새로운 컴퓨팅 기반 기술이나 더 나은 알고리즘, 그리고 그 외에 무엇이든 발견할 수 있을지 모릅니다. 만약 10년치 연구를 1년, 혹은 한 달 만에 해낼 수 있다면, 진보의 속도는 지금과는 완전히 달라질 것입니다.
이제부터는 우리가 이미 만들어낸 도구들이 앞으로 더 많은 과학적 통찰을 발견하게 해주고, 더 뛰어난 AI 시스템을 만드는 데 도움을 줄 것입니다. 물론 이것이 AI가 스스로 완전히 자율적으로 코드를 고치는 것과는 다르지만, 어쨌든 이 과정은 자기 자신을 점점 더 개선해나가는 ‘재귀적 자기개선(recursive self-improvement)’의 초기 단계라고 볼 수 있습니다.
여기에는 다른 자기 강화의 메커니즘도 작동하고 있습니다. AI가 만들어내는 경제적 가치 덕분에, 점점 더 강력해지는 AI 시스템을 운영하기 위한 인프라가 눈에 띄게 빠른 속도로 확장되고 있습니다. 그리고 로봇이 또 다른 로봇을 만들고(어떤 의미에서는 데이터센터가 또 다른 데이터센터를 짓는) 시대도 머지않았습니다.
처음 100만 대의 휴머노이드 로봇은 기존 방식대로 만들어야 할지라도, 그 다음부터는 이 로봇들이 광물 채굴과 정제, 트럭 운전, 공장 운영 등 공급망 전체를 스스로 관리하면서 더 많은 로봇을 만들고, 이 로봇들이 또 반도체 공장이나 데이터센터까지 지을 수 있게 된다면, 변화의 속도는 지금과는 비교할 수 없을 만큼 빨라질 것입니다.
데이터센터 생산이 자동화되면, 지능의 비용은 결국 전기 요금 수준에 가까워질 것입니다. 사람들이 종종 ChatGPT를 한 번 쓸 때 에너지가 얼마나 드는지 궁금해하는데, 평균적으로 한 번의 질의에 약 0.34와트시가 소모됩니다. 이는 오븐이 1초 조금 넘게 사용하는 전력량과 비슷하고, 고효율 전구가 몇 분 동안 쓰는 전력과도 맞먹습니다. 또 한 번의 질의에 약 0.000085갤런, 즉 대략 1/15 티스푼 정도의 물도 사용됩니다.
기술 발전의 속도는 앞으로도 계속 빨라질 것이고, 사람들은 거의 모든 변화에 적응해낼 것입니다. 물론 일자리 전체가 사라지는 등 매우 어려운 문제도 생기겠지만, 반대로 세상은 그만큼 빠르게 풍요로워져서 예전에는 상상도 못했던 새로운 정책 아이디어들을 진지하게 논의할 수 있게 될 것입니다. 새로운 사회적 계약이 한 번에 바뀌지는 않겠지만, 몇십 년 뒤 돌아보면 이런 점진적인 변화들이 모여 엄청난 변화를 만들어냈음을 알게 될 것입니다.
역사가 우리에게 가르쳐주듯, 우리는 곧 새로운 일거리와 새로운 욕구를 찾아내고, 새로운 도구도 빠르게 받아들일 것입니다(산업혁명 이후 직업 변화가 좋은 예시입니다). 기대치가 높아지겠지만, 우리의 역량도 그만큼 빠르게 성장할 것이고, 모두가 더 나은 것을 누릴 수 있게 될 것입니다. 우리는 서로를 위해 점점 더 놀라운 것들을 만들어낼 것입니다. 그리고 인간에게는 AI와 비교할 때 아주 중요한 장점이 있습니다. 우리는 본능적으로 다른 사람과 그들의 생각, 행동에 관심을 갖도록 진화해왔지만, 기계에 대해서는 별로 신경 쓰지 않습니다.
천 년 전 자급자족 농부가 오늘날 우리의 삶을 본다면, 대부분의 직업이 가짜 일처럼 보이고, 우리는 먹고사는 걱정 없이 그저 스스로를 즐겁게 하려고 게임이나 하며 지내는 것이라 여길 것입니다. 나도 우리가 천 년 뒤의 직업을 본다면 역시 ‘가짜 일’이라고 생각하게 될 거라 믿지만, 그 시대를 살아가는 사람들에게는 지금 우리의 일처럼 충분히 중요하고 만족스러운 일일 것이라고 확신합니다.
앞으로 우리가 경험하게 될 새로운 경이로움의 속도는 상상을 초월할 것입니다. 2035년쯤이면 우리가 무엇을 발견해낼지 지금으로선 짐작조차 어렵죠. 어쩌면 어느 해에는 고에너지 물리학의 난제를 풀고, 그 다음 해에는 우주 식민지화에 착수할 수도 있고, 또 다른 해에는 소재 과학에서 대혁신이 일어나고, 바로 그 다음 해에는 진정한 고대역폭 뇌-컴퓨터 인터페이스가 등장할 수도 있습니다. 많은 사람들은 지금처럼 평범하게 살아가길 선택하겠지만, 적어도 일부는 아예 ‘플러그인’된 삶을 택할지도 모릅니다.
미래를 상상하면 도저히 실감이 나지 않을 수도 있지만, 실제로 그 시대를 살아가게 되면 놀랍긴 해도 충분히 받아들일 수 있을 것입니다. 상대성적 관점에서 보면, 특이점은 조금씩, 단계적으로 찾아오고, 인간과 기계의 융합도 서서히 진행됩니다. 우리는 기하급수적인 기술 발전의 긴 곡선을 오르고 있습니다. 미래를 내다보면 그 곡선이 수직으로 솟아오르는 것처럼 보이지만, 뒤를 돌아보면 평평하게 느껴집니다. (2020년으로 돌아가서 2025년쯤 AGI가 등장할 거라고 했다면 얼마나 비현실적으로 들렸을지, 그리고 실제 지난 5년이 얼마나 평온하게 흘러갔는지 생각해보세요.)
엄청난 기회와 함께 반드시 마주해야 할 심각한 도전도 있습니다. 기술적·사회적으로 안전 문제를 해결하는 것은 물론이고, 경제적 파급력을 생각할 때 초지능(superintelligence)에 대한 접근성을 널리 보장하는 것도 매우 중요합니다. 앞으로 나아갈 최선의 방법은 대략 다음과 같을 것입니다.
- AI가 인간 사회의 진짜 목표와 가치를 제대로 이해하고, 그 방향으로 행동하도록 만드는 문제(alignment problem, 정렬 문제)를 해결해야 합니다. 즉, AI가 단기적인 이익이나 순간적인 자극에만 반응하는 것이 아니라, 우리가 집단적으로 장기적으로 진정으로 원하는 바를 꾸준히 배우고 실천하도록 확실하게 만드는 것입니다. (예를 들어, 소셜미디어 피드 알고리즘은 사용자가 계속 스크롤하도록 유도하는 데는 뛰어나지만, 오히려 사용자의 장기적인 행복이나 진짜 원하는 것과는 어긋난 결과를 낳기도 합니다. 이런 현상이 바로 정렬 문제가 잘 해결되지 않은 대표적인 사례입니다.)
- 그 다음에는 초지능을 저렴하고, 널리 이용 가능하게 만들며, 특정 개인이나 기업, 국가에 과도하게 집중되지 않도록 하는 데 집중해야 합니다. 사회는 회복력과 창의성이 뛰어나고, 변화에 빠르게 적응합니다. 만약 우리가 집단의 의지와 지혜를 잘 모을 수 있다면, 실수도 많고 예상치 못한 문제도 생기겠지만, 빠르게 배우고 적응해 이 기술의 이점을 극대화하고 부작용은 최소화할 수 있을 것입니다. 사회가 정해야 할 넓은 범위 내에서 사용자에게 많은 자유를 주는 것도 매우 중요합니다. 이런 기준과 집단적 정렬이 무엇인지에 대해 전 세계가 하루빨리 논의를 시작하는 것이 바람직합니다.
우리(오픈AI뿐 아니라 전체 AI 업계)는 세계를 위한 두뇌를 만들고 있습니다. 이는 극도로 개인화되어 누구나 쉽게 사용할 수 있을 것이며, 앞으로는 좋은 아이디어만이 한계가 될 것입니다. 오랫동안 스타트업 업계의 기술자들은 “아이디어 맨(idea guys)”—아이디어만 있고 실행 팀을 찾는 사람들—을 조롱해 왔지만, 이제 그들이 해가 뜨는 순간을 맞이할 것 같습니다.
오픈AI는 여러 역할을 하고 있지만, 무엇보다 먼저 초지능 연구 기업(superintelligence research company)입니다. 아직 해야 할 일이 많지만, 앞길 대부분이 이제 밝혀졌으며, 어둠은 빠르게 사라지고 있습니다. 우리가 이 일을 할 수 있다는 사실에 깊은 감사를 느낍니다.
측정할 가치조차 없는 저렴한 지능이 손에 잡힐 듯합니다. 지금 이 말이 미친 소리처럼 들릴 수 있지만, 2020년에 지금의 상황을 예측했다면, 2030년에 대한 현재 우리의 전망보다 훨씬 더 믿기 어려웠을 것입니다.
초지능을 통해 원활하고 기하급수적이며 평탄하게 성장하기를 바랍니다.
blog by ash에서 더 알아보기
구독을 신청하면 최신 게시물을 이메일로 받아볼 수 있습니다.
