뛰어난 AI 제품은 사용자에게 묻지 않고, 행동을 관찰하며 학습한다
모든 AI 스타트업의 피치 마지막에는 항상 마지막에 이런 약속이 빠지지 않는다. “고객 데이터를 활용해 우리 모델을 미세 조정(fine-tune)하겠습니다.” 하지만 실제로 창업자들에게 그 데이터를 어떻게 확보할 거냐고 물어보면, 대부분 피드백 폼이나 사용자 설문조사 같은 모호한 답변만 내놓는다.
빅테크 기업들은 AI가 대중화되기 훨씬 전부터 암묵적(implicit) 데이터 수집에 능숙했다. Facebook은 사람들이 사진을 올리고, 댓글을 달고, 링크를 클릭하는 등 자연스러운 행동 데이터를 바탕으로 거대한 플랫폼을 일궜다. TikTok은 사용자의 단순한 스크롤 동작조차도 정밀한 참여 신호로 바꿔냈다. 사용자에게 별도의 부담이나 폼 작성 없이, 오로지 상호작용만으로 데이터를 모은 것이다.
AI에게는 이런 암묵적 피드백 루프가 그 어느 때보다 절실하다. 넷플릭스에서 잘못된 추천이 나와도 조용히 넘어갈 수 있지만, AI 어시스턴트가 실수하면 그 즉시 드러나고, 한 번의 환각(hallucination)만으로도 사용자 신뢰가 무너진다. 그래서 모든 상호작용이 단순히 성공 여부를 측정하는 데 그치지 않고, 시스템이 계속해서 학습할 수 있는 계기가 되어야 한다.
Cursor는 이 점을 정말 잘 보여준다. 개발자들은 평소처럼 코딩을 하면서 자연스럽게 Cursor를 학습시킨다. AI가 제안한 코드를 받아들이면 유용한 패턴이 강화되고, 거절하면 비효율적인 방식(안티패턴)이 걸러진다. 각 저장소(repository)마다 새로운 맥락과 작업 방식이 더해지면서, 시스템은 개발자에게 별도의 피드백을 요구하지 않아도 점점 더 똑똑해진다.
대부분의 AI 제품은 여전히 피상적인 지표나 수동적인 피드백에 의존하고 있다. 정작 가치 있는 신호들은 로그 속에 묻힌 채 활용되지 못하고, 제품은 정체되어 버린다. 앞으로는 사용 데이터를 스스로 분석하고, 문제점을 찾아내며, 지속적으로 개선까지 자동으로 이뤄내는 시스템이 필요하다. 이런 자동화된 피드백 루프가 앞으로 AI 제품이 한 단계 더 도약하기 위해 반드시 갖춰야 할 핵심 요소다.
Notion이나 Perplexity 같은 기업들은 이미 이런 변화의 흐름을 보여주고 있다. Notion은 사용자의 미묘한 상호작용을 분석해 AI 기능을 발전시키고, Perplexity는 어떤 답변이 실제로 사용자 문제 해결에 도움이 되었는지 데이터를 분석해 검색 결과를 계속 개선한다. 이처럼 피드백 루프는 단순한 기능이 아니라, 서비스의 근간이 되는 핵심 인프라다.
OpenAI나 Anthropic처럼 기본 모델을 직접 개발하며 경쟁하려면 엄청난 자원이 필요하다. 하지만 아무리 뛰어난 AI라도, 그 자체만으로 만들어낼 수 있는 가치는 한계가 있다. 앞으로는 일상적인 사용자와의 상호작용을 자동으로 학습에 활용하는 기업이 시장을 주도하게 될 것이다. 암묵적 피드백 루프가 없는 제품은, 끊임없는 진화가 요구되는 시대에 결국 정체된 채로 남게 된다.
보이지 않는, 그리고 끊임없이 학습하는 시스템을 구축하는 기업이 다음 AI 시대의 주인공이 될 것이다.
blog by ash에서 더 알아보기
구독을 신청하면 최신 게시물을 이메일로 받아볼 수 있습니다.
