06 — THE CORE BOTTLENECK

user-proxy의 확장 불가능성 — 가장 핵심적인 병목

다섯 장벽 중에서도 가장 깊은 병목은 따로 있다. user-proxy다. 이름 그대로 사용자의 대리인 — 내 판단 패턴을 학습해서 나 대신 결정을 내려 주는 에이전트다. 이게 왜 강력하냐면, AI가 일하다 멈추는 가장 큰 이유가 이거 계속할까요?라는 질문이기 때문이다. 대리인이 내 기준을 알고 있으면 그 질문이 사라진다.

개인 user-proxy는 한 사람의 판단 패턴을 학습한다. 온톨로지(판단 기준의 분류 체계)를 기반으로 알아서 판단하고, 계속할지 중간에 묻지 않고, 끝날 때까지 멈추지 않는다. 사람에게 넘기는 건 다섯 경우뿐이다. 기술 스택 변경, 비용, 데이터 삭제, 고객 요구사항, 명시적 중단.

기업 user-proxy는 N명의 판단 패턴을 배워야 한다. 품질 합격은 누구 기준으로 판정하나. 팀장? CTO? 다수결? 판단 기준을 팀마다 따로 두나? 급한 결정은 누구에게 올리나? 어느 것 하나 기술로 풀리는 질문이 아니다. 조직 정치다.

개인은 세 역할이 전부 한 사람이다. 회사에서는 거의 항상 세 사람이다 — 결재 올린 사람, 결과물 받는 부서, 품질 기준 정한 위원회가 다른 회사를 떠올리면 된다

멈추지 않고 일하는 AI가 성립하는 전제 — 시작을 승인한 사람, 결과를 받는 사람, 품질 기준을 정한 사람이 같은 사람일 것.

기업에서 이 셋은 거의 항상 다른 사람이다. 그래서 개인에게는 마법이던 기능이 조직에서는 성립 조건부터 무너진다.