00 — BASICS

기초부터: 이 글을 읽는 데 필요한 네 가지 개념

본론은 숫자와 시스템 얘기로 가득하다. 그 전에 네 가지만 잡고 가자. 이 네 개념만 이해하면 뒤의 모든 내용이 자연스럽게 따라온다. 이미 아는 독자는 01 배경 으로 건너뛰면 된다.

0.1 AI에게 일을 시킨다는 것

ChatGPT나 Claude 같은 AI(거대 언어 모델)는 한마디로 아주 똑똑한 신입사원과 비슷하다. 말귀를 잘 알아듣고 글도 코드도 잘 쓰는데, 우리 회사 사정은 하나도 모른다. 어떤 말투를 쓰는지, 어떤 실수를 하면 안 되는지, 결과물을 어디에 어떤 형식으로 내야 하는지 — 전부 알려줘야 한다.

한 번 쓰고 말 거면 그때그때 말로 시키면 된다. 그런데 매일 수십 번씩 일을 시키기 시작하면 같은 잔소리를 매번 반복하게 된다. 그래서 잔소리를 문서로 박아 두기 시작한다. 여기서부터 하네스가 시작된다.

0.2 챗봇과 에이전트 — 누가 다음 단계를 결정하는가

챗봇과 에이전트를 가르는 기준은 한 문장이다. 다음에 뭘 할지 누가 정하는가. 내가 묻고 AI가 답하고 다시 내가 묻는 구조면 챗봇이다. 사람이 매 단계를 결정한다. 반대로 목표 하나를 던지면 AI가 스스로 계획을 세우고, 파일을 읽고, 코드를 고치고, 검사를 돌리고, 안 되면 다른 방법을 시도하는 구조면 에이전트다. AI가 다음 단계를 결정한다.

챗봇은 사람이, 에이전트는 AI가 다음 단계를 결정한다 — 이 글의 모든 문제는 여기서 출발한다

에이전트는 강력하다. 한 번 시키면 몇 시간짜리 일을 혼자 끝낸다. 동시에 위험하다. 사람이 매 단계를 보지 않으니, 이상한 방향으로 달려가도 한참 뒤에야 발견한다. 그래서 에이전트한테는 반드시 고삐가 필요하다.

0.3 하네스 — AI에게 채우는 고삐와 안장

하네스(harness)는 원래 말에 채우는 마구를 뜻한다. 말이 힘이 세다고 그냥 올라타면 떨어진다. 고삐와 안장이 있어야 그 힘을 쓸 수 있다. AI 하네스도 똑같다. 에이전트가 일을 잘하게 만들고 사고를 못 치게 막는 장치 일체 — 규칙, 자동 검사, 스킬, 전문 에이전트, 검증 파이프라인을 묶어 부르는 말이다.

하네스의 다섯 부품 — AI 코어를 둘러싼 규칙·자동 검사·스킬·에이전트·검증 파이프라인

부품별로 회사에 비유하면 이렇다.

• 규칙 (Rules) — 사내 업무 매뉴얼. 보고서는 이 형식으로, 이 단어는 쓰지 말 것, 돈 관련 결정은 반드시 확인받을 것.
• 자동 검사 (Hooks) — 출입구의 금속탐지기. 위험한 행동(검증 안 된 코드 배포 등)을 하려는 순간 자동으로 막는다. 부탁이 아니라 강제다.
• 스킬 (Skills) — 업무별 작업 지시서. 회의록 정리는 이 절차로, 보고서 작성은 이 순서로.
• 에이전트 (Agents) — 직무별 전문가. 버그 수리공, 코드 검토자, 프론트엔드 담당처럼 역할을 쪼개 둔 것.
• 검증 파이프라인 — 품질검사(QA) 라인. 결과물이 나오면 자동으로 여러 단계 검사를 통과해야 합격.

핵심은 이거다. 하네스는 사 오는 물건이 아니라 내 일하는 방식에 맞춰 길러지는 것이다. 같은 AI라도 하네스가 다르면 완전히 다른 직원이 된다.

0.4 자가개선 루프 — 실패가 규칙이 되는 구조

잘 만든 하네스의 정점에는 자가개선 루프(self-improve loop)가 있다. 구조는 단순하다. AI가 일을 하다 실패한다 → 실패를 기록한다 → 그 기록에서 새 규칙을 뽑아낸다 → 다음 작업부터 그 규칙이 적용된다. 같은 실수를 두 번 안 하는 직원이 되는 셈이다.

자가개선 루프 — 실패할수록 똑똑해지는 구조. 개인 하네스 성능의 핵심이자, 뒤에서 보겠지만 조직 확장의 최대 난점

이 루프가 돌기 시작하면 하네스는 쓰면 쓸수록 좋아진다. 문제는 이 루프가 나 한 사람의 실패와 나 한 사람의 기준을 먹고 자란다는 점이다. 이 글 전체가 결국 이 한 문장에 대한 이야기다 — 나한테 길든 말이 회사 마구간에 들어가면 무슨 일이 벌어지는가.