hitl

Core Goal

• 에이전트의 각 작업마다 적절한 자동화 레벨(1~5)을 결정하고, 인간이 개입해야 할 트리거 조건을 명시하여 신뢰성과 안전성을 확보
• 가역성(되돌릴 수 있는가)과 오류 영향도(피해 범위)의 2축 매트릭스를 통해 객관적으로 자동화 경계를 결정
• Approval Gate, Confidence Threshold, Periodic Audit, Escalation Chain, Shadow Mode 등 5가지 HITL 패턴 중 업무 특성에 맞는 것을 선택

---

Trigger Gate

Use This Skill When

• 에이전트가 의사결정, 송금, 고객 대면, 데이터 삭제 등 "중요한 작업"을 할 때
• "충분히 정확할까?"보다는 "100% 자율이어도 될까?"라는 고민이 있을 때
• 에이전트의 오류가 고객 손실, 법적 책임, 평판 손상으로 이어질 수 있을 때
• 초기 배포 또는 새로운 에이전트를 출시할 때 (사용자 신뢰 구축 전)

Route to Other Skills When

• HITL 설계가 완료된 후 에이전트 프롬프트와 인스트럭션을 작성해야 할 때 → deliver/agent-setup — Failure Handling에 HITL 전략 반영
• 에이전트의 신뢰도를 측정하고 Full Autonomous로 전환할지 판단해야 할 때 → operate/metrics-design
• 에이전트 제품을 외부에 출시할 때 신뢰 구축 시퀀스를 설계해야 할 때 → architect/strategy
• 빌드 시점 PreToolUse 차단 (PRD/spec 파일 작성을 게이트 미통과 시 막기) → hooks/gate_guard.py (hplan plugin). 이 skill의 hitl은 agent 런타임 — 시점이 다름.

Boundary Checks

• 설계 vs 운영: HITL은 "어디에 인간이 개입할지를 설계"하는 것이지, 실제로 인간을 배치하거나 모니터링 대시보드를 만드는 것은 아님 — 구현은 팀이 담당
• 모든 작업에 필수: HITL은 선택이 아니라 필수 — 완전 자율 에이전트(Level 5)는 극히 제한적인 경우에만 정당화됨 (낮은 오류 영향도 + 높은 가역성)

---

Human-in-the-Loop Design

에이전트의 가장 위험한 기본값: "전부 자동화하자"

완전 자율 에이전트는 이론적으로 매력적이지만, 현실에서는:

• 할루시네이션이 조용히 실행됨 → 잘못된 결정이 누적
• 에러가 발생해도 아무도 모름 → 피해가 증폭
• 사용자 신뢰 상실 → 에이전트 전체를 불신

Human-in-the-Loop(HITL)은 어디에 인간 판단을 넣을지 의도적으로 설계하는 것입니다.

---

자동화 스펙트럼 (5단계)

모든 에이전트 작업은 이 스펙트럼 위에 놓입니다:

Level 1: Manual          — 에이전트가 정보 제공, 인간이 모든 판단 + 실행
Level 2: Suggest          — 에이전트가 추천, 인간이 승인 후 실행
Level 3: Act-and-Report   — 에이전트가 실행 후 결과 보고, 인간이 검토
Level 4: Act-and-Escalate — 에이전트가 실행, 이상 시에만 인간 개입
Level 5: Full Autonomous  — 에이전트가 판단 + 실행 + 모니터링 전부

⚠️ Level 5는 에이전트 오류의 영향이 극히 낮은 경우에만 적용. 대부분의 에이전트는 Level 2~4가 적합합니다.

---

개입 지점 결정 매트릭스

작업별로 자동화 레벨을 결정하는 2축 매트릭스:

              오류 영향도
              낮음  →  높음
가  높음  │ Level 4  │ Level 2   │
역         │ (자동+  │ (인간     │
성         │  이상    │  승인     │
           │  감지)   │  필수)    │
   낮음  │ Level 5  │ Level 3   │
           │ (완전    │ (실행후   │
           │  자동)   │  보고)    │