Human-in-the-loop
고위험 작업에서 사람이 승인·검토 단계에 개입해 AI 실행을 통제하는 운영 원칙
#Human-in-the-loop#사람 승인#HITL
Human-in-the-loop란?
Human-in-the-loop(HITL)는 AI가 작업을 자동 수행하더라도, 특정 단계에서는 사람이 검토·승인해 최종 실행을 통제하는 방식입니다.
특히 삭제, 결제, 외부 발신처럼 되돌리기 어려운 액션에서 자주 적용됩니다.
어떻게 작동하나요?
보통 "AI 제안 -> 사람 확인 -> 실행" 흐름으로 설계합니다.
- AI가 초안 또는 실행 계획을 생성
- 사람이 정책 적합성과 리스크를 확인
- 승인 또는 반려 후 다음 단계 진행
왜 중요한가요?
AI 자동화의 속도를 유지하면서도, 고비용 사고를 줄이는 가장 현실적인 통제 장치입니다.
운영 관점에서는 책임 경계를 명확히 하고 감사 가능성을 높여, 장기 신뢰를 확보하는 데 도움이 됩니다.