Human-in-the-loop
정의
고위험 작업에서 사람이 승인·검토 단계에 개입해 AI 실행을 통제하는 운영 원칙
#Human-in-the-loop#사람 승인#HITL
Human-in-the-loop란?
Human-in-the-loop(HITL)는 AI가 작업을 자동 수행하더라도, 특정 단계에서는 사람이 검토·승인해 최종 실행을 통제하는 방식입니다.
특히 삭제, 결제, 외부 발신처럼 되돌리기 어려운 액션에서 자주 적용됩니다.
어떻게 작동하나요?
보통 "AI 제안 -> 사람 확인 -> 실행" 흐름으로 설계합니다.
- AI가 초안 또는 실행 계획을 생성
- 사람이 정책 적합성과 리스크를 확인
- 승인 또는 반려 후 다음 단계 진행
왜 중요한가요?
AI 자동화의 속도를 유지하면서도, 고비용 사고를 줄이는 가장 현실적인 통제 장치입니다.
운영 관점에서는 책임 경계를 명확히 하고 감사 가능성을 높여, 장기 신뢰를 확보하는 데 도움이 됩니다.
AI 검색에 내 사이트는 노출되고 있을까?
ChatGPT·Perplexity·Gemini가 내 브랜드를 어떻게 답하는지 무료로 확인해 보세요.
지금 진단 시작 →관련 용어
AI + 법률/정책/윤리
AI 칩 수출 규제 (AI Chip Export Controls)
국가 안보를 이유로 고성능 AI 반도체의 해외 판매·이전을 제한하는 무역 규제 체계
AI + 법률/정책/윤리
AI 콘텐츠 표기 (AI Content Disclosure)
AI 로 생성·보조한 콘텐츠임을 사용자에게 밝히는 표기·공개 관행. 소비자 요구는 높지만 실제 공개율은 낮아 신뢰 격차의 한 축이 된다.
AI + 법률/정책/윤리
Constitutional AI (헌법 기반 정렬)
명시된 원칙 집합을 기준으로 AI가 자기 비판과 수정을 반복해 정렬하는 접근