업무용 AI에 중단 버튼을 붙이면 사용자는 모든 처리가 멈췄다고 생각합니다. 그러나 화면의 문장 생성이 끝난 순간에도 외부 서버는 주문을 등록하거나 파일을 전송하고 있을 수 있습니다. 기업용 에이전트를 설계할 때는 이 간극을 명확하게 다뤄야 합니다. 중단은 버튼의 모양보다 어떤 작업을 더 이상 시작하지 않고, 이미 시작한 일은 어떻게 확인할 것인지의 문제입니다.
먼저 세 종류의 중단을 구분하자
첫째는 답변 표시의 중단입니다. 브라우저가 응답을 더 이상 읽지 않는다고 서버 작업까지 종료되는 것은 아닙니다. 둘째는 다음 행동의 중단입니다. 에이전트가 추가 검색이나 도구 호출을 시작하지 못하게 하는 것입니다. 셋째는 이미 외부로 전달한 행동의 취소입니다. 이 단계는 상대 시스템이 취소 기능을 제공하는지에 따라 결과가 달라집니다.
따라서 사용자에게는 중단 요청됨, 새 작업 차단됨, 외부 처리 확인 중, 종료 확인됨을 구분해 보여 주는 편이 좋습니다. 화면에서 회전 표시를 없앴다는 이유만으로 취소 완료라고 표시하면 실제 업무 상태와 안내가 어긋납니다.
실행마다 식별자와 중단 상태를 둔다
하나의 업무 실행에는 고유한 실행 ID를 부여하고, 도구 호출에는 별도의 호출 ID를 연결합니다. 중단 요청은 해당 실행에 저장합니다. 작업자가 다음 단계를 시작하기 직전에 이 상태를 검사하도록 하면 이미 큐에 들어간 단계도 시작 전에 차단할 수 있습니다.
다만 상태 확인 직후에 중단이 들어오는 경쟁 상황이 남습니다. 외부 변경을 실행하는 마지막 경계에서 다시 상태를 확인하거나, 실행 세대 번호와 조건부 갱신을 이용해 오래된 실행의 결과 반영을 거절합니다. 내부 결과를 차단했다고 외부에서 발생한 변경까지 사라지는 것은 아니므로 외부 거래 ID는 계속 보존해야 합니다.
늦게 도착한 결과도 버리지 말아야 한다
중단 이후 도착한 응답은 사용자에게 보여 줄 답변과 업무 기록을 나눠 처리합니다. 더 이상 필요 없는 검색 결과는 최종 답변에 섞지 않되, 이미 생성된 주문 번호나 예약 번호는 정합성 확인에 필요합니다. 모든 늦은 응답을 버리면 무엇이 실제로 실행됐는지 알 수 없게 됩니다.
외부 결과를 아직 확인하지 못했다면 실패로 확정하고 같은 명령을 재전송하지 않습니다. 멱등성 키로 조회하거나 외부 상태를 확인해 중복 실행을 피합니다. 통신 타임아웃은 작업 실패의 증거가 아니라 결과를 모른다는 뜻일 수 있습니다.
가상 사례: 구매 보조 에이전트의 중단
구매 담당자가 발주 초안을 만들다가 중단했다고 가정해 봅시다. 견적 검색만 진행됐다면 새 검색을 막고 종료할 수 있습니다. 공급사에 발주 요청이 전달된 뒤라면 처리 확인 중으로 남겨야 합니다. 주문 번호가 돌아오면 취소 가능 여부를 조회하고 업무 규칙에 맞는 후속 절차를 밟습니다.
취소 수수료나 승인 제한이 있는 행동은 자동으로 반대 명령을 보내지 말고 담당자에게 결과와 선택지를 보여 줍니다. 화면에는 무엇이 멈췄고 무엇이 남았는지, 다음 확인은 누가 하는지가 나타나야 합니다. 이 사례는 구현 방향을 설명하기 위한 가상 상황입니다.
반복 횟수와 비용 한도는 별도로 관리한다
사용자가 중단하지 않아도 무한한 탐색은 막아야 합니다. 최대 도구 호출 수, 실행 시간, 비용 한도를 실행 상태에 포함합니다. 남은 예산을 확인한 뒤 다음 단계를 시작하고, 한도에 도달하면 현재까지의 결과와 미완료 항목을 남깁니다. 반복 제한은 취소 처리의 대체물이 아니라 또 하나의 종료 조건입니다.
여러 작업이 병렬로 움직이면 모두가 같은 남은 예산을 보고 동시에 소비할 수 있습니다. 호출별 비용 예약과 실제 비용 정산을 구분하거나 동시 실행 수를 제한해야 합니다. 중단 후에도 이미 수행된 외부 호출의 비용은 남을 수 있다는 사실을 운영 지표에도 반영합니다.
검증은 중단 시점을 바꿔 가며 한다
도구 호출 전, 요청 전송 직후, 외부 성공 직후, 결과 저장 직전에 각각 중단을 넣어 봅니다. 각 상황에서 외부 변경이 몇 번 발생했는지, 최종 화면이 그 사실을 맞게 보여 주는지 확인합니다. 정상 종료만 통과하는 테스트로는 중단 기능을 검증하기 어렵습니다.
운영에서는 중단 요청부터 새 호출이 차단될 때까지의 시간과 미확인 외부 작업 수를 관찰합니다. 미확인 상태를 정리하는 담당자와 재조회 주기도 정합니다. 신뢰할 수 있는 중단 기능은 모든 일을 즉시 되돌리는 기능이 아니라, 남은 일을 정확히 드러내고 더 이상의 실행을 통제하는 기능입니다.
실무 체크리스트
- 화면 응답 중단과 외부 작업 취소를 구분하는가
- 중단 뒤에도 외부 거래 ID와 처리 결과를 확인할 수 있는가
- 반복·시간·비용 한도를 넘으면 종료 이유를 남기는가
참고 자료: Anthropic의 에이전트 구성과 종료 조건 설명. 아래 자료는 에이전트에 반복 한도 같은 종료 조건을 두는 원칙을 설명합니다. 외부 거래 확인과 중단 상태 구성은 이를 업무 시스템에 적용하기 위한 설계 제안입니다.
본문 이미지는 이해를 돕기 위해 생성한 개념 삽화이며 실제 측정 자료나 고객 현장 사진이 아닙니다.
#AI에이전트 #업무자동화 #실행중단 #도구호출 #멱등성 #상태관리 #에이전트운영 #AI비용 #기업AI #워크플로
