인사이트 · AI 개발 기록 | NatureFractal 네이처프랙탈

몇 분에서 며칠까지 이어지는 AI 업무는 모델 호출보다 재시작·중복 방지·취소·보상이 더 어렵습니다. 체크포인트와 실행 이력, 멱등성, Saga 패턴으로 실패해도 안전하게 이어지는 에이전트 시스템을 설계하는 방법을 설명합니다.

구조화 출력은 JSON 형태를 안정시켜도 값의 업무적 정확성과 실행 권한까지 보장하지 않습니다. 스키마·의미·권한·최신 상태를 단계별로 검증하고 안전하게 재시도하는 실전 설계를 설명합니다.

에이전트 메모리는 대화 기록을 오래 저장하는 기능이 아닙니다. 현재 문맥, 세션 기록, 업무 체크포인트, 장기 기억과 기업 원본 데이터를 분리하고 안전하게 생성·검색·수정·삭제하는 구조를 설명합니다.

AI 에이전트가 회사 시스템을 사용하려면 고유한 신원과 작업 단위의 제한 권한이 필요합니다. 사람 계정 공유의 위험부터 위임·단기 토큰·승인·감사·폐기까지 기업용 권한 구조를 설명합니다.

AI 에이전트의 실패는 로그 한 줄로 설명되지 않습니다. 모델·검색·도구·승인·업무 결과를 하나의 추적으로 연결하고, 운영 실패를 평가 데이터셋과 회귀 테스트로 전환하는 실전 관측성 구조를 살펴봅니다.

컴퓨터 사용 AI는 API가 없는 ERP·웹·데스크톱 화면을 사람처럼 조작할 수 있습니다. RPA와의 차이, 적용 기준, 격리 환경, 승인·검증·복구 구조를 실무 관점에서 설명합니다.

벡터 데이터베이스를 붙였다고 기업 RAG가 완성되지는 않습니다. 문서 구조, 키워드·벡터 혼합 검색, 재순위화, 문서별 권한, 최신 버전과 답변 거절까지 연결하는 실전 설계를 설명합니다.

새 모델을 빠르게 도입하는 회사보다 자사 업무에서 무엇이 좋은 답인지 측정할 수 있는 회사가 오래 앞서갑니다. 실패 사례를 평가 데이터로 바꾸고 배포 기준까지 연결하는 Eval-Driven Development를 설명합니다.

AI 비용을 줄이는 핵심은 가장 싼 모델을 고르는 일이 아닙니다. 업무 성과 단위로 비용을 측정하고, 컨텍스트·캐시·모델 라우팅·비동기 처리·예산 통제를 함께 설계하는 방법을 설명합니다.

현장에서 배운 것들