AI 평가용 정답 세트도 낡는다: 골든셋 갱신 기준

AI 평가에 쓰는 골든셋은 한번 정해 두면 영원한 정답일까요? 업무 양식, 제품군, 고객 질문이 바뀌면 평가 세트도 현실을 덜 대표하게 됩니다. 반대로 자주 바꾸면 성능 비교 기준이 흔들립니다. 고정과 갱신을 나누는 운영 규칙이 필요합니다.

평가 세트의 목적을 구분한다

핵심 안전·정확성 사례는 버전 간 비교를 위해 고정합니다. 최근 실패와 새 업무 유형은 별도 확장 세트로 모읍니다. 두 세트를 섞어 단일 점수만 내면 실제 개선인지 시험 문제 변경인지 구분하기 어렵습니다.

운영 중 사람이 수정한 답변, 고객 불만, 모른다고 답해야 했던 질문을 수집합니다. 개인정보를 제거하고 반복 사례를 묶은 뒤 평가 문제로 만들지 결정합니다. 모델이 틀렸다는 신고를 그대로 정답으로 삼으면 검수 오류까지 학습할 수 있습니다.

문서 버전, 허용 답변 범위, 부분 점수 기준을 기록합니다. 여러 전문가가 다르게 판단하는 문제는 합의 과정을 거칩니다. 특히 생성형 답변은 문자열 일치보다 사실 관계와 금지 행동을 평가해야 합니다.

골든셋을 갱신할 때 새 사례와 제외 사례의 이유를 남기고 이전 버전을 보존합니다. 배포 후보는 동일 버전의 세트에서 비교하고, 새 세트 결과는 별도 보고합니다. 성능 추세를 비교할 때 평가 세트 버전을 같이 표시합니다.

평가 문제가 쉬운 유형에 몰리면 전체 점수가 좋아도 중요한 예외가 실패합니다. 고객군, 언어, 문서 품질, 설비 상태처럼 업무 구간별 분포를 봅니다. 골든셋의 품질 자체를 운영 지표로 관리해야 모델 점수가 의미를 가집니다.

주의할 실패: 평가 문제를 바꾸고도 같은 점수 추세처럼 표시하면 모델 개선을 과대평가한다.

관찰할 지표: 구간별 실패율, 평가 세트 버전, 정답 불일치율을 본다.

NIST AI RMF Core: Measure. NIST는 반복 가능한 AI 평가·검증과 운영 중 성능 변화의 측정을 강조합니다. 세트를 고정·확장으로 나누는 방식은 실무 운영 제안입니다.

이미지와 도식은 이해를 돕기 위한 개념 시각화입니다. 특정 고객의 실제 설비·데이터·화면을 재현한 것이 아닙니다.

#AI평가 #골든셋 #평가데이터 #회귀테스트 #MLOps #LLMOps #데이터품질 #모델검증 #생성형AI #운영AI