AI 평가용 골든셋을 작게 시작하는 방법
AI 품질을 평가하려고 처음부터 수천 건의 정답 데이터를 모을 필요는 없습니다. 실패가 비용으로 이어지는 대표 질문부터 작은 골든셋으로 고정하는 편이 빠릅니다.
위험을 업무에서 먼저 정의한다
정답을 하나의 문장으로만 적지 말고 ‘반드시 포함할 사실’과 ‘말하면 안 되는 내용’을 함께 기록합니다. 고객 문의라면 환불 조건, 예외, 근거 문서 버전이 중요합니다. 단순한 문장 유사도만으로는 맞지만 위험한 답변을 구별하기 어렵습니다.
권한과 데이터 경계를 나눈다
자주 발생하는 정상 질문, 애매한 질문, 오래된 문서가 섞인 질문, 권한이 없는 질문을 고르게 넣습니다. 한 부서의 쉬운 예만 모으면 전체 서비스 품질을 과대평가합니다. 데이터 선택 이유와 기대 답변의 작성자를 남기면 나중에 기준 변경이 명확해집니다.
작은 범위에서 검증한다
모델이나 프롬프트를 바꿀 때 같은 골든셋을 재실행합니다. 자동 점수는 비교를 빠르게 해 주지만 사람 평가와 어긋나는 예를 따로 검토해야 합니다. 골든셋에 포함된 원문이 학습이나 프롬프트 예시로 새지 않도록 분리합니다.
운영 지표를 함께 본다
정답 여부 외에 근거 정확성, 거절의 적절성, 응답 시간, 비용을 함께 봅니다. 평균 점수보다 실패 유형별 건수가 다음 개선 작업을 정하는 데 유용합니다. 특정 고객군에서만 성능이 낮아지는지 구간을 나눠 보는 것도 필요합니다.
예외와 변경을 관리한다
골든셋은 고정하되 영원히 그대로 두지 않습니다. 운영 중 발견한 새로운 실패를 후보로 쌓고 검토 후 편입합니다. 정답 문서가 바뀌면 이전 평가를 그대로 비교할 수 없으므로 버전과 변경 이유를 함께 보존합니다.
현장에 적용할 때의 순서
- 고비용 실패 질문부터 표본 선정
- 필수 사실·금지 내용·근거 기록
- 변경마다 동일 세트 재평가
주의할 실패: 한 가지 평균 점수로 출시 결정하기
관찰할 지표: 유형별 오류·근거 정확도·비용
적용 전 체크리스트
- 고비용 실패 질문부터 표본 선정
- 필수 사실·금지 내용·근거 기록
- 변경마다 동일 세트 재평가
참고 자료
NIST AI RMF Playbook. AI 위험을 측정하고 관리하는 틀은 NIST AI RMF를 참고했습니다. 골든셋 구성과 운영 순서는 실무 적용 제안입니다.
이미지와 도식은 이해를 돕기 위한 개념 시각화입니다. 특정 고객의 실제 설비·데이터·화면을 재현한 것이 아닙니다.
#AI평가 #골든셋 #LLM품질 #회귀테스트 #RAG평가 #네이처프랙탈 #기업AI #현장적용 #운영설계 #디지털전환
이 주제를 실제 시스템으로 옮기려면 AI 알고리즘 개발 살펴보기
