AI 응답을 업무 시스템에 넣을 때 출력 계약부터 정하기

AI의 답변이 그럴듯해도 업무 시스템에는 형식이 맞지 않으면 위험합니다. 고객명, 금액, 날짜를 후속 프로그램이 읽는 순간부터 출력 형식은 문장이 아니라 계약이 됩니다.

출력 형식이 계약이 되는 순간

사람이 읽는 요약과 프로그램이 실행하는 데이터를 분리합니다. 예를 들어 견적서에서 납기일을 추출한다면 원문 인용, 추출 값, 불확실 사유를 서로 다른 필드로 둡니다. 필드가 비어 있을 때 기본값을 임의로 채우지 말고 미확인 상태로 남겨야 합니다.

필드와 검증 경계를 설계한다

JSON Schema의 필수 필드와 자료형은 첫 번째 방어선입니다. 금액은 숫자, 통화는 허용 코드, 날짜는 합의한 형식으로 검사합니다. 고객별 양식 차이는 별도 버전으로 관리하고, 구조가 맞아도 원문과 값이 일치하는지는 별도로 확인합니다.

실패 입력으로 테스트한다

실제 문서에서 표가 쪼개지거나 여러 금액이 함께 나온 사례를 테스트에 넣습니다. 정상 입력만 통과시키는 검증은 운영 장애를 막지 못합니다. 실패한 응답은 자동 재시도 횟수와 사람 검토 경로를 정해 무한 반복을 피합니다.

형식과 값의 오류를 나눠 본다

구조 검증 실패율과 원문 대조 오류율을 따로 봅니다. 둘을 합치면 모델이 형식을 잘 지키지만 틀린 값을 뽑는 문제를 놓칩니다. 고객에게 보이는 화면에는 확인된 값과 추정 값을 시각적으로 구분합니다.

스키마 변경을 배포로 관리한다

스키마를 바꿀 때는 소비하는 API와 저장 테이블을 먼저 조사합니다. 새 필드를 추가했는데 구버전 고객 시스템이 이를 무시할 수 있습니다. 샘플 응답의 호환성 테스트와 되돌리기 절차를 배포 기록에 남깁니다.

현장에 적용할 때의 순서

1. 업무 필드와 미확인 상태 정의
2. 스키마와 원문 대조 검사
3. 실패 응답을 재시도·사람 검토로 분기

주의할 실패: 형식은 맞지만 값이 원문과 다른 경우

관찰할 지표: 구조 실패율과 원문 대조 오류율을 별도 측정

적용 전 체크리스트

• 필수 필드·자료형·허용값을 문서화
• 원문 대조와 구조 검증을 분리
• 스키마 버전별 소비자 호환성 테스트

참고 자료

JSON Schema — Object. 필수 속성과 객체 검증의 기본은 JSON Schema 공식 문서를 참고했습니다. 검토 흐름은 현장 적용 제안입니다.

이미지와 도식은 이해를 돕기 위한 개념 시각화입니다. 특정 고객의 실제 설비·데이터·화면을 재현한 것이 아닙니다.

#AI출력 #구조화응답 #JSONSchema #데이터검증 #업무자동화 #기업AI #네이처프랙탈 #API연동 #품질관리 #디지털전환