AI 출력이 형식에 맞아도 업무 규칙을 따로 검증해야 하는 이유

AI가 주문 정보를 정해진 JSON 형식으로 반환해도 바로 업무에 반영할 수 있는 것은 아닙니다. 수량과 단가가 각각 숫자라는 조건은 통과했지만 합계가 맞지 않거나, 취소 주문에 출고 예정일이 들어 있을 수 있습니다.

형식 검사와 업무 검사를 구분한다

자료형과 필수 필드, 허용 값은 스키마로 검사합니다. 조건에 따라 필드를 요구하는 규칙은 JSON Schema의 조건부 검증으로 표현할 수 있습니다. 다만 현재 재고나 고객 권한처럼 외부 상태가 필요한 판단과 금액 계산은 서버의 업무 검증에서 다룹니다.

계산 가능한 값은 다시 계산한다

수량과 단가, 할인 조건처럼 근거가 되는 입력을 검증한 뒤 서버가 합계를 계산합니다. AI가 만든 합계를 그대로 확정하지 않고 원문 값과 차이가 있으면 검토 대상으로 보냅니다. 반올림이나 단위 환산도 기존 업무 시스템과 같은 규칙을 사용해야 합니다.

실패 이유를 필드 단위로 전달한다

잘못된 형식과 업무 조건 위반, 원문 확인 불가를 서로 다른 사유로 표시합니다. 예를 들어 합계 불일치라면 관련 원문과 계산 결과를 함께 보여줍니다. 형식만 바꿔 재요청하는 것으로 해결되지 않는 오류를 무한 재시도하지 않도록 합니다.

적용 전 체크리스트

• 구조 검사와 업무 검증의 실패 사유가 구분되는가
• 합계와 단위 환산을 서버에서 같은 기준으로 계산하는가
• 검증에 실패한 결과가 업무 확정으로 넘어가지 않는가

참고 자료

JSON Schema — Conditional schema validation. 조건부 스키마 검증의 표현은 공식 문서를 참고했습니다. 계산과 외부 상태를 별도 검증하는 흐름은 업무 적용을 위한 설계 제안입니다.

#AI출력검증 #JSONSchema #업무규칙 #구조화응답 #데이터정합성 #문서AI #업무자동화 #API연동 #품질관리 #네이처프랙탈