문서 AI를 도입할 때 개인정보를 '모델이 알아서 가려 주겠지'라고 기대하면 입력 단계의 위험을 놓칩니다. 비식별화는 모델 응답 뒤가 아니라 문서 수집, OCR, 저장, 외부 전송 사이 어디에서 할지 먼저 정해야 합니다.
처리 목적에 필요한 값만 남긴다
계약서 조항 검색에 주민등록번호 원문이 필요하지 않을 수 있습니다. 문서 유형과 업무 목적에 따라 꼭 필요한 필드와 가릴 필드를 정합니다. 이름을 일괄 삭제하면 계약 당사자 식별이 불가능할 수도 있으므로 규칙은 업무별로 설계합니다.
OCR 전과 후의 위험이 다르다
이미지 안에 있는 민감정보는 텍스트 필터만으로 제거되지 않습니다. 원본 이미지 접근을 제한하고, OCR로 추출한 텍스트에서 패턴과 문맥을 함께 검사합니다. 마스킹된 텍스트만 외부 모델에 보낸다면 원본과 변환본의 보관 위치도 분리합니다.
가림 처리의 실패를 시험한다
정규식은 규칙적인 번호에 유용하지만 오탈자나 서식 변경에 약합니다. 반대로 AI 기반 탐지는 과도하게 가릴 수 있습니다. 샘플 문서에서 누락률과 과잉 가림률을 함께 측정하고, 고위험 유형은 사람 검수를 둡니다.
로그와 오류 보고서도 범위에 넣는다
입력 본문을 가려도 추적 로그·프롬프트 기록·실패 화면에 원문이 남을 수 있습니다. 시스템 전체의 데이터 흐름을 그려 접근 권한, 보존 기간, 삭제 경로를 확인합니다. 운영자가 디버깅에 필요한 최소 정보만 볼 수 있게 합니다.
비식별화는 접근통제의 대체가 아니다
마스킹 데이터도 다른 정보와 결합하면 재식별 위험이 생길 수 있습니다. 테넌트 분리, 전송 통제, 저장 암호화, 출력 검사를 함께 적용합니다. 일부 필드를 가렸다는 사실만으로 문서를 무제한 공유해서는 안 됩니다.
현장에 적용할 때의 순서
- 문서 유형별 필요한 필드와 민감 필드를 나눈다
- 원본·OCR 텍스트·로그의 처리 경로를 그린다
- 누락·과잉 마스킹을 검증하고 외부 전송을 제한한다
주의할 실패: 응답에만 마스킹을 적용하면 입력과 로그에는 원문이 남을 수 있다.
관찰할 지표: 민감정보 누락률, 과잉 가림률, 원문 접근 건수를 점검한다.
적용 전 체크리스트
- 원본 이미지와 OCR 텍스트 모두 검사하는가
- 로그·오류 보고서까지 보존 범위에 포함했는가
- 누락과 과잉 가림을 함께 측정하는가
참고 자료
NIST AI risks and trustworthiness. NIST는 AI 시스템의 프라이버시 위험과 데이터 최소화·비식별화 같은 수단을 설명합니다. 구체적인 처리 순서는 업무 목적에 맞춘 설계 예시입니다.
이미지와 도식은 이해를 돕기 위한 개념 시각화입니다. 특정 고객의 실제 설비·데이터·화면을 재현한 것이 아닙니다.
#문서AI #개인정보보호 #비식별화 #OCR #민감정보 #데이터최소화 #LLM보안 #접근통제 #기업AI #AI거버넌스
