사내 RAG 검색에서 문서 권한을 답변 전부터 검사하는 법
사내 RAG가 비밀 문서를 검색한 뒤 마지막 답변에서 문장만 지우면 안전할까요? 아닙니다. 검색 결과가 모델 입력에 들어간 순간 이미 노출 경로가 생깁니다. 문서 권한은 답변 후처리가 아니라 검색 단계에서부터 적용해야 합니다.
NOTES
기업 AI
모델을 만들고, 웹과 앱을 짓고, 업무를 자동화하며 확인한 것을 기록합니다. 통한 방법만이 아니라 통하지 않았던 시도까지 남깁니다.
TOTAL 6 · 기업 AI
RAG 답변의 출처가 바뀌었을 때 무엇을 다시 검증해야 할까
RAG가 답변 끝에 링크를 붙였다고 해서 출처가 오래도록 유효한 것은 아닙니다. 원문이 수정되거나 삭제되면 어제의 정답이 오늘은 잘못된 안내가 될 수 있습니다. 출처를 생성 순간의 장식이 아닌 관리 대상 데이터로 봐야 합니다.
AI 검토 대기열, 무엇을 먼저 사람이 볼까
AI가 사람 검토를 요청하는 건수가 늘면 모든 건을 접수 순서대로 처리하기 어렵습니다. 하지만 모델의 확신이 낮은 순서만 따르기도 위험합니다. 검토 지연의 피해와 실제 영향 범위를 함께 고려한 대기열이 필요합니다.
사내 검색 AI가 모른다고 답하게 만드는 설계
사내 검색 AI가 근거를 찾지 못했는데도 유창하게 답하면, 사용자는 그 답을 규정으로 받아들일 수 있습니다. 모른다는 응답은 기능 실패가 아니라 위험을 제어하는 정상 경로입니다. 어떤 때 답변을 보류하고 누구에게 넘길지 제품 규칙으로 설계해야 합니다.
AI 답변을 캐시했더니 다른 부서 규정이 나온다면: 권한·버전 캐시 키
질문이 같아도 답변을 공유할 수 있는 것은 아닙니다. 사용자 권한과 문서 버전이 바뀌는 기업 AI의 캐시 경계를 설명합니다.
사내 문서 두 개가 다른 답을 말한다면: RAG의 충돌 해결 기준
문서를 잘 찾는 것만으로 답변이 맞아지지는 않습니다. 승인 권한·적용 범위·시행일로 상충하는 근거를 정리하는 방법입니다.