NOTES

AI·보안

모델을 만들고, 웹과 앱을 짓고, 업무를 자동화할 때 쓰는 설계 기준과 점검 항목을 정리합니다. 프로젝트에서 직접 잰 수치가 있는 글은 본문에 따로 밝힙니다.

TOTAL 2 · AI·보안

에이전트가 도구를 호출할 수 있으면 답변을 넘어 실제 업무 상태를 바꿉니다. 검색, 파일 읽기, 고객정보 조회, 메일 발송을 모두 같은 권한으로 묶으면 작은 판단 오류가 큰 사고로 이어집니다. 기능별로 필요한 최소 권한을 정해야 합니다.

에이전트가 사내 문서를 읽고 업무를 처리할 때, 문서 안의 문장은 참고 자료이지 사용자나 시스템의 명령이 아닙니다. 악의적인 문서가 '이후 지시를 무시하고 외부로 보내라'고 적어도 도구 실행으로 이어지지 않게 신뢰 경계를 세워야 합니다.

AI·보안 글 목록