AI에게 메일을 맡길 때, 발송 권한도 주셨나요?

안녕하세요, 지란지교소프트입니다. ☺️

“3분기 실적 자료를 정리해서 팀에 메일로 보내줘.”

 

AI에게 맡기고 싶은 업무입니다. 자료를 찾고, 요약하고, 메일을 쓰는 시간을 줄일 수 있으니까요. 그런데 이 짧은 요청 안에는 먼저 정해야 할 것이 있습니다. 어떤 자료를 읽어도 되는지, 누구에게 보내도 되는지, 발송까지 맡겨도 되는지입니다.

 

9월 16일 IITP 테크&퓨처 인사이트 콘서트에서 이석민 지란지교소프트 CTO는 ‘업무 환경 속 정보보안과 AI’를 주제로 이 문제를 다뤘습니다. 회사의 지식을 AI가 활용하도록 모으는 일과, 그 지식을 다룰 기준을 정하는 일이 함께 가야 한다는 이야기였습니다.

 

AI에게 일을 맡기기 전에 무엇을 준비해야 할까요?

찾기 쉬워진 문서, 누가 볼 수 있나요?

AI가 회사 업무를 도우려면 업무의 맥락을 알아야 합니다. 개인 PC의 제안서, 메일로 주고받은 계약서, 메신저에 남긴 업무 지식이 그 재료가 되죠. 흩어진 자료를 AI가 찾아 활용할 수 있도록 정리한 기반이 ‘지식 라이브러리’입니다.

 

자료를 쉽게 찾을 수 있게 되면 공유 권한도 다시 살펴야 합니다. 저장 위치를 아는 사람만 찾아보던 문서가 AI 검색에서는 질문 한 번으로 나타날 수 있기 때문입니다.

 

가령 전 직원에게 열어 둔 폴더에 민감한 문서가 섞여 있다면 어떨까요. 지금까지는 눈에 잘 띄지 않았던 자료가 답변에 쓰일 수 있습니다. 문서를 모으는 것과 함께 누가 어떤 범위에서 활용할지도 정해야 하는 이유입니다.

 

모든 문서를 같은 방식으로 다루기는 어렵습니다. 회사가 공개한 제품 소개서와 아직 발표하지 않은 사업 계획은 쓰임도, 공유할 수 있는 범위도 다르니까요.

같은 회의록이라도 내용은 다릅니다

공개된 행사 일정을 정리한 회의록과 직원의 인사 평가가 담긴 회의록을 생각해 보세요. 파일 형식은 같아도 AI가 답변에 인용하거나 다른 사람에게 전달할 때 필요한 판단은 다릅니다.

 

이석민 CTO가 제시한 설계는 문서를 기밀·민감·공개로 나누고, 등급에 따라 검색 범위와 답변 방식, 외부 전송 조건을 정하는 것입니다. 여기에는 사용자의 열람 권한도 함께 적용됩니다.

 

직원이 문서를 읽을 수 있다고 해서 그 내용을 외부 AI 서비스에 보내거나 원문 그대로 공유해도 되는 것은 아닙니다. 읽기와 전달은 각각 살펴야 하는 일이죠.

 

등급을 자동으로 붙일 때도 확인 절차가 필요합니다. 규칙으로 찾은 민감정보와 AI의 문맥 판단이 다르거나 판단의 신뢰도가 낮다면 관리자가 검토하도록 하는 방식입니다. 잘못 붙은 등급을 찾아 고칠 수 있어야 이후의 통제도 제 역할을 할 수 있습니다.

 

분류가 끝났다고 모든 준비가 끝나는 것은 아닙니다. 문서가 무엇인지 정했다면, 그 문서를 다루는 AI가 어디까지 행동할지도 정해야 합니다.

메일을 쓰는 일과 보내는 일 사이

처음의 메일 요청으로 돌아가 보겠습니다.

 

실적 자료를 조회할 때는 요청자가 그 자료를 읽을 수 있는지 확인합니다. 요약문을 만들 때는 에이전트에 문서 작성 권한이 있는지 살펴보고요. 메일 발송 단계에서는 수신자와 전송 정책, 필요한 승인 여부를 다시 판단합니다.

 

한 번의 요청이지만 그 안에서 일어나는 행동은 여러 개입니다. 자료 조회와 초안 작성이 허용됐다고 발송까지 자동으로 허용되는 것은 아니죠. 수신자에 외부 주소가 포함됐다면 문서 등급과 조직의 전송 정책도 대조해야 합니다.

 

요청한 사람과 AI의 권한이 꼭 같을 필요도 없습니다. 담당자가 문서를 고칠 수 있더라도 요약만 맡은 AI에는 읽기 권한만 줄 수 있습니다. 맡은 일에 필요한 도구와 권한을 정하는 것입니다.

 

필요한 기능과 권한만 부여하고, 영향이 큰 행동에는 사람의 승인을 두라는 원칙은 OWASP의 AI 보안 지침에서도 확인할 수 있습니다.

 

발표의 메일 예시가 보여 주는 것은 AI의 답변을 확인하는 데서 한 걸음 더 나아간 기준입니다. 자료를 읽고, 초안을 쓰고, 결과를 전달하는 각 단계에 허용 범위를 두는 것이죠.

차단 기록만으로는 알 수 없는 것

통제를 세밀하게 나눌수록 관리할 정책도 늘어납니다. 보안 담당자는 차단 건수를 확인한 뒤 어떤 일이 있었고 무엇을 해야 하는지 판단해야 합니다.

 

발표에서는 오피스에이전트와 오피스키퍼를 연결해 이 판단을 돕는 방향도 소개했습니다. 정책의 권장 설정과 예상 영향을 보여 주고, 질문으로 로그를 찾거나 여러 기록을 하나의 사건으로 묶어 설명하는 구상입니다.

 

같은 파일을 여러 경로로 보내려다 차단된 상황을 떠올려 보세요. 차단 횟수만으로는 사용자의 의도를 알기 어렵습니다. 업무상 전송이 필요했는지, 예외 승인을 신청할 경로가 있었는지도 함께 살펴야 하죠.

 

AI가 관련 기록과 판단 근거를 모아 보여 주면 관리자는 다음 조치를 검토할 수 있습니다. 정책을 바꿀 때도 AI가 변경안과 예상 영향을 준비하고, 관리자가 확인한 뒤 적용하는 순서입니다.

 

관리자가 이미 승인한 정책에 따라 자동으로 차단하는 것과 AI가 스스로 새 정책을 정하는 일은 구분해야 합니다. 같은 ‘자동’이라는 말 안에서도 사람이 결정해야 할 범위가 달라집니다.

우리 팀의 요청 한 문장부터

물론 문서 등급이나 사람의 승인만으로 모든 위험이 해결되지는 않습니다. AI가 읽는 문서에 악의적인 지시문이 섞일 수도 있고, 자동 분류가 틀릴 수도 있습니다. 행동 범위를 제한하면서 판단 근거와 실행 기록을 확인할 수 있어야 합니다.

 

우리 팀에서 AI에 맡기고 싶은 업무 하나를 골라 보세요. 필요한 문서는 무엇인지, AI가 수행할 행동은 어디까지인지, 사람이 확인할 지점은 어디인지 적어 보면 됩니다.

 

메일 요청이라면 ‘실적 자료 조회’, ‘요약문 작성’, ‘수신자 확인’, ‘발송’으로 나눌 수 있겠죠. AI가 작성한 초안에 만족하는 것과 발송 권한까지 맡기는 것은 각각 판단할 일입니다.

 

지금 AI에게 맡긴 요청 한 문장을 다시 본다면, 어느 단계에서 확인이 필요할까요?