생성형 AI 정보 유출, 붙여넣은 한 줄이 회사를 떠나는 순간 - 경기도 정보보호 세미나

안녕하세요, 지란지교소프트입니다. ☺️

 

“이 고객 명단으로 구매 패턴 분석해 줘.”

생성형 AI 대화창에 남긴 이 한 줄과 함께 고객 연락처와 계약 정보가 회사 밖으로 나갑니다. 파일도 악의도 없는 정상 업무라 기존 보안은 대부분 알아채지 못하죠.

 

2026년 10월 21일 경기도 정보보호 세미나에서 장준영 지란지교소프트 그룹장이 발표한 내용입니다. 직무별 유출 장면부터 어디서 어떻게 막을지까지 정리했습니다.

선의의 요청에 무엇이 함께 넘어가나요?

일을 빨리 끝내려는 요청에 기밀이 함께 실려 갑니다.

네 사람 모두 회사에 해를 끼칠 생각이 없고, 로그인도 정상입니다. 이상 행동으로 잡힐 신호가 없는 거죠.

직무	AI에 한 부탁	함께 넘어가는 정보
개발자	“이 코드 리팩토링 좀 해 줘”	API 키, DB 접속 정보
영업	“고객 명단 분석해 줘”	고객 개인정보, 계약 정보
인사	“이력서 요약해 줘”	주민등록번호, 연봉
법무	“계약서 핵심 조항만 요약해 줘”	M&A 조건, 지분 구조

기존 보안은 위협을 악의를 가진 내부자로 가정해 왔습니다. AI가 들어오면서 일을 잘하려는 직원의 평범한 요청이 새로운 유출 경로가 됐습니다.

기존 보안은 왜 알아채지 못하나요?

기존 보안이 기대던 세 가지, 파일과 보이는 내용과 악의가 모두 없기 때문입니다.

문서를 USB에 복사하거나 메일에 첨부하면 보안 시스템이 파일을 검사해 막을 수 있습니다. 그런데 내용을 복사해 AI 프롬프트에 붙여넣으면 검사할 파일이 생기지 않습니다.

 

AI 서비스와 주고받는 내용은 HTTPS로 암호화됩니다. 회사 경계의 보안 장비는 데이터가 어디로 가는지는 알아도 무엇이 실려 가는지는 열어 보지 못합니다.

사람이 보내지 않아도 데이터가 나가나요?

나갑니다. AI 에이전트가 일을 대신하기 시작하면 사용자가 아무것도 옮기지 않아도 데이터가 움직입니다.

 

“이번 임원 회의록 요약해서 상무님께 메일로 보내 줘.”

이 한마디에 에이전트는 기밀이 담긴 회의록을 읽고, 외부 AI 모델에 원문을 보내 요약한 뒤, 외부 도메인으로 메일을 보냅니다. 인증도, 권한도, 트래픽도 모두 정상입니다.

 

AI에 맡길 행동의 범위를 미리 정해야 하는 이유는 AI에게 메일을 맡길 때, 발송 권한도 주셨나요?에서 자세히 다뤘습니다.

어디서 막아야 하나요?

데이터가 회사를 떠나기 전, 사용자의 PC에서 막아야 합니다.

문서를 만들고, 복사하고, 대화창에 붙여넣는 순간까지는 PC에서 개입할 수 있습니다. HTTPS로 전송되는 동안 네트워크는 목적지만 볼 수 있고, 외부 서버에 도착한 뒤에는 되돌릴 방법이 없습니다. 그때부터는 막는 것이 아니라 알아채는 것뿐입니다. 장준영 그룹장은 실제 로그에서 데이터가 만들어진 뒤 손쓸 수 없는 시점까지 2초도 걸리지 않는 경우가 많다고 설명했습니다. 붙여넣고 엔터를 누르는 시간입니다.

 

AI를 전부 막으면 직원들은 개인 휴대폰으로 같은 일을 합니다. 발표에서 제시한 방법은 보내기 직전에 가릴 것만 골라 바꾸는 것입니다. 고객 명단을 붙여넣으면 인터넷으로 나가기 전에 PC 안에서 내용을 먼저 검사하고, 이렇게 바꿔 보내는 식이죠.

붙여넣은 내용  김O희 900101-1234567
전송되는 내용  김O희 [주민등록번호]

 

업무는 멈추지 않고, 원문은 밖으로 나가지 않습니다. 무엇을 가렸는지 사용자에게 보여 주면 다음 입력도 달라집니다. 경계 보안은 외부 위협을, PC는 경계가 볼 수 없는 순간을 맡습니다.

무엇부터 시작해야 하나요?

차단 기능보다 무엇을 어디에 갖고 있는지부터 파악해야 합니다.

발표에서 소개한 두 사례도 그렇게 시작했습니다. 한 공공기관은 서버 데이터에서 개인정보를 찾아내고 나서야 불필요한 정보를 정리할 기반이 생겼습니다. 한 금융기관은 글자만 검사하던 정책 밖에 스캔 문서와 이미지가 있었는데, 이미지 속 개인정보를 문자 인식으로 찾아 정책 범위 안으로 들였습니다.

 

현황을 알아야 등급을 나눌 수 있습니다. 발표에서는 문서를 세 등급으로 나누자고 제안했습니다.

• 기밀: 외부 AI 전송을 막습니다.
• 민감: 가린 뒤 보냅니다.
• 공개: 그대로 허용합니다.

공공 분야의 등급 기준은 N2SF 대응 체크리스트에 정리해 두었습니다.

 

이 준비는 보안팀만의 일이 아닙니다. 2026년 9월 11일부터 적용된 개정 개인정보 보호법은 중과 사유에 해당하면 전체 매출액의 최대 10%까지 과징금을 부과할 수 있게 했고, 유출 가능성만 있어도 72시간 안에 알려야 합니다. 자세한 내용은 개인정보보호법 개정 2026 총정리에서 확인할 수 있습니다.

발표에서 소개한 오피스키퍼 EP

장준영 그룹장은 이 구조를 지란지교소프트 오피스키퍼 EP로 구현한 모습도 소개했습니다. 오피스키퍼 EP는 생성형 AI 대화창이나 이메일 본문을 보낼 때 PC에서 주민등록번호, 계좌번호 같은 민감정보를 찾고, 회사 정책에 따라 전송을 막거나 민감한 부분만 가린 뒤 보냅니다.

*이 기술은 과학기술정보통신부와 한국인터넷진흥원(KISA)의 2026년 우수 정보보호기술로 지정됐습니다.

 

우리 팀이 AI에 붙여넣는 한 줄부터

“이 고객 명단으로 구매 패턴 분석해 줘.”

이 요청이 잘못된 것은 아닙니다. 문제는 무엇이 함께 넘어가는지 아무도 보지 않는다는 데 있습니다.

 

장준영 그룹장은 발표를 이렇게 정리했습니다.

데이터에는 등급을, 에이전트에는 범위를, 통제는 발생 지점에.

AI 도입 계획서에 모델 이름을 적기 전에 문서를 세 등급으로 나누는 기준부터 써야 한다고 했습니다.

이번 주 우리 팀이 AI에 가장 자주 붙여넣은 내용 하나를 떠올려 보세요.

그 안에 고객 정보나 접속 정보, 계약 조건이 섞여 있지는 않았나요?