AI에 자료를 올려도 될까? 개인정보·회사 기밀·정부 문서 안전 가이드

개인정보·회사 기밀·정부 문서, 어떻게 나눠 볼까

업로드 전 꼭 물어볼 5가지

다음 질문 중 하나라도 답하지 못한다면, 원문을 일반 공개형 AI에 넣지 않는 쪽이 안전합니다.

1. 개인정보나 민감정보가 들어 있는가? 자료만으로 또는 다른 정보와 결합해 개인을 알아볼 수 있다면 원문을 직접 붙여넣지 않아야 합니다. EDPB 문서는 LLM 시스템의 개인정보 위험과 완화 방안을 다룹니다.
2. 입력값과 출력값을 보관하는가? 보관한다면 얼마나 오래인가? NIST는 데이터 보관을 생성형 AI 위험관리 항목으로 제시합니다.
3. 입력한 자료가 상업적으로 이용되거나, 재처리되거나, 서비스 개선에 쓰일 수 있는가? 제외 선택은 가능한가? NIST는 상업적 이용, 데이터 보호, 데이터 보관, 제외 선택을 함께 거버넌스 항목으로 다룹니다.
4. 누가 이 도구를 쓸 수 있고, 사용 기록을 추적할 수 있는가? NIST는 이용자 자격, 익명 사용 억제, 모니터링을 언급합니다. 실무적으로는 누가, 왜, 어떤 자료를 넣었는지 조직이 확인할 수 있어야 한다는 뜻입니다.
5. 영향평가, 사고 대응, 위험 기반 통제가 준비돼 있는가? 이 역시 NIST의 생성형 AI 위험관리 항목에 포함됩니다.

프롬프트에 비밀로 해줘라고 적는 것은 보안 통제가 아닙니다. 실제로 확인해야 할 것은 자료가 어떻게 저장되는지, 누가 접근할 수 있는지, 재이용을 거부할 수 있는지, 사고가 나면 누가 처리하는지, 그리고 소속 조직이 그 사용을 허용했는지입니다.

빨강·노랑·초록 기준

아래 기준은 데이터 보호, 보관, 위험 기반 통제 원칙을 일상 업무에 맞게 풀어쓴 것입니다. 법률 자문은 아니며, 최종 판단은 소속 조직의 보안, 법무, 개인정보, 기록물 관리 규정을 따라야 합니다.

초록: 검토 후 사용할 수 있는 자료

• 이미 공개돼 있고 민감도가 낮으며, 내가 사용할 권한을 확인한 자료.
• 비식별화했거나 민감 필드를 제거해 개인, 고객, 사건, 내부 기밀을 합리적으로 되짚기 어려운 자료.
• 전체 계약서, 공문, 고객자료 표, 코드 저장소가 아니라 업무에 꼭 필요한 배경만 남긴 질문.

공개 자료라고 해서 위험이 0이 되는 것은 아닙니다. 공개된 자료 안에 개인정보나 민감정보가 들어 있다면 여전히 개인정보 위험과 데이터 보호 원칙에 따라 처리해야 합니다.

노랑: 먼저 고치거나 승인 절차를 거쳐야 하는 자료

• 고객, 직원, 협력사, 사건 당사자, 민원인 등 사람에 관한 정보가 포함된 자료.
• 계약 초안, 재무자료, 내부 발표자료, 회의록, 법무 의견, 정책 초안.
• 소스코드, 기술문서, 시스템 아키텍처 문서. 특히 API 키, 인증서, 취약점 정보가 섞여 있을 수 있는 내용은 더 조심해야 합니다. NIST는 안전한 소프트웨어 개발과 위험 기반 통제를 생성형 AI 거버넌스 항목으로 둡니다.
• 정부기관 내부 문서, 미공개 공문, 내부 결재·검토 문서, 평가 자료, 기관 간 협업 문서. 공공부문 생성형 AI 활용에서도 개인 또는 민감 정보 위험을 다뤄야 합니다.

이런 자료가 영원히 AI로 처리할 수 없다는 뜻은 아닙니다. 다만 승인, 보관 규칙, 모니터링, 사고 대응 체계가 없는 상태에서 일반 공개형 AI에 넣어서는 안 됩니다.

빨강: 일반 공개형 AI에 올리지 말아야 하는 자료

• 법령이나 내부 규정상 외부 제공이 금지된 자료.
• 비밀 등급 문서, 국가안보·수사·조사·집행·조달 평가 등과 관련된 고민감 자료.
• 계정 비밀번호, API 키, 개인키, 인증서, 접근 토큰처럼 시스템 접속에 쓰일 수 있는 정보.
• 출처, 권한, 보관, 삭제, 재이용 조건을 확인할 수 없는 자료.

비식별화는 이름만 지우는 일이 아니다

이름을 삭제해도 주민등록번호 같은 식별번호, 전화번호, 이메일, 주소, 계정명, 사건번호, 드문 직책, 특정 날짜와 장소의 조합이 남아 있으면 개인이나 사건을 다시 특정할 수 있습니다. EDPB 문서의 핵심 관심사 중 하나가 LLM 시스템의 개인정보 위험과 완화이므로, 업로드 전에는 직접 식별정보뿐 아니라 되짚어 추정할 수 있는 세부정보와 불필요한 필드까지 함께 줄여야 합니다.

더 안전한 방식은 실제 이름과 회사명을 대체명으로 바꾸고, 필요한 일부 문장만 제공하고, 원문을 추상적인 상황 설명으로 바꾸고, 명단·기록·표는 먼저 집계하는 것입니다. 원문 처리가 꼭 필요하다면 조직이 승인한 도구와 절차를 거치는 편이 맞습니다.

정부 문서: 공개 자료와 내부 문서는 다르게 봐야 한다

공공부문에서 생성형 AI를 쓸 수 있느냐는 전면 금지 또는 전면 허용의 문제가 아닙니다. JRC의 생성형 AI 전망 보고서는 공공부문 활용을 별도 주제로 다루며, 유럽의회 부속자료의 사례 요약도 독일 Bundestag의 공식 자료를 사용하면서 개인 또는 민감 정보를 피하는 방식을 언급합니다.

상대적으로 검토 가능한 것은 이미 공개돼 있고 민감도가 낮으며 적법하게 사용할 수 있는 공식 자료입니다. 반대로 미공개 공문, 내부 결재·검토 문서, 정책 초안, 조사 자료, 집행 자료, 조달 평가 자료, 개인정보나 민감정보가 포함된 문서는 훨씬 보수적으로 다뤄야 합니다. 공개 자료도 사용 조건을 확인해야 하며, 후자의 자료는 일반 공개형 AI에 원문 그대로 넣지 않는 것이 안전합니다.

가장 단순한 최종 규칙

자료가 새어 나갔을 때 개인, 조직, 공익, 법규 준수 상태에 피해가 생긴다면 원문을 일반 공개형 AI에 맡기지 마세요. 먼저 가리고, 요약하고, 최소화하세요. 그래도 원문 처리가 꼭 필요하다면 승인된 절차와 통제된 도구를 쓰고, 데이터 보호, 데이터 보관, 접근권한, 모니터링, 사고 대응 체계가 있는지 확인해야 합니다.