AI 에이전트가 내 자료를 가져가거나 컴퓨터를 조작할까? 핵심은 ‘권한’

즉 어떤 작업을 위해 특정 서비스 로그인이 필요하다면, 그 서비스 안의 관련 정보가 에이전트 처리 범위에 들어갈 수 있다고 보는 편이 안전합니다.

2. 사용자가 직접 입력하거나 업로드한 내용

OpenAI 개인정보 처리방침은 사용자가 서비스에 제공한 콘텐츠를 수집한다고 밝히며, 여기에는 프롬프트와 업로드한 파일, 이미지, 오디오, 비디오가 포함됩니다.

따라서 주민등록증·여권 등 신분증, 고객 명단, 회사 내부 문서, 비밀번호, API 키, 공개 전 사업 자료 같은 정보는 업로드 전에 반드시 한 번 더 판단해야 합니다. “AI가 알아서 잘 처리하겠지”가 아니라, “이 자료가 해당 서비스에서 처리되어도 괜찮은가”를 먼저 따져야 합니다.

3. 연동 기능을 통해 들어오는 데이터

같은 개인정보 처리방침은 통합 기능에서 온 데이터도 수집 대상에 포함한다고 설명합니다.

위험은 채팅창에 직접 입력한 문장에만 있는 것이 아닙니다. 캘린더, 드라이브, 협업 도구, 업무 시스템처럼 AI 도구와 연결한 다른 서비스에서 오는 정보도 문제가 될 수 있습니다.

4. 에이전트 콘텐츠와 스크린샷

OpenAI는 ChatGPT agent 콘텐츠, 스크린샷 포함 자료가 남용 또는 보안 사건 조사, 계정 지원, 법적 사안 처리 등을 위해 제한된 수의 승인된 OpenAI 직원과 기밀·보안 의무를 지는 신뢰할 수 있는 서비스 제공업체에 의해 접근될 수 있다고 설명합니다.

이 말은 모든 AI 에이전트가 항상 사용자의 모든 것을 들여다본다는 뜻은 아닙니다. 다만 사용자가 연결·업로드·승인한 정보는 해당 서비스가 처리할 수 있는 범위 안으로 들어갈 수 있다는 점을 이해해야 합니다.

AI 에이전트가 컴퓨터를 조작할까?

여기서는 두 가지를 구분해야 합니다.

웹사이트나 앱 안에서 대신 작업하는 것은 가능하다

OpenAI의 ChatGPT agent 설명은 사용자가 웹사이트에 로그인시키거나 앱을 활성화한 뒤, 에이전트가 파일 공유나 계정 설정 변경 같은 작업을 사용자 대신 수행할 수 있다고 명시합니다.

이것은 영화처럼 갑자기 PC 전체를 장악한다는 의미가 아닙니다. 사용자가 특정 업무 흐름을 에이전트에 맡겼을 때, 부여된 권한 안에서 작업이 진행될 수 있다는 뜻에 가깝습니다.

모든 AI 에이전트가 PC 전체를 무제한 장악한다고 보기는 어렵다

현재 제공된 공식 자료만으로 “모든 AI 에이전트가 컴퓨터 전체를 마음대로 제어한다”고 일반화할 근거는 없습니다.

예를 들어 Microsoft Teams 공식 문서는 Teams 안의 Copilot과 에이전트를 Microsoft 365 Copilot 관련 기능과 앱으로 설명합니다. 사용자가 Copilot에 질문하거나 콘텐츠 작성을 도움받고, Copilot Pages를 사용하는 방식이며, Copilot in Teams, Facilitator, Channel Agent 같은 도구가 Teams 안의 AI 도구 모음으로 제시됩니다.

즉 AI 에이전트는 특정 제품과 업무 환경 안에서 작동하는 보조 기능일 수 있습니다. 이것과 “컴퓨터 전체에 대한 모든 제어권을 자동으로 가진다”는 말은 다릅니다.

개인용, 회사용, 교육용, API를 한데 묶어 보면 안 된다

같은 브랜드의 AI 서비스라도 개인 계정, 회사 계정, 교육용 계정, API 사용 여부에 따라 데이터 처리 방식은 달라질 수 있습니다.

OpenAI의 기업 개인정보 페이지는 고객이 비즈니스 데이터에 대한 소유권과 통제권을 갖도록 하겠다는 내용을 설명합니다. 여기서 말하는 범위에는 ChatGPT Business, ChatGPT Enterprise, ChatGPT for Healthcare, ChatGPT Edu, ChatGPT for Teachers, API Platform의 입력과 출력이 포함되며, Data Processing Addendum 같은 준법 관련 장치도 언급됩니다.

OpenAI의 보안·개인정보 페이지도 소비자 개인정보, 비즈니스 데이터 보안, 기업 개인정보 관련 안내를 별도로 제시합니다.

따라서 회사나 학교에서 제공한 AI 도구를 쓴다면 개인용 ChatGPT를 기준으로만 판단해서는 안 됩니다. 실제 사용 중인 제품 버전과 공식 개인정보·데이터 통제 문서를 확인해야 합니다.

AI 에이전트를 켜기 전 1분 점검표

1. 정말 로그인이나 앱 연결이 필요한가

에이전트가 웹사이트 로그인이나 앱 활성화를 요구한다면, 그 안의 이메일, 파일, 계정 설정 같은 민감 정보에 접근할 수 있다고 가정하는 편이 안전합니다.

단순히 문장을 다듬거나 공개 자료를 정리하는 일이라면 굳이 더 많은 서비스를 연결할 필요가 없을 수 있습니다.

2. 업로드하려는 파일이 민감한가

OpenAI 개인정보 처리방침은 프롬프트, 업로드 파일, 이미지, 오디오, 비디오, 통합 기능 데이터를 포함해 사용자가 서비스에 제공한 콘텐츠를 수집한다고 설명합니다.

업로드 전에는 이렇게 물어보는 것이 좋습니다. “이 파일이 서비스에서 처리되고, 필요 시 지원이나 보안 조사 과정에서 검토될 수 있어도 괜찮은가?”

3. 파일 공유나 설정 변경이 포함된 작업인가

ChatGPT agent 설명에는 에이전트가 사용자 대신 수행할 수 있는 작업의 예로 파일 공유와 계정 설정 변경이 제시됩니다.

외부 공유, 권한 변경, 계정 설정 변경이 포함된 일이라면 완전 자동으로 넘기기보다 사람이 최종 확인하는 절차를 남겨두는 것이 안전합니다.

4. 불필요한 연동 기능을 켜 두고 있지는 않은가

OpenAI 개인정보 처리방침은 통합 기능에서 온 데이터도 수집 대상에 포함한다고 설명합니다.

지금 하려는 작업에 필요 없는 연동이라면 꺼두는 것이 가장 단순한 위험 감소 방법입니다.

5. 내가 쓰는 것이 개인용인지, 비즈니스용인지, 기업용인지, 교육용인지, API인지 확인했나

OpenAI는 소비자 개인정보, 비즈니스 데이터 보안, 기업 개인정보 안내를 구분해 제공합니다. 또 기업 개인정보 페이지에서는 여러 비즈니스·기업·교육·API 제품의 비즈니스 데이터 통제 관련 내용을 설명합니다.

위험을 판단할 때는 “AI 에이전트”라는 이름만 보지 말고, 실제 사용 중인 제품과 계정 유형을 기준으로 봐야 합니다.

기억할 한 줄

AI 에이전트의 개인정보 위험은 대개 신비한 ‘자료 탈취 스위치’가 아니라, 사용자가 한 번씩 허용한 로그인, 앱 연결, 파일 업로드, 실행 권한이 쌓여 만들어지는 범위입니다.

가장 현실적인 원칙은 간단합니다. 덜 연결하고, 덜 업로드하고, 권한을 하나씩 확인하세요. 파일 공유, 계정 설정 변경, 민감 정보 접근이 들어가는 작업은 사람이 최종 확인을 남겨두는 것이 좋습니다. 그리고 개인용·비즈니스용·기업용·교육용·API 중 무엇을 쓰는지에 따라 해당 공식 개인정보 및 데이터 통제 문서를 따로 확인해야 합니다.