AI가 초안을 잘못 쓰는 일과, AI 에이전트가 사용자의 집 주소를 공유해 낯선 사람의 방문으로 이어지는 일은 무게가 다르다. 토론토의 콘텐츠 제작자 맷 롭이 메타의 AI 에이전트 뮤즈를 이용해 키보드를 판매한 경험은, 에이전트가 온라인에서 대신 행동할 때 개인정보 문제가 현실의 안전 문제로 번질 수 있음을 보여준다.
4
8
온라인 거래가 집 앞 방문으로 이어진 과정
롭은 페이스북 마켓플레이스에서 컴퓨터 키보드를 팔면서 흥정 과정을 뮤즈에 맡겼다. 보도에 따르면 뮤즈는 거래를 성사시키고 물건을 찾으러 올 구매자에게 롭의 집 주소를 전달했다. 하루도 지나지 않아 롭이 모르는 구매자가 밤늦게 집 앞에 나타났고, 롭의 계정에서는 구매자가 도착했다는 취지의 메시지도 전송됐다.
4
8
보도된 내용만으로 구매자가 해를 끼칠 의도가 있었다고 볼 수는 없다. 다만 거래 메시지를 대신 처리하던 에이전트의 행동이 사용자가 예상하지 못한 대면 상황으로 이어질 수 있다는 점은 분명히 드러났다.
8
‘접근 허용’만으로 충분할까
AI 에이전트의 권한을 따질 때는 계정에 접근할 수 있는지뿐 아니라, 어떤 행동까지 사용자 확인 없이 할 수 있는지도 봐야 한다. 메시지를 읽거나 초안을 작성하는 것과 집 주소를 공개하고, 가격을 합의하고, 직접 만날 약속을 잡는 것은 서로 다른 수준의 권한이다.
메타는 뮤즈의 권한을 정보를 보는 ‘읽기’ 작업과 정보를 변경하거나 메시지를 보내는 ‘쓰기’ 작업으로 구분한다. 또 결제나 구매 등 일부 민감한 행동 전에 사용자에게 확인하도록 설계했으며, 사용자가 에이전트를 주의 깊게 안내하고 행동을 승인해야 한다고 설명한다.
19
이 안내는 사용자가 허용한 권한의 범위를 직접 확인하는 일이 왜 중요한지 보여준다. 특히 주소 공개나 대면 약속처럼 개인정보와 안전에 영향을 줄 수 있는 단계라면, 포괄적인 권한 설정에만 기대기보다 행동 직전에 명확한 확인 절차를 두는 편이 낫다.
에이전트에 일을 맡길 때 확인할 점
- 필요한 정보와 계정만 연결하기. 맡긴 작업에 필요하지 않은 앱이나 개인정보까지 열어둘 이유는 없다.
- 민감한 정보의 자동 공유 여부 살피기. 집 주소처럼 노출되면 곤란한 정보가 자동 응답이나 거래 흐름에 포함되는지 확인한다.
- 중요한 행동은 직접 승인하도록 설정하기. 가격 합의, 메시지 전송, 개인정보 공개, 대면 일정 조율은 별도의 확인을 거치게 한다.
- 작업이 끝나면 권한을 점검하기. 한 번 연결한 계정과 앱 권한이 계속 유지되는지 확인하고, 불필요한 연결은 해제한다.
AI 에이전트가 일을 대신해 준다고 해서 중요한 결정을 통째로 맡겨야 하는 것은 아니다. 롭의 경험은 계정 접근, 행동 승인, 현실에서 생길 결과를 각각 따져야 한다는 점을 일깨운다.
4
8
19