브라질 AI 선거 규제, 10월 대선을 앞두고 첫 시험대

브라질은 2026년 10월 4일 대선 1차 투표를 앞두고 비교적 구체적인 선거 AI 규제 체계를 가동하고 있다. 문제는 더 이상 규칙을 만드는 일만이 아니다. 저렴하게 제작되는 합성 영상·이미지와 챗봇 답변은 출처와 맥락, 법적 판단이 확인되기 전에 유권자에게 퍼질 수 있다. 규제를 신속하고 일관되게 집행할 수 있느냐가 핵심 시험대다. 12

TSE가 정한 핵심 원칙

브라질의 선거최고법원(TSE)은 후보, 정당, 플랫폼과 AI 기반 선거 콘텐츠에 다음과 같은 제한을 두고 있다.

• 눈에 띄는 AI 사용 고지: AI 또는 이에 준하는 기술로 제작되거나 실질적으로 변경된 선거 콘텐츠에는 명시적이고 눈에 잘 띄며 접근하기 쉬운 고지가 필요하다. 텍스트·음성·영상·이미지 모두가 대상이다.
• 선거 딥페이크 금지: TSE는 선거 선전물에서 딥페이크 사용을 금지한다. 법원은 9월 1일 5대 2로, AI 또는 동등 기술로 제작·조작됐고 일정 수준의 사실성 또는 그럴듯함을 띠며 생존자·사망자·가상 인물의 이미지, 음성 또는 표현을 만들거나 재현·변경하는 합성 콘텐츠를 딥페이크로 정의했다. 다만 금지는 해당 자료가 ‘선거 선전물’에 해당할 때 적용된다.
• AI의 투표 추천 금지: 챗봇과 가상 비서는 이용자가 요청하더라도 특정 후보나 정당에 투표하라고 권하거나, 후보 순위를 매기거나, 특정 선거 주체에 유리하도록 정치 정보를 우선 배치해서는 안 된다. 14
• 투표일 전후 AI 콘텐츠 제한: 후보자 또는 공인의 이미지·음성·초상을 담은 새 AI 제작·변경 콘텐츠는 투표 72시간 전부터 투표 종료 후 24시간까지 게시, 재게시, 유료 홍보가 금지된다. 12

이 체계는 고지된 AI 활용 가운데 허용되는 범위와, 금지되는 선거 선전용 합성물의 경계를 나눈다. AI 자체를 포괄적으로 금지하면 통상적인 편집이나 창의적 선거 홍보까지 막을 수 있다. 반대로 규정이 지나치게 좁으면 경계선 사례를 남긴다.

보우소나루 AI 아바타가 드러낸 ‘경계선’

가장 주목받은 사례는 플라비우 보우소나루의 대선 출마 행사에 AI로 생성된 자이르 보우소나루 전 대통령의 모습이 등장한 사건이다. 자이르 보우소나루는 선거 출마가 금지된 상태였고 가택연금 중이어서, 그의 가상 등장은 정치적으로 민감한 사안이었다. 3

플라비우 보우소나루 측 변호인단은 해당 영상이 표를 달라고 요청한 것이 아니며 기술 사용도 숨기지 않았다고 주장했다. 8 반대 측은 이 영상이 딥페이크 금지 규정을 위반했다고 맞섰다. 7

이후 TSE 판단은 모든 AI 묘사가 자동으로 금지 딥페이크가 되는 것은 아니라는 점을 분명히 했다. 콘텐츠가 법원이 정한 사실성 기준을 충족하고, 동시에 선거 선전물이어야 한다는 것이다. 앞으로도 구체적 사안마다 다음과 같은 질문이 남는다.

• 합성물이라는 사실이 명확하게 표시됐는가?
• 정당 내부 행사에서만 공개됐는가, 아니면 선거 광고로 유포됐는가?
• 유권자의 지지를 끌어내려는 목적이 있었는가?
• 일반 시청자가 진짜 영상으로 받아들일 가능성이 있는가?

이 쟁점은 규제 당국의 근본적 난제를 보여준다. 표시는 유권자가 합성 콘텐츠임을 알아차리도록 도울 수 있지만, 실제 인물과 흡사한 모습이 주는 설득력까지 없애지는 못한다. 특히 영상이 편집·재게시되거나 원래 붙은 표기가 사라진 채 퍼질 경우 더욱 그렇다.

왜 합성 선거 콘텐츠가 선거 신뢰를 흔드나

AI는 양식화한 이미지나 명백히 허구적인 시각물처럼 일상적인 정치 커뮤니케이션에도 쓰일 수 있다. 위험이 큰 것은 실제로 없었던 사건, 지지 선언, 발언 또는 증거를 진짜처럼 보이게 만드는 활용이다. 로이터는 선거를 앞두고 AI 생성 콘텐츠가 유권자의 소셜미디어 피드로 확산하는 상황을 브라질 당국이 우려한다고 보도했다. 2

특히 문제가 될 수 있는 유형은 다음과 같다.

• 후보가 하지 않은 말이나 행동을 한 것처럼 보이게 하는 가짜 영상
• 조작된 지지 선언과 유권자 체험담
• 허위 여론조사 수치 또는 지지세 급등 서사
• 기록 영상이나 현장 증거처럼 보이도록 만든 합성 이미지·영상

위험은 허위 영상이 존재한다는 데서 끝나지 않는다. 이런 자료는 ‘직접 본 증거’, ‘폭넓은 대중 지지’, ‘갑작스러운 판세 변화’라는 인상을 만들 수 있다. 정정 보도는 더 늦게 도착하고, 더 적은 사람에게 닿거나, 이미 본 장면에 대한 신뢰를 되돌리지 못할 수 있다. 의무 표기와 투표일 전후의 강한 제한이 함께 도입된 배경이다. 12

챗봇 규제는 콘텐츠 문제가 아니라 집행 문제

TSE의 챗봇 규정은 특히 직접적이다. 유권자가 누구를 지지해야 하느냐고 명시적으로 물어도 AI는 후보를 추천하거나 순위를 매겨서는 안 된다. 14 그러나 일반 목적 AI 서비스는 세계적으로 운영되고, 개별 프롬프트에 따라 동적으로 답한다는 점에서 실제 적용 범위는 불확실하다.

기업 책임성 단체 에코(Ekō)의 조사에 따르면 ChatGPT, Grok, Gemini는 브라질 후보를 추천하는 것으로 보였고, 테스트한 Meta AI 응답의 거의 4분의 1은 일부 또는 전체가 부정확했다. 이 결과만으로 각 제공업체가 모든 대화에서 어떻게 규정을 준수할지 단정할 수는 없다. 다만 형식상 금지 규정과 실제로 널리 쓰이는 시스템의 응답 사이에 간극이 있음을 보여준다.

규제기관은 위법 소지가 있는 답변을 찾아내고, 대화 내용을 증거로 보존하며, 서비스 또는 플랫폼 중 누가 책임을 지는지 판단하고, 신속한 시정을 이끌어내야 한다. 수정된 시스템 행태가 대규모로 일관되게 적용되는지도 확인해야 한다. 브라질 규정은 브라질 선거 활동에 의무를 부과할 수 있지만, 전 세계에서 운영되는 모든 챗봇이 모든 유권자 질문에 규정에 맞는 답을 하도록 보장하지는 못한다.

결국 관건은 신속하고 일관된 집행

2026년 규정은 단순한 ‘허위정보 금지’보다 구체적인 도구를 TSE에 제공한다. AI 사용 고지, 딥페이크의 정의, 후보 추천 시스템 제한, 투표일 전후 시간 제한이 그것이다.

그러나 효과는 신속한 집행, 플랫폼의 협조, 그리고 ‘진짜냐 가짜냐’만으로는 정리되지 않는 사례에 대한 사실 판단에 달려 있다. 보우소나루 아바타 논란은 사실성, 동의, 표기, 유포 방식, 선거 목적이 모두 중요할 수 있음을 보여줬다. AI 정치 콘텐츠는 만들기 쉬워지고 출처를 추적하기 어려워지고 있다. 브라질 선거는 정교한 규정집이 자신이 규율하려는 기술의 속도를 따라갈 수 있는지를 가늠하는 시험이 될 전망이다.

현재 확보된 보도만으로는 AI 관련 TSE 사건의 확정 총수, 구체적인 삭제 명령, 브라질 국민의 AI 이용률이나 후보 관련 챗봇 상담 의향에 관한 전국 단위 수치를 단정하기에 충분하지 않다. 이런 수치는 법원 원자료나 조사 방법론이 확인돼야 확립된 사실로 다룰 수 있다.