巴西将在2026年10月4日举行首轮投票。该国已出台较为细致的选举AI规则,但难题已不再只是“有没有规则”,而是当低成本合成视频、图片和聊天机器人回答迅速触达选民时,监管者能否在内容来源、语境与法律性质尚未厘清前及时且一致地处理。
1
2
TSE给AI竞选内容划出的四条红线
巴西最高选举法院(TSE,负责监督选举法律执行)对候选人、政党、平台和AI辅助竞选内容设定了多项限制:
- 必须醒目标注: 凡由AI或同类技术生成、或经实质修改的选举内容,都须以明确、醒目且易获取的方式说明。这一要求适用于文字、音频、视频和图片。
- 禁止选举深度伪造: 9月1日,TSE以5票赞成、2票反对界定:所谓深度伪造,是指由AI或同类技术生成或操纵、具有真实感或逼真度,并创建、复制或修改在世、已故或虚构人物的形象、声音或表达的合成内容。法院同时明确,禁令适用于构成选举宣传的材料。
- AI不得推荐投票对象: 聊天机器人和虚拟助手不得推荐投票选择、偏袒候选人或政党、对其排名,或以有利于特定选举参与者的方式优先呈现政治信息——即使用户主动要求此类建议也不例外。
14
- 投票日前后设“静默期”: 从投票前72小时起,至投票结束后24小时止,涉及候选人或公众人物形象、声音或肖像的新AI生成或修改内容,不得发布、再发布或进行付费推广。
12
这套规则并非将所有AI使用一概禁止,而是试图区分“已披露、可接受的AI使用”与“被禁止的选举宣传”。这种区分很关键:过于宽泛的禁令可能把普通剪辑和创意制作也纳入其中;规定过窄,又会让边界案例变得棘手。
博索纳罗AI化身案:灰色地带如何出现
最受关注的测试,发生在弗拉维奥·博索纳罗的竞选启动活动上。当时,前总统雅伊尔·博索纳罗的AI生成版本出现在现场。雅伊尔·博索纳罗被禁止参选且处于软禁状态,因此这次模拟亮相具有明显政治意义。
3
弗拉维奥一方的律师称,视频并未直接拉票,也没有隐瞒所使用的技术。
8 反对者则认为,该视频违反了禁止深度伪造的规定。
7
TSE此后的裁决澄清,并非所有AI人物呈现都会自动构成被禁止的深度伪造:材料须符合以真实感为核心的定义,同时还必须属于选举宣传。
这也给后续案件留下了一系列需要逐案判断的问题:内容是否清楚标明为合成?它只在党内活动中播放,还是被作为竞选广告向选民传播?是否意在争取选举支持?普通观众会不会把它当成真实影像?
这正是监管的核心难点。标识有助于受众辨认合成内容,却未必能消除逼真肖像本身的说服力;尤其当视频被剪辑、转发,或原有标签被剥离时更是如此。
为什么合成竞选媒体会损害选举诚信
AI可以用于常规政治传播,例如风格化图片或清晰可辨的虚构视觉素材。风险更高的情形,是它让并未发生的事件、背书、言论或所谓“证据”看上去像真的。路透社报道称,巴西当局担心AI生成内容会在大选前充斥选民的社交媒体信息流。
2
影响尤其大的内容可能包括:
- 伪造候选人讲话或行为的视频;
- 杜撰的背书与选民证言;
- 虚构的民调数据或选情升温叙事;
- 被包装成纪实证据的合成人物呈现。
风险不只在于假视频存在,更在于它可能制造“亲眼所见”的假象、夸大公众支持,或营造选情突然变化的印象。辟谣往往来得更晚、覆盖的人更少,也未必能消除选民已经形成的判断。这正是强制标注与投票日前后收紧限制的政策逻辑。
1
2
聊天机器人:不只是内容问题,更是执法问题
TSE对AI推荐候选人的限制相当直接:即使选民明确询问“该投谁”,系统也不得作出推荐或排序。
14 但这条规则在现实中的覆盖范围仍不确定,因为通用型AI系统通常由全球性企业运营,并会针对不同提示词动态生成回答。
企业问责组织Ekō发布的研究发现,ChatGPT、Grok和Gemini似乎曾推荐巴西候选人;而其测试的Meta AI回答中,近四分之一部分或完全错误。 这些发现本身不能证明任何服务商会在每一次互动中如何合规,却显示出书面禁令与广泛使用系统实际行为之间的落差。
对监管者而言,任务不止是发现违法回答:还包括保存对话作为证据、确定应由哪项服务或平台负责、及时取得补救措施,以及确认修正后的系统行为能否大范围落实。巴西的选举规则可以为巴西境内选举活动设定义务,却无法仅凭一国规则就保证每个全球部署的聊天机器人,都能对每一位选民的每一次提问作出合规回答。
最终考题:速度与执法一致性
2026年的规则让TSE拥有比一般性“打击虚假信息”更明确的工具:标识义务、深度伪造定义、对推荐系统的限制,以及围绕投票日设置的时间窗口。
但其实际成效仍取决于快速执法、平台配合,以及对那些无法简单归入“真实”或“虚假”的案件作出事实判断。博索纳罗AI化身争议显示,真实感、同意与否、标识、传播方式和选举目的都可能影响结论。随着AI政治内容越来越容易制作、也越来越难追溯,巴西本次选举将检验:一套细致规则能否跟上它试图治理的技术。
现有报道未提供足够可靠的原始数据,无法确认AI相关TSE案件总数、具体下架命令数量,或巴西民众使用AI及愿意向聊天机器人咨询候选人的全国性统计。因此,在取得法院原始数据或调查方法前,不应将这些数字视为既定事实。