一场摩根大通诉讼，如何揭示AI深度伪造视频的现实风险

长期以来，法律纠纷都会在公众舆论中发酵。但随着生成式人工智能的发展，这种讨论的方式正在改变。

最近，一起涉及摩根大通（JPMorgan）的诉讼成为典型案例：法院文件中的指控很快被社交媒体放大，而一段据称根据这些指控“还原情节”的AI生成视频迅速传播，使原本复杂的法律争议变成了视觉化叙事。

问题在于：当观众“看到”视频时，很多人很容易把它当成真实事件的证据，而忽略它只是基于尚未被证实的指控进行的合成演绎。

当“指控”看起来像“证据”

在法律体系中，诉状只是争议的一方提出的指控，还需要通过证据、证人和法庭程序来验证。

在这起案件中，一名前员工在纽约提起诉讼，指控一名摩根大通高管实施性侵、骚扰和胁迫等行为。这些指控目前仍存在争议，并被该高管及银行方面明确否认。

然而，当一段AI生成的视频在社交平台上流传时，许多观众接触到的不是法律文件，而是一段“仿佛记录现场”的画面。

深度伪造技术（deepfake）可以生成高度逼真的图像、音频或视频，让人看起来好像说过或做过某些事情，但实际上这些内容完全由AI合成。

这种从“阅读指控”到“观看事件”的转变，会显著改变公众对案件的直觉判断。

病毒式传播放大骚扰与名誉风险

社交媒体平台天然偏好情绪强烈、视觉冲击力大的内容。

相比动辄几十页的法律文件，一段短视频更容易被转发、评论和再创作。在这起摩根大通纠纷中，原本已经引发大量讨论的指控，因为AI生成视频的出现而进一步扩散，在多个平台上迅速传播。

合成媒体也越来越常被用于网络骚扰。伪造的视频、音频或图片可以被反复转载、剪辑或恶搞，一旦广泛传播，往往很难彻底删除。

结果就形成一种循环：

• 争议性指控吸引关注
• 可视化内容提升传播速度
• 病毒式传播又进一步强化公众印象

即使这些内容本身是虚构的，它们也可能成为许多人理解事件的主要来源。

深度伪造如何模糊事实边界

法律纠纷本身就复杂：

• 法院文件包含一方的指控
• 媒体报道对案件进行概述
• 社交媒体讨论往往去掉细节

当AI生成内容加入这一信息生态后，这些层次很容易被混淆。

对于在社交平台上刷到一段视频的普通观众来说，很难分清以下几件事：

• 哪些是法院文件中的指控
• 哪些是当事人的否认
• 哪些是媒体报道
• 哪些是AI生成的情节再现

在这种情况下，一段完全虚构的视频可能被误认为是“证明事件发生”的画面，或者扭曲真实争议。

问题在于：如果背后确实存在真实诉讼，合成内容就更容易借用真实事件的可信度。

“说谎者红利”问题

深度伪造还带来另一个被称为“说谎者红利”（liar’s dividend）的现象。

当公众知道AI可以生成逼真的假视频时：

• 真实证据可能被轻易否认成伪造
• 伪造内容也可能被辩称只是“情景重现”

结果，讨论的焦点从证据本身转向谁在更有效地影响舆论。

为什么这起事件具有更广泛意义

摩根大通的案件并不是孤例，而是一个更大趋势的缩影。

随着AI工具变得越来越容易使用，合成图像和视频正被用于冒充他人、骚扰、抹黑或损害声誉。在许多国家，相关法律和平台规则仍在追赶技术的发展。

这类事件揭示了一个新的信息传播模式：

• 真实法律纠纷提供素材
• AI工具把指控变成视觉叙事
• 社交媒体在事实核实前就让内容病毒式传播

等到调查结果或法院裁决出现时，公众的印象往往早已形成。

面对AI时代信息的一个基本原则

当社交媒体上出现与诉讼相关的病毒式内容时，最安全的做法是区分三类信息：

1. 已通过证据或调查证实的事实
2. 法律文件中的指控
3. AI生成的演绎或虚构内容

在生成式AI时代，这三者之间的界线越来越容易被混淆。而这起摩根大通案件正说明：这种混淆可能在法院给出结论之前，就已经深刻影响公众认知。