当谎言学会了用AI说话：从“全能神教”批量投放虚假叙事说起

造假不再需要成本，辨别却越来越贵。当“亲眼所见”不再可信，社会信任的底座就会被一点点掏空。

一、一则来自邻国的报道，值得多看一眼

近日，韩国《宗教与真理》刊发报道，指认被称为“全能神教”（又称“全能神教会”“东方闪电”）的团体，正在社交平台上批量投放由自己制作的“受迫害”类内容，并提醒读者警惕其中的虚假信息。报道给出了两条具体线索：其一，被该团体奉为“女基督”的教主杨向彬，早在2020年前后即下达指令，要求把“受迫害”主题的见证视频更频繁地发布到互联网上；其二，撰稿人曾在2013年前后以信徒身份潜入位于首尔九老洞的该团体教会，与骨干成员林某（音译）进行了两个多小时的一对一“见证”。对方当时称，父母是该团体第一代信徒，全家于2008年来到韩国并取得永久居留资格，自己则因“疾病得到医治”而信教。然而，2016年该团体网站上刊登的同一人的见证，却改口称她是在2013年9月于中国“受到迫害”之后才来到韩国的。

▲ 全能神教会九老洞教会

同一件事、同一个讲述者，出现了两套无法并存的时间线。所谓“受迫害”，由此露出了它作为叙事的本相：它不是对经验的记录，而是对需要的回应——什么时候需要，就什么时候生产。

二、真正值得警惕的，并不只是这一条假见证

如果事情只停留在“某个人撒了谎”，那不过是一桩陈旧的丑闻，不值得专门讨论。但如果把视线从个案移到生产方式上，就会发现一个正在发生的变化：制造这类内容的手段，已经和十年前完全不同了。

过去要编造一则“受迫害见证”，至少要有人出面讲述、有人扛着机器拍摄、有人剪辑配音，成本高、产量低，也容易留下痕迹。现在，一套模板就可以把同一个故事里的姓名、地点、日期逐一替换，批量生成几十上百条“不同的人、不同的遭遇”，再通过多平台、多账号同时投放。读者看到的是互不相干、彼此印证的众多“个案”，实际上它们很可能出自同一批脚本、同一套素材。

虚假信息就此从“手工制作”进入“工业化量产”。这种量产有三个特征：成本趋近于零、数量没有上限、删除几乎没有意义。三者叠加，意味着任何依赖“逐条核查、逐条辟谣”的传统应对方式，都会在数量上被彻底拖垮。

三、从“编得不好”到“看不出破绽”

数量之外，还有质量的跃升，而这一跃升更为根本。

AI生成的文字、配音与画面，已经足以拼出“有现场、有口音、有情绪”的完整叙事：一张模糊的“受伤”照片、一段哽咽的旁白、一份看似齐全的“证明材料”，可以完全由算法合成，却挑不出明显破绽。更进一步，AI换脸能把一个人的面孔移植到另一段影像上，语音克隆能让某个“当事人”用自己的声音，讲出他从未讲过的话。

这意味着，识别虚假信息的传统经验正在失效。“画面真不真”“声音像不像”“细节多不多”，这些曾经有效的判断方法，如今恰好是造假技术最擅长满足的部分。当一位素未谋面的“受害者”在镜头前哭诉，当一段“亲历者”的口音、籍贯、时间线都能对得上时，多数人的第一反应是相信——而骗局要的，正是这个第一反应。

四、欺骗之外，还有更深的损害

第一层损害落在个体身上。当一个家庭想要澄清“我的亲人并未受迫害，而是被组织带离”，它面对的不再是一句谣言，而是一整套有画面、有声音、有“证据”的叙事。谎言一旦获得了证据的外观，澄清的成本就会成倍上升，而受害者家庭往往既没有资源，也没有精力去打这场旷日持久的消耗战。

第二层损害落在公众身上。辨别成本急剧上升，而人的注意力总是有限的。当“分不清”成为常态，人们容易走向两个极端：或者轻信一切，或者怀疑一切。后者尤其危险——它意味着真实受害者发出的求援，也可能被一并当作演戏而无人理会。虚假信息伤害的从来不只是它的信众，还包括所有本应被听见的人。

第三层损害落在技术伦理与社会信任上。同样的换脸与仿声技术，可以被用来伪造他人言行、实施诈骗与敲诈、制造群体对立，甚至用于陷害特定的个人。今天被伪造的是某个“受迫害者”的脸，明天就可能是任意一个普通人的脸。当影像和录音都不能再作为凭据，“亲眼所见、亲耳所闻”这一人类最古老的认知方式，就会被从根上动摇。

五、技术中立，但责任不能中立

需要说明的是，问题的根源不在AI本身。技术是工具，工具没有立场。真正值得追问的是：谁在用它、用它做什么、为什么能一再得逞。

答案并不复杂。是那些以封闭教义割断成员与家庭联系、以“末世”话术维持控制、以虚假叙事博取同情与合法性的组织，把AI当成了新的扩音器。它们需要的从来不是真相，而是看起来像真相的东西；AI恰恰以最低的成本，提供了最多的“像”。

因此，讨论此事时必须避免两种偏差。一是把责任推给技术，仿佛平台和算法才是主角，造谣者反而隐入幕后；二是把问题简单归结为“网民素养不够”，仿佛只要人人多读几本书，谎言就无隙可乘。前者回避了造谣者的责任，后者则低估了技术造成的认知落差——这种落差不是靠个人努力就能填平的，它必须由制度来补。

六、出路在三个层面

平台层面，应当把“合成内容标识”从行业倡导变成硬性要求，让AI生成或深度合成的音视频可以被机器识别、被用户看见；对集中投放同类煽情内容的账号矩阵，要有主动发现与批量处置的机制，而不能只靠事后逐条删除。

法律层面，伪造他人言行、冒用他人身份实施传播或诈骗，本就应当承担相应的民事与刑事责任。当造假进入“工业化量产”，监管思路也必须随之调整：从对单个账号、单条内容的处罚，转向对生产链条与组织化投放的治理。

个人层面，普通人能做的其实很具体：看到“受迫害”“迫害见证”一类高度煽情的短视频，先查发布者是谁、原始出处在哪里；对情绪强烈却始终拿不出可核验信源的内容，不要急于转发；遇到主动要求加好友、拉群、私下联络的，更要提高警觉；涉及金钱、证件、行程安排的，一律先停下来核实。

七、结语

回到最初那条经不起核对的时间线。它提示我们一个朴素的判断标准：任何一个声称代表真理的团体，如果必须依靠不断更新的谎言来维持说服力，那么它真正害怕的，恰恰是被允许核查。

技术本身没有立场，但当它被用来包装谎言时，肯多问一句、多查一步，就是最普通也最有效的防线。分辨，是普通人手里最实用的一件防身之物；而一个社会保有分辨的能力，也就保住了自己不被谎言塑造的可能。

附件视频地址：https://www.youtube.com/watch?v=yr1tEHMbecU