摘要

“人工智能+”行动推动AI全面融入新闻生产，本文剖析AI冲击下新闻真实性多维困境，探索构建政府、技术、平台、社会多元共治体系，提出媒体筑牢制度核查、权威语料库、现场采访、专业培训四道防线，为AI时代守住新闻真实提供路径参考。

党的二十届四中全会审议通过的“十五五”规划建议，“提出全面实施‘人工智能+’行动”，“深化主流媒体系统性变革，推进新闻宣传和网络舆论一体化管理”。大语言模型、生成式AI、多模态模型与智能体技术正加速进入媒体新闻采集、内容生成、审核、分发和用户互动全流程。人工智能从单点工具升级为媒体数字基础设施，人机关系由人工检索信息转向AI组织、生成、深度解读信息。这种趋势下，我国各级主流媒体纷纷布局自研AIGC平台，构建分层分类、自主可控的媒体AI生产体系。例如，人民网打造“初芯”智能体平台、新华社推出“新华妙笔”、中央广播电视总台上线“央视听媒体大模型”、芒果TV搭建“芒果灵创”AIGC内容生产平台等。

技术效率提升的同时，新闻真实性面临复杂风险。腾讯研究院2025年9月发布的《中国公众对生成式AI的看法与使用行为》报告显示，60.4%的调研对象担心“虚假信息和假新闻泛滥”。AI幻觉可能把不确定内容包装成完整答案；文生图、文生视频和语音克隆降低了伪造门槛；算法推荐又倾向于放大情绪强烈、视觉刺激和互动率高的内容。虚假信息不仅在社交平台上展示，还会被搜索引擎、知识库和后续模型重复吸收，形成“生成—传播—引用—再生成”的循环。新闻真实性问题由过去对单条报道的核实，扩展为对数据、模型、平台机制和内容来源链条的系统治理。

真实性是新闻业区别于一般信息生产的核心规范，也是社会形成共同认知的基础。研究人工智能背景下真实性困境，有助于新闻媒体重构专业能力：既利用人工智能提升生产效率，又通过权威核查、现场报道等坚守真实性底线，维护社会认知秩序。

AI应用对信息传播真实性的挑战

AI技术驱动下的虚假信息泛滥

生成式人工智能大幅降低内容生产成本，网络涌现大量同质化、无事实依据的低质量内容，学界将其称作“数字泔水”或“AI slop”。此类内容绕过传统内容审核机制，依托算法持续分发，加剧媒介信息混乱度与用户认知负担，挤压原创创作者生存空间，给内容真实性造成极大威胁。更深层次风险是，劣质和虚假AI生成内容回流污染大模型训练数据集，形成虚假信息增殖循环。

AI幻觉：无中生有的信息污染。AI幻觉是指大模型生成的文本逻辑通顺、表述肯定，但内容与客观事实、原始信源严重不符的失真现象。根源在于大语言模型依托概率推演生成内容，不具备自主辨伪能力；训练数据中的错误、滞后信息及固有偏见，都会直接影响生成内容的准确性。面对信息缺失或诱导性指令时，模型往往编造内容作答，且模型迭代优化无法同步提升内容可信度。

该问题对新闻行业冲击显著，AI可虚构人物言论、法律法规、统计数据、学术文献及事件细节，迷惑性极强。2025年欧洲广播联盟（EBU）联合英国广播公司（BBC）开展的调查显示，各个国家的AI助手普遍存在新闻内容歪曲问题，45%的AI回答存在重大漏洞，31%存在严重信源问题，20%存在明显准确性问题。随着AI助手逐步替代传统搜索渠道，一次错误回答会被用户、媒体、其他模型反复引用传播，形成“多源佐证”的假象，大幅提升信息辟谣的难度与成本。

深度伪造的危害不仅是“虚假内容被相信”，还包括真实内容被轻易否认。当公众知道音视频皆可伪造时，责任主体可以反过来声称真实证据是AI生成的。由此形成“证据通胀”——过去具有较高证明力的照片、录音和视频，如今需多重佐证方可核验真伪。公众可能陷入“一切皆可伪造、一切皆可否认”的认知困境。

AI虚假信息泛滥引发的社会层面深层影响

事实核查机制失效，新闻生产流程失守。传统新闻事实核查主要依靠采访对象确认、现场观察、文字和画面比对、双信源验证等方法。AI介入后，原始材料与最终报道之间增加了模型生成、自动摘要、图像修复和智能改写等黑箱环节。媒体为防止错误，必须对AI输出开展二次核验，形成“效率悖论”：生成速度提高，但核查成本和责任风险同步上升。若采编系统未记录模型版本、提示词、引用来源和人工修改痕迹，一旦发生失实，记者、编辑、平台和模型供应商之间的责任链也难以厘清。

破坏公共信息生态，社会撕裂不断加剧。生成式AI可定向针对特定群体改写叙事、煽动情绪、伪造视听证据，让虚假信息具备极强的针对性与蛊惑力。再叠加平台算法将同质化AI合成内容不断推送给固定人群，形成“信息茧房”，不同群体接触到的“事实版本”可能完全不同，不断固化固有偏见、分化价值立场。公共讨论逐步脱离事实基础，沦为身份对立与立场博弈。全社会难以形成统一客观的事实共识，严重阻滞政策传达、基层治理与跨群体协同，持续放大认知鸿沟，深化社会撕裂。

技术资源形成垄断，滋生不公认知霸权。深度伪造的最终目的并非欺骗个体，而是维系一种被算法治理的宏观结构。在这一结构中，“真实”成为一种可被重新运算、生产并分配的资源。掌握算力、数据、分发渠道等海量技术资源的机构如果受到操纵，可低成本规模化生产带有立场偏向、价值导向的AI生成内容，把技术垄断转化为“认知霸权”：通过主动设置议题、定向推送内容、引导大众情绪，持续干预舆论走向和公众认知。长期处于“认知霸权”下，公众自主甄别、独立思辨的能力逐步弱化，公共信息环境陷入深度失序，严重损害信息传播的公平性与客观性。

扭曲虚构历史记忆，导致公众认知错乱。历史人物、档案图片和重大事件一旦被错误标注或娱乐化改造，可能进入AI检索和问答结果。2026年，有用户搜索历史人物黎元洪时，AI助手曾错误展示演员范伟的PS图片，原因之一是相关恶搞图片在网络中长期高频传播并被混合收录。这表明模型可能把“传播数量”误作“事实质量”。若缺乏权威史料库、来源排序和人工校核，AI合成内容会逐渐覆盖真实记录，进而影响社会记忆和历史传承。

AI背景下真实性的多主体治理路径

面对人工智能引发的真实性危机，单一主体的治理已难以奏效，必须构建多方协同的共治格局。

政府层面：完善制度体系，强化协同监管力度

政府应建立覆盖模型研发、内容生成、平台传播和商业变现的全链条责任体系。以我国实施的《人工智能生成合成内容标识办法》为基础，落实显式标识与隐式标识制度，形成源头标识与传播核验的法治基础。同时，明确标识并非免责条款，对故意散布谣言、扰乱公共秩序的行为，应依法适用《中华人民共和国治安管理处罚法》《中华人民共和国民法典》乃至刑法进行追责。此外，需强化网信、公安、广电等多部门的线索共享与快速联动处置机制，形成监管合力。

平台层面：强化主体责任，完善内容治理闭环

平台应将AI内容治理嵌入上传、审核、推荐、变现和举报全流程。对灾害、战争、公共安全、医疗和金融等高风险内容，应提高人工复核比例，降低未核实内容的推荐权重；对未标识、冒用身份或反复发布虚假内容的账号，应采取限流、取消收益、封禁和证据留存措施。平台还应保存生成、上传、编辑和传播日志，为跨平台追踪和责任认定提供依据。辟谣不能止于删除原帖，还应向已接触用户定向推送纠错信息，形成“发现—阻断—溯源—澄清—复盘”的闭环。

社会层面：提升媒介素养，构建多元共治格局

开展媒介素养教育，引导公众辨别信源、理性看待算法、规范使用AI工具。公众需掌握识图溯源、交叉核验信息等实操方法，并认识到标注AI生成、画面逼真均不能等同于内容真实可信。学校、社区、媒体与平台可共同推广中国互联网联合辟谣平台等官方辟谣核查渠道，遏制虚假信息二次扩散。畅通线上举报通道，凝聚社会监督力量，依托智库深化相关研究，打造多方协同、全民参与的信息治理屏障。

新闻媒体的责任重构：

筑牢虚假信息防控四大核心防线

新闻媒体的竞争优势正在从信息稀缺时代的“率先发布”，转向AI合成内容时代的“可信证明”。专业媒体既要使用AI提高效率，也要将求真责任落实到组织制度、技术平台和职业教育之中。

第一道防线：强化社会责任与真实性核查机制

面对生成式人工智能带来的内容伪造、事实失真等传播风险，主流媒体需主动压实内容生产主体责任，构建制度化、标准化的AI内容风控体系。各级媒体可编制内部AI使用手册或操作指引，面向采编人员出具清晰落地的技术伦理规范与内容创作负面清单，划定AI工具使用边界。严格禁止未经人工复核校验的AI生成内容直接对外刊发；针对涉时政、法治、公共安全等关键领域重大题材报道，严禁依托人工智能独立完成全文撰写。

在制度规范落地基础上，主流媒体持续依托自研技术工具筑牢事实核查防线。例如，人民日报媒体技术股份有限公司主导研发的人民日报智能审校系统、国际新闻“鉴真”事实核查助手等智能工具，依托权威报道信源知识库，使用多重技术手段构筑AI风控屏障，能有效规避新闻报道中的事实偏差与舆论风险，持续巩固主流媒体内容公信力。

国际新闻“鉴真”事实核查助手。

第二道防线：构建真实数据库与数字存档体系

媒体应把长期积累的原始采访记录、照片、视频、录音、稿件版本和权威文件等存量资源，建设为可核验、防篡改的“真实素材数据库”。素材进入系统时生成哈希值，留存完整元数据链条，保存拍摄时间、设备、地点、授权和编辑记录；针对重大报道、重要素材，可叠加数字签名、可信时间戳、区块链存证、C2PA内容凭证等多重防伪溯源技术。

媒体可联动档案馆、科研机构和公共部门等，保存未经生成式AI处理的原始史料，为搜索、核查、模型训练等提供高质量数据。在此基础上，各级主流媒体可以发挥内容资源优势，牵头建设承载主流价值导向、经过真实性核验的权威语料库，从数据源头降低AI幻觉、深度伪造内容的生成风险，夯实内容治理底层支撑。

第三道防线：坚守“身临现场”的新闻报道实践

当AI技术能够生成越来越逼真的画面和文字时，记者在场、亲历观察和持续追问反而更具不可替代性。新闻现场不仅提供图像和视频，还包含环境细节、人物关系、情绪变化和因果线索，这些信息难以通过网络材料完整复原。主流媒体应强化现场采访标识，公开记者身份、采访时间和素材来源，必要时展示连续镜头、原始音频和采集过程。在AI时代，新闻“在场性”并非单纯的行业传统与职业情怀，更是抵御深度伪造、AI虚假内容的核心取证能力，也是专业媒体重塑公众信任、形成真实内容差异化价值的核心竞争力。

第四道防线：重塑新闻专业教育与从业者培训

新闻传播学科优化课程设置，新增AI新闻伦理、数据核验、多模态取证、算法批判、内容溯源相关教学模块，提高学生内容真伪辨别的专业能力。新闻机构定期开展专项业务培训，推动采编人员熟练运用技术核查手段，并充分认知检测技术存在误判、漏判等固有局限，强化人工审核意识。媒体同步调整内部考核导向，弱化流量、发稿速度权重，重点考察信源质量、核查流程完备性、纠错效率与报道公共价值，通过正向激励杜绝虚假内容生产传播。

结 语

人工智能将新闻业带入真实性竞争的新阶段。机器幻觉、深度伪造、数字泔水、算法迎合和数据递归污染，使虚假信息呈现低成本、规模化、高仿真和强互动特征。治理需要政府制度、技术标准、平台责任和公众素养协同推进，而新闻媒体仍是其中不可替代的专业主体。未来主流媒体的核心竞争力，不在于和人工智能比拼数量和速度，而在于依托现场采访、权威信源、透明流程、全程可溯源数字存档，形成一套完整闭环，有力佐证内容真实性。始终将人的专业判断、新闻伦理准则与媒介主体责任置于核心位置，新闻业才能在技术变革中维护社会共同事实，发挥公共守望职能。

（作者张旸、王洋、柳慧斌单位均系人民日报媒体技术股份有限公司）

来源 | 新闻战线【原文刊发于《新闻战线》2026年8月，原标题《AI背景下新闻真实性困境与媒体破局路径研究》。】

值班编辑 | 胡炜