雷火竞技首页

抵御“智能幻象”:主流媒体内容生产中的AI幻觉与风险防范实践
发布时间:2025-12-23
 生成式人工智能为主流媒体内容生产带来效率提升与创意支持,但随之产生的AI幻觉问题不仅会导致技术使用的信任危机与效率悖论,更易对新闻真实性与媒体公信力造成连锁性损害。  本期推荐的论文基于对25位从业人员的深度访谈,发现主流媒体内容生产中的AI幻觉主要包括事实虚构型、语境错配型、逻辑断裂型、语用误导型和跨模态幻觉几类。现阶段,主流媒体在个体层面形成了以职业伦理、技术回避、分层使用和技术驯化为核心

  生成式人工智能为主流媒体内容生产带来效率提升与创意支持,但随之产生的AI幻觉问题不仅会导致技术使用的信任危机与效率悖论,更易对新闻真实性与媒体公信力造成连锁性损害。

  本期推荐的论文基于对25位从业人员的深度访谈,发现主流媒体内容生产中的AI幻觉主要包括事实虚构型、语境错配型、逻辑断裂型、语用误导型和跨模态幻觉几类。现阶段,主流媒体在个体层面形成了以职业伦理、技术回避、分层使用和技术驯化为核心的多层次防控机制,组织层面则处于技能培训、内容标识和初步制度探索阶段,存在系统化制度与技术工具支持尚不完善的“中空”现象。应对AI幻觉促使从业者强化职业认同,重塑职业价值,同时也为主流媒体构建“可信内容中枢”身份提供了契机。主流媒体需在个体、组织与技术多层协同中构建对AI幻觉风险的系统性防范框架,以在智能传播时代实现新闻安全与公信力的再生产。

  ●现阶段,主流媒体已初步形成多层次的AI幻觉风险防控机制,但整体仍处于过渡式模式,需要进一步从碎片化应对发展成系统性建构的治理格局。

  ●一线从业者经验化、分散化的防控实践,凸显了新闻专业主义在技术中介环境下的韧性。而组织层面风险管控的“中空”现象指向了当前标准化内部制度与技术工具等仍不完善。不同层级、不同类型媒体机构在管理意识、治理能力和推进速度上存在显著差距,难以实现全面而系统的制度整合。

  ●AI幻觉问题成为了主流媒体强化职业认同与媒体公信力的契机。在逐渐认识到技术的可及性与局限性后,主流媒体从业者进行了对自身职业价值的反思与再确认。AI幻觉风险的社会隐忧也进一步凸显了主流媒体作为“可信内容中枢”的制度优势和公共责任。

  “AI幻觉”,即大语言模型生成的内容在形式上连贯可信,但在事实层面出现错误、虚构或无法验证的现象。作为当前人工智能研究中最具争议的问题之一,AI幻觉不仅仅是局部的技术偏差问题,而是涉及认识论与实践论层面的社会系统性风险,需要在政策、制度、伦理层面进行综合治理。

  本研究聚焦于主流媒体内容生产中的AI幻觉现象,从主流媒体从业者的视角出发,深入考察现阶段AI幻觉在内容生产中的表现、风险及防控实践,以期拓展现有研究的视野和维度,并为生成式人工智能在新闻业的可控应用提供更具操作性的经验与路径。研究招募了25名中央级、省级、地市级主流媒体从业人员,受访者包括记者、编辑、主编等不同岗位,覆盖了新闻生产的核心环节,且均在新闻生产实践中对生成式人工智能有一定的认识和使用。

  但同时,频繁出现的虚构事实、逻辑混乱、数据捏造等问题让从业者们认识到“AI并不是全能的”,而是一种存在可信度与可控性盲区的技术工具。

  各类固有的AI幻觉问题成为阻碍AI进一步参与主流媒体日常内容生产与融入核心生产流程的关键原因。一方面,AI幻觉极大程度上削弱了从业者对AI技术的信任,使其出于“用而不信”的心理,主动降低对AI工具的使用频率和深度。另一方面,AI幻觉不仅增加了从业者在内容生产中的核查负担,并会在内容生产链条中形成连锁反应,扩大内容失准的影响范围与修正难度。

  AI幻觉所引发的负面影响不仅限于技术使用层面,更会对新闻真实性和媒体公信力带来潜在风险。首先,AI幻觉现象会对新闻真实性构成直接威胁,即便是在看似低风险的文本加工环节,AI幻觉也可能在不经意间对新闻真实性造成损害。

  其次,在AI幻觉可能引发的媒体公信力危机中,主流媒体首当其冲受到影响。作为制度化传播体系中的核心节点,一旦主流媒体的传播内容中出现由AI幻觉引发的事实错误和伪造信息,不仅会动摇媒体自身的专业形象,更会对主流媒体的声誉造成严重冲击。

  针对AI幻觉可能带来的信息失真与职业风险,主流媒体从业者在个体层面逐渐形成了以“专业认知—使用选择—把关实践”为核心的防控机制。首先,在专业认知层面,职业伦理与责任意识构成了从业者防御AI幻觉的内在动因,对从业者的AI使用行为起到了重要的调控作用。多数受访者强调自身作为主流媒体从业者所承担的“把关责任”与“身份责任”,这一职业身份不仅意味着组织层面的管理要求,更体现为日常实践中的自我约束与价值自觉。

  其次,在对AI工具的使用选择上,从业者展现出一定的差异化策略。部分从业者会通过回避技术应用来规避幻觉可能带来的工作负担与内容失准风险。另一些从业者则通过设定较强的技术边界,规范化管理AI工具的介入,以实现技术赋能与风险防控的平衡。他们会主动适应AI的技术逻辑,在把握AI幻觉表现和类型的基础上划出AI技术参与内容生产的范围,根据任务类型、平台属性与内容性质的不同分配AI技术资源,灵活调整AI辅助生产的角色与深度。

  最后,在把关实践上,树立“去盲信化”把关意识是从业者们的AI内容审核起点,核心在于破除对AI生成内容的信任惯性,明确AI的“辅助工具”定位。

  在机构层面,主流媒体当前对于AI使用及AI幻觉风险的规制尚处于探索阶段,主要从组织培训与教育、内容标识与提示、AI应用制度规范三部分展开,在已着手制定措施的机构中,进展、力度以及实际执行效果也存在较大差异。

  必赢国际437官方

  首先,在引入AI技术的早期阶段,主流媒体会通过组织培训的方式提升内部从业人员对AI的了解和AI应用的积极性,培训聚焦于实操应用及其对内容生产的赋能机制,针对AI工具使用的风险警示与伦理规范则相对缺失。此外,部门例会、口头警示等方式也是主流媒体常见的AI工具风险教育形式。

  其次,现阶段主流媒体都会对AI生成的图片与视频进行内容标识。但AI幻觉导致的事实错误或逻辑漏洞可能因文字表述的抽象性而被忽视。人工的二次修改与调整也加大了AI使用的辨别难度。而对于文字类内容创作中的AI应用,如在新闻稿件中引入AI生成语段、辅助润色、提纲设计等,目前大多数媒体单位并未做出明确标识规定。

  最后,宏观层面的政策规制为新闻领域的AI技术使用,在风险警示、伦理底线界定等方面发挥了基础引导作用。但由于应用历程尚浅,AI幻觉的深层次问题尚未得到行业的普遍重视与深入研究,对AI的使用与风险防控仍未进入组织化管理范畴。因此,审核AI内容、防控AI幻觉风险的核心责任前置在内容生产的最前端,即以记者为代表的一线从业者群体。这一责任分配对主流媒体从业者的综合素养提出了双重要求,即在延续新闻专业修养,坚守事实核查、信源验证的基本准则的基础上,还要具备相应的AI素养与幻觉把关能力。

  在防控AI幻觉风险的实践过程中,从业者逐渐明确了“人机本质差异”的认知基点,重新确认了自身职业存在的不可替代性,强化了自身的职业主体性与专业意识。首先,在持续使用AI工具的过程中,从业者们形成了“AI无法替代人”的共识。新闻采写、人际沟通、情感表达、复杂语境理解等内容生产的核心维度仍依赖人类的经验积累、情感共鸣与思辨能力。

  其次,直面并应对不同类型AI幻觉的过程反向催化了从业者的职业价值与职业自信。随着AI幻觉的频繁暴露,从业者们对“真实性”“准确性”“求证”等职业准则的强调愈发凸显,这些原则也逐渐成为从业者对抗技术缺陷的核心价值标尺。

  在此基础上,面对AI的快速迭代与大规模部署,从业者也意识到在人机协同中寻求进步是可持续的长期选择。部分受访者尤其是年轻从业者表示,自己是以更加开放的态度构建与AI技术的协作关系,主动将技术纳入职业体系中加以调控和利用,既充分利用AI在内容生产方面的效率优势,同时也坚守职业主体的核心判断权。

  AI幻觉风险一方面对媒体公信力带来了挑战,另一方面也为主流媒体重构“可信内容的中枢地位”提供了契机。受访者普遍认同主流媒体在防控AI幻觉风险、引导行业规范中的核心地位和责任担当。与此同时,人工智能的基础设施化加剧了新闻生态的信息不对称,放大了公众的信任危机。在这一意义上,主流媒体不仅应当作为信息甄别与核查的前沿阵地,更需要主动承担起“责任性媒介”的公共职能。这既是对AI幻觉风险的直接回应,也标志着智能传播时代主流媒体社会职能的再进化,主流媒体的核心价值将升维成AI信息洪流中的“锚定点”,以专业核查能力抵御技术缺陷,以价值坚守重建公众信任,完成“可信内容中枢”的身份重构。

  从短期来看,人工智能技术与新闻业的融合将进一步深入,新闻业不仅需要在日常内容生产中适应这一新常态,也应主动思考未来的发展方向,从制度层面做好与人工智能技术进行深度融合的准备。因此,主流媒体内容生产中的AI幻觉风险治理要超越个体的专业自觉或组织的临时规范,逐步上升为多层次的系统性协同应对。

  首先,基于一线从业者在AI技术中介环境下的不可替代角色,个体层面的能力建设需成为首要切入点,以建立抵御AI幻觉风险的第一道防线,并为后续的制度化治理提供坚实的人才与能力支撑。当前,从业人员呈现出风险防控经验零散化与能力不均衡的格局,AI使用深度与AI素养参差不齐,因此应当系统加强从业者个体层面对于技术观念、技术使用、技术伦理的培训与支持。

  其次,主流媒体在组织层面的AI技术引进与制度管理需形成“同步推进、双向适配”的协同关系。当前主流媒体的制度管理层面呈现出一定的滞后性,需主动介入AI幻觉风险防控,完善AI使用的内部操作规范,细化AI在内容生产环节的使用标准,并明确使用、监管办法与原则。具体而言,可建立覆盖采、编、审全流程的AI使用规范和内部操作标准,同时优化内容审核流程,衔接传统审核与AI风险防控环节,探索建立AI生成内容的追溯与标识机制。

  最后,主流媒体需围绕自身技术应用场景和需求对内容生产中的AI工具进行优化。首要任务是打通AI工具使用、反馈与优化之间的通道。一方面引导从业者将使用过程中出现的幻觉问题及场景等进行标注、分类和反馈,帮助平台团队更精准地修正算法偏差,推动AI幻觉的治理从“用户端的被动防控”走向“生产端的主动优化”。另一方面确保技术团队或第三方大模型平台对算法模型开展同步改进,推动AI技术优化直接对接内容生产中的实际痛点。此外还可引入外部技术审核与多模态检测手段,为AI幻觉风险防控提供自动化辅助。

  长期以来,把关被视为新闻生产的核心环节与职业象征。但在“全民生成”的时代,既有的把关体系、把关方式与把关策略受到颠覆性的冲击。然而,本研究揭示了在生成式AI及其固有的“幻觉”风险挑战下,新闻从业者的把关职能非但没有消弭,反而在新技术条件下得到重新激活与深化。新闻从业者正在由传统的“守门人”角色转化为“智能协同的元把关者”,在与技术共生的实践中重新确立新闻职业的主体地位与价值秩序。

  首先,AI幻觉的涌现扩展了智能传播时代“把关”的内容与对象。随着AI深度介入新闻生产,把关的边界从传统对信源、事实、观点和意识形态的筛选与核查延伸至人机协作的全过程。

  最后,从媒介生态视角来看,“把关”在传播系统中的意义与边界也得到了拓展。当人工智能生成的内容充斥信息场域、公众判断力受限时,主流媒体转而成为维系社会真相认知的制度性保障。

  由此可见,AI幻觉风险更是一项关联新闻实践模式、媒体制度结构与职业伦理认知的深层议题。在应对这一问题的过程中,主流媒体正在经历从工具化使用到价值协商、从技术适应到制度建设、从身份焦虑到职业重塑的实践转变。

  聂静虹:中山大学新闻传播学院教授、博士生导师;李肖楠:中山大学新闻传播学院博士研究生

  本文为原论文节选版,内容有删改和编辑,原载于《新闻与写作》2025年第11期,注释从略。返回搜狐,查看更多