生成式人工智能服务管理暂行办法：对舆情内容生产的影响

《生成式人工智能服务管理暂行办法》通常被舆情内容生产领域视为我国针对生成式人工智能服务的基础性规范之一，其内涵主要涉及服务适用范围、生成内容责任、训练数据来源、标识提示、投诉处置、安全评估与主管部门协同监管等方面。该办法由国家互联网信息办公室、国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部、国家广播电视总局于2023年公布，并自2023年8月15日起施行；从舆情业务来看，其影响并不停留在技术合规文本层面，而是逐步进入选题辅助、材料整理、稿件生成、事实核验、发布留痕与责任划分等环节，使舆情内容生产从单纯追求速度，转向同时强调来源可说明、过程可检查、结果可修正的运行状态。

这一办法主要规范什么？

从适用对象来看，《生成式人工智能服务管理暂行办法》主要针对利用生成式人工智能技术向境内公众提供生成文本、图片、音频、视频等内容的服务活动，相关服务提供者在开展此类服务时，需要承担网络信息内容生产者责任，并依法履行个人信息保护等义务；对于未向公众提供服务的研发、测试等情形，办法也作了边界性区分，由此可以看出，其监管重心落在面向公众的内容生成与传播后果，而不是一般意义上的技术研究本身。

在舆情内容生产环境中，这一边界具有较为直接的约束意义，因为舆情简报、风险提示、回应口径初稿、摘要归纳与传播趋势描述都可能由生成式人工智能参与形成，而当这些内容进入对外发布、内部报送或跨部门流转过程时，生成结果的真实性、可靠性、来源说明与责任归属便不再只是写作质量问题，而会转化为合规管理问题。尤其是当模型根据不完整材料生成概括性判断时，文本表面流畅并不必然代表事实链条完整，相关机构有必要把“生成内容可采信”的条件前移到材料准入、人工复核与发布审签环节，而不是仅在出现争议后补充说明。

它怎样改变舆情内容生产的责任关系？

舆情内容生产过去较多围绕编辑、审核、报送和发布岗位展开，生成式人工智能进入后，内容形成链条中增加了模型服务提供者、数据使用方、业务调用方与最终签发主体等多类角色，责任关系也随之变得更长。办法强调服务提供者应当提升生成内容的准确性和可靠性，依法处理知识产权、个人信息、商业秘密等问题，并建立投诉举报机制；这些规定使舆情内容生产中的责任划分不能只按“谁按下发布键”来理解，还需要追踪素材从哪里来、模型生成了什么、人工修改了哪些判断、最终由谁确认发布。

这种变化并不意味着人工判断被替换，反而使人工复核的位置更为清楚：机器生成可以压缩整理时间，但当材料之间存在冲突、信源可信度不一致或语义情绪高度敏感时，仍需由熟悉业务边界的人员依据原始材料作出取舍。由此，舆情内容生产中的质量评价也会出现一定转移，语言通顺、结构完整仍属基础要求，证据链是否闭合、结论是否超出材料支持范围、敏感表述是否经过核验，则更容易成为衡量内容可用性的尺度。

为什么准确性、来源与标识变得更为重要？

生成式人工智能的输出具有概率生成特征，同样的输入在不同模型、不同参数或不同上下文中可能产生差异，因此舆情内容一旦依赖模型完成概括，就存在把推测写成事实、把局部观点写成普遍态度、把早期碎片信息写成稳定结论的风险。办法对训练数据合法性、生成内容可靠性、违法不良信息防范以及标识提示提出要求，正是针对这种“表达很确定、依据不充分”的常见问题；从舆情工作角度看，准确性不只影响文本可信度，也会影响后续回应节奏、责任判断和跨部门协同。

在部分情形下，舆情内容生产的难点并不在于缺少文字，而在于材料更新过快、立场分布复杂、原始出处分散，模型生成若缺少可回查的引用路径，容易形成看似完整但难以验证的叙述。当服务面向公众提供、内容可能被进一步转载或引用时，标识提示和来源说明能够帮助接收者区分“人工核实后的判断”与“模型辅助生成的初稿”，也能够降低误读扩散后的澄清成本；同时，涉及个人信息、未成年人、商业秘密或未公开材料的内容，应当在进入生成环节前得到限制，避免为追求摘要效率而扩大合规风险。

舆情机构需要在哪些工作习惯上作出调整？

从生产管理来看，调整主要体现在流程意识而非单点技术上。首先，素材进入模型前需要进行分级，公开报道、正式通报、可核验数据与匿名爆料不宜混同处理；其次，模型输出进入研判文本前需要保留修订痕迹，特别是数字、时间、主体身份、因果关系和情绪标签等内容，应能对应到可检查材料；再者，对外发布或报送的成品应当明确人工审核责任，使生成文本不会绕过既有审签机制。除此之外，投诉受理、错误更正、版本撤回与再发布说明也有必要纳入日常管理，因为舆情内容一旦形成外部影响，后续纠错速度本身就会成为公信力的一部分。

这些调整并不要求把生成式人工智能排除在舆情工作之外，较为可行的方向是把它限定在辅助归纳、格式整理、线索提示和语言润色等环节，而让事实确认、价值判断、风险定级和发布决定继续由具备责任能力的人员完成。当机构内部形成清晰的使用边界时，生成式人工智能可以缩短基础整理时间；当边界不清时，同样的效率提升也可能放大错误传播，尤其在热点发酵初期，未经核验的概括更容易被后续报道、评论和转述反复引用，进而增加纠偏难度。

总结

总体来看，《生成式人工智能服务管理暂行办法》对舆情内容生产的影响，主要体现在把生成式人工智能从“写作辅助”纳入“内容责任治理”的范围：素材来源、模型生成、人工复核、发布审签、标识提示和投诉纠错被连接到同一条责任链上。对于政务和企事业单位舆情工作而言，这一规范促使相关内容生产更重视证据、边界与留痕，也使效率目标受到准确性、合法性和可解释性的制约；未来真正稳定的生产能力，不取决于生成了多少文本，而取决于生成结果能否经受事实核验、责任追溯和公众质疑的持续检验。

FAQ

问：《生成式人工智能服务管理暂行办法》是否只约束技术企业？
该办法的直接规范对象主要是向境内公众提供生成式人工智能服务的服务提供者，但舆情内容生产方在使用此类服务形成简报、口径、摘要或对外文本时，也会受到内容责任、个人信息保护、知识产权与发布管理等规则影响；换言之，不直接提供模型服务，并不等于可以完全脱离生成内容带来的合规后果。

问：舆情稿件中使用生成式人工智能辅助写作，是否一定要标明？
是否标识需要结合服务形态、内容用途、传播范围和具体规则判断，当生成内容面向公众提供、可能影响事实理解或容易被误认为人工核实结论时，标识提示和来源说明的必要性会明显上升；内部辅助整理与对外发布文本不宜按同一标准处理，相关机构有必要在流程中区分草稿、送审稿与正式发布稿。

问：生成式人工智能参与后，舆情内容生产中最需要保留的人工环节有哪些？
事实核验、信源可信度判断、敏感信息排除、责任归因表述和最终签发仍然需要由人承担，因为这些环节直接关系结论是否越界、证据是否充分以及发布后能否更正；模型可以参与归纳和表达，但当材料冲突、情绪强烈或涉及个人权益时，人工复核不宜被省略。