《互联网信息服务算法推荐管理规定》:推荐算法的合规要求
《互联网信息服务算法推荐管理规定》通常指由国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合公布、自2022年3月1日起施行的部门规章,其内涵主要涉及对算法推荐服务的规范界定、服务提供者的义务设定以及用户权益的系统性保护。作为我国较早针对算法推荐技术进行专门立规的规范性文件,该规定与《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等上位法相互衔接,对利用算法推荐技术向用户提供互联网信息服务的活动提出了较为完整的合规要求,也为舆情工作者理解平台内容分发机制提供了制度层面的参照。
该规定的出台背景与适用范围是什么?
随着个性化推送在新闻资讯、短视频、电商、社交等平台中的普遍应用,算法在信息分发中的主导地位不断强化,信息茧房、大数据杀熟、流量至上等问题也随之显现,由此产生的治理需求推动了专门立规的进程。从适用范围来看,该规定指向在中华人民共和国境内应用算法推荐技术提供互联网信息服务的活动,法律、行政法规另有规定的情形则从其规定。规定所调整的算法推荐技术,涵盖生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等技术类型,基本覆盖了当前主流平台的内容分发方式。
| 技术类型 | 主要表现形态 |
|---|---|
| 生成合成类 | 利用深度学习、虚拟现实等技术生成合成文字、图像、音视频等内容 |
| 个性化推送类 | 依据用户画像与行为数据进行的定向内容推荐 |
| 排序精选类 | 对信息内容进行的排序、精选与优先呈现 |
| 检索过滤类 | 搜索结果排序与内容过滤机制 |
| 调度决策类 | 依据算法进行的工作调度与供需匹配决策 |
服务提供者需要履行哪些主要义务?
从信息内容治理的角度来看,该规定首先强调算法推荐服务提供者应当坚持主流价值导向,积极传播正能量,不得利用算法推荐服务从事危害国家安全和社会公共利益、扰乱经济秩序和社会秩序的活动。其次,在算法机制设计层面,规定要求服务提供者定期审核、评估、验证算法机制机理、模型、数据和应用结果,不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。再者,对于热搜、榜单等具有较强舆论引导功能的产品形态,规定亦提出了相应的管理要求,防止算法排序被不当操纵。这些义务共同构成了以算法安全与内容安全为双线的责任结构,其履行情况直接影响平台信息生态的整体质量。
用户权益保护方面有哪些具体要求?
在用户权益维度,该规定的制度安排呈现出较为明显的分层特点。一方面,规定要求算法推荐服务提供者以显著方式告知用户其提供算法推荐服务的情况,并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制,同时应当向用户提供不针对其个人特征的选项,或者向用户提供便捷的关闭算法推荐服务的选项;用户选择关闭的,相关服务应当立即停止。另一方面,规定允许用户选择、修改或者删除用于算法推荐服务的用户标签,这一安排在相当程度上回应了画像标签化带来的权益受损风险。此外,针对未成年人、老年人、劳动者以及消费者等不同群体,规定分别设置了专门条款:未成年人保护方面要求不得诱导未成年人沉迷网络;劳动者权益方面要求保护外卖配送、网约车等场景中劳动者取得劳动报酬、休息休假等合法权益;消费者权益方面则明确禁止根据消费者的偏好、交易习惯等特征在交易价格等交易条件上实行不合理的差别待遇,即通常所说的"大数据杀熟"。
监管机制如何保障合规要求的落实?
从监管结构来看,该规定确立了备案与评估相结合的管理路径。具有舆论属性或者社会动员能力的算法推荐服务提供者,应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统履行备案手续,填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告等信息。与此同时,网信部门会同电信、公安、市场监管等部门建立算法分级分类安全管理制度,根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模等因素实施分级分类管理,对具有较高风险的算法推荐服务进行重点监督。对于违反规定的行为,法律责任条款依据情节轻重设置了警告、通报批评、罚款直至暂停信息更新等处理措施,构成犯罪的依法追究刑事责任。这一监管框架在一定程度上改变了算法长期处于"技术黑箱"状态的局面,使算法治理具备了相对明确的追责依据。
总结
总体来看,《互联网信息服务算法推荐管理规定》围绕算法推荐服务的全流程建立了涵盖价值导向、用户权益、重点群体保护与监管追责的规范体系,其对舆情行业从业者的意义不仅在于了解平台分发机制的制度约束,也在于把握算法环境下信息传播格局变化的监管脉络。随着生成式人工智能等新技术的持续发展,算法治理的规范体系仍在不断完善,对该规定及其后续相关规范的持续跟踪,显得尤为重要。
FAQ
问:哪些机构适用《互联网信息服务算法推荐管理规定》?
凡在中华人民共和国境内应用生成合成、个性化推送、排序精选、检索过滤、调度决策等算法技术向公众提供互联网信息服务的主体,均处于该规定的调整范围之内;仅使用算法技术开展内部管理而未向公众提供信息服务的情形,一般不在其直接适用范围。
问:用户是否可以关闭平台的个性化推荐?
依据该规定,算法推荐服务提供者需要向用户提供不针对其个人特征的选项,或者便捷的关闭算法推荐服务的选项,用户选择关闭后,相关个性化推荐应当立即停止,同时用户还享有选择、修改、删除用于算法推荐的用户标签的权利。
问:该规定与《个人信息保护法》之间是什么关系?
两者属于衔接互补的规范关系,《个人信息保护法》从自动化决策与个人信息处理的角度设定了一般性规则,该规定则在此基础上针对算法推荐服务的内容分发特点作了专门化、具体化的要求,服务提供者在合规实践中通常需要同时遵循两部规范。