算法备案要点解析

2024-04-07




作者|刘婷 白宇思

通过算法等资源的驱动,海量数据得以存储、传输、处理、利用,数据资源投入到生产过程中,形成新的生产函数,并通过与生产力、生产工具的高效结合,实现生产力的巨大跃迁。算法正深刻变革着我们生活方式、生产方式和社会治理方式,当我们进行如网络购物、使用搜索引擎、运用个性化推送、智能招聘、出行订餐等社会活动时均离不开算法,其与数据一起贯穿了数字经济时代下消费模式、生产组织方式、产业链链接模式的重构与创新。但算法在给经济社会发展等方面注入新动能的同时,也带来了诸如信息茧房、操纵舆论、“大数据杀熟”、用户沉迷、过度消费等一些列风险。因此,促进算法技术与相关服务健康、高速发展成为当前科技革命与产业变革时期最重要的课题之一。

为了促进算法技术及相关服务规范健康发展,党中央在《法治社会建设实施纲要(2020-2025年)》中提出制定完善对算法推荐、深度伪造等新技术应用的规范管理办法。2021年12月,国家网信办联合工信部、公安部、市场监管总局发布了我国第一部以算法作为专门规制对象的部门规章——《互联网信息服务算法推荐管理规定》(以下简称“《算法推荐规定》”),对算法备案进行了较为全面的规定。此后,2023年1月起施行的《互联网信息服务深度合成管理规定》(以下简称“《深度合成规定》”)和2023年8月施行的《生成式人工智能服务管理暂行办法》(以下简称“《人工智能暂行办法》”)中均对算法备案进行了扩展。《算法推荐规定》《深度合成规定》《人工智能暂行办法》的施行是国家监管对互联网技术快速发展的回应,进行算法备案,也是相关企业遵循国家监管要求的必要合规举措。下文笔者将就算法备案的主体、算法备案的负责机构、算法备案的时间要求及流程、算法备案平台及需填报的内容、算法备案不通过的常见原因、不履行算法备案的后果六个方面进行逐一解读。

一、 算法备案的主体

不同于欧盟的算法治理路径,算法主体责任机制是我国算法问责制的基础。原因在于,我国认为算法是开发者价值观的技术体现,因此可以穿透算法面纱将开发者的责任承担至于前线,对应承担算法安全主体责任,也即预设了算法设计的工具属性。

《算法推荐规定》《深度合成规定》《人工智能暂行办法》三部法规均对算法备案的主体进行了更为详细的规定:

上表显示,三部法规规定的备案主体有一个共同特征——“具有舆论属性或者社会动员能力”,结合《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》第二条的有关规定,“具有舆论属性或者社会动员能力”是指1、从产品形态上看,属于论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能;2、从功能上看,提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务。

同时根据《算法推荐规定》的有关规定,上述具有备案义务的算法推荐服务提供者应通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息。其中需要注意的是,同一种算法应用于不同产品或服务时,仅需取得一项备案即可;同一款产品或服务触及多类算法,则应当分别进行多个算法备案。

二、 算法备案的负责机构

《算法推荐规定》第三条对算法备案的负责机构进行了规定,即国家网信部门负责统筹协调全国算法推荐服务相关监督管理工作;国务院电信、公安、市场监管等有关部门依据各自职责负责算法推荐服务监督管理工作;地方网信部门负责统筹协调本行政区域内的算法推荐服务相关监督管理工作;地方电信、公安、市场监管等有关部门依据各自职责负责本行政区域内的算法推荐服务监督管理工作。

三、 算法备案的时间要求及流程

《算法推荐规定》第二十四条将三种算法备案情形,即首次算法备案、备案信息变更和注销算法备案的时间要求进行了规定:

《算法推荐规定》第二十五条、第二十六条对算法备案流程进行了规定:

四、 算法备案平台与需填报的内容

《算法推荐规定》所提到的互联网信息服务算法备案系统是https://beian.cac.gov.cn,备案人在申报时,需要登录该网站,填写申报内容,上传申报材料。

填报内容包括三部分,即算法主体信息、算法信息、产品及功能信息。下表对填报内容做出归纳,详细操作以平台发布的算法备案操作指引《互联网信息服务算法备案系统使用手册》和《互联网信息服务深度合成管理规定》备案填报指南为准。   

五、 算法备案不通过的常见原因

根据笔者的实践经验,算法备案不通过原因主要聚焦在以下方面,企业应予以重点关注:

(一)履行数据安全与合规义务

在《数据安全法》、《个人信息保护法》等法律法规实施后,企业对于数据的合法采集、使用、存储义务空前强化。关于算法的数据来源、数据内容、数据的处理方式等均为备案时应予以考虑的重点;并且企业应当建立合法合规的分级分类制度,采取合理必要的控制措施以防止数据受到非授权的篡改和泄露,从而保障数据安全,在数据全生命周期履行安全和合规义务,保证数据处于有效保护和合法利用的状态。

(二)提供透明的算法解释

我国当前算法治理体系以算法透明为内核,对于企业来说履行算法透明义务与保护自身商业秘密同等重要。对此,我们认为对于不同企业的不同算法,所要达成的透明度标准并不相同,应区分场景对待。与具有较强公共服务功能相关的算法,其充分公开排序、选择、检索、推送等规则的义务应越高,反之应有一定程度的降低,在此基础上,用清晰简洁的语言解释算法的工作流程,以达到社会公众感知、了解、明白为标准。

(三)标识合规

深度合成服务提供者对使用其服务生成或者编辑的信息内容,应当采取技术措施添加标识,这不仅是法律法规的强制性规定,也是社会伦理的需求。与结构化数据相比,非结构化的数据更易泄露种族、性别、宗教、特定身份等敏感信息,加剧引发对人口子群体算法偏见的风险,造成社会伦理问题或不安因素。因此设立对模型生成内容进行清洗、准确、可追溯的标识机制是算法备案过程中的重要环节。

六、 不履行算法备案义务的法律后果

根据《算法推荐规定》的有关规定,不履行或未按时履行算法备案义务的,网信部门和电信、公安、市场监管等有关部门依据职责给予警告、通报批评,责令限期改正;拒不改正或者情节严重的,责令暂停信息更新,并处一万元以上十万元以下的罚款;通过隐瞒有关情况、提供虚假材料等不正当手段取得备案的,由国家和省、自治区、直辖市网信部门予以撤销备案,给予警告、通报批评;情节严重的,责令暂停信息更新,并处一万元以上十万元以下罚款。此外,企业变更、终止算法服务的,也应当办理注销备案手续,并作出相关妥善安排。

刘婷

炜衡海南 专职律师

liuting@weihenglaw.com

刘婷律师毕业于香港中文大学、中国政法大学。现任高级企业合规师、海南省律协涉外与港澳台侨专业委员会委员、中国国际贸易促进委员会/中国国际商会陕西调解中心调解员、中国国际消费品博览会法律服务团成员、海南省消费者委员会律师团成员、海口市民营企业法治体检律师服务团成员。刘婷律师曾在香港从事知识产权工作,为众多世界500强企业及新型创业公司提供知识产权法律服务,并代理知名知识产权诉讼案件。刘婷律师擅长数据知识产权、企业合规、数据合规、数据出境、自贸港数据流通、国际贸易业务领域。

白宇思

炜衡北京 合伙人

baiyusi@weihenglaw.com

白宇思律师,炜衡全国公司法专业委员会委员、炜衡海南所数据要素化治理业务特邀顾问。中国法学会会员、中国行为法学会数据要素专班成员、国际注册信息系统安全认证专家(CISSP) 、国际信息系统安全认证联盟ISC2会员、盐城市企业数据资源入表工作小组成员、北京2022冬奥会及冬残奥会组织委员会官方法律服务商数据及隐私领域业务主办律师、深圳数据交易所认证数据交易合规师、上海数据交易所数据合规评估服务商。白宇思律师在数据要素化领域拥有丰富理论及实践经验,目前白宇思律师已成为中国电子、国家电投、山东能源、盐城大数据集团、华东江苏大数据交易中心、贵州数据宝、西藏网智天元、帆软软件等多家央国企及人工智能、信创领域企业在数据要素化、数据合规、数据资产入表等业务领域指定生态合作伙伴。



算法备案要点解析

2024-04-07




作者|刘婷 白宇思

通过算法等资源的驱动,海量数据得以存储、传输、处理、利用,数据资源投入到生产过程中,形成新的生产函数,并通过与生产力、生产工具的高效结合,实现生产力的巨大跃迁。算法正深刻变革着我们生活方式、生产方式和社会治理方式,当我们进行如网络购物、使用搜索引擎、运用个性化推送、智能招聘、出行订餐等社会活动时均离不开算法,其与数据一起贯穿了数字经济时代下消费模式、生产组织方式、产业链链接模式的重构与创新。但算法在给经济社会发展等方面注入新动能的同时,也带来了诸如信息茧房、操纵舆论、“大数据杀熟”、用户沉迷、过度消费等一些列风险。因此,促进算法技术与相关服务健康、高速发展成为当前科技革命与产业变革时期最重要的课题之一。

为了促进算法技术及相关服务规范健康发展,党中央在《法治社会建设实施纲要(2020-2025年)》中提出制定完善对算法推荐、深度伪造等新技术应用的规范管理办法。2021年12月,国家网信办联合工信部、公安部、市场监管总局发布了我国第一部以算法作为专门规制对象的部门规章——《互联网信息服务算法推荐管理规定》(以下简称“《算法推荐规定》”),对算法备案进行了较为全面的规定。此后,2023年1月起施行的《互联网信息服务深度合成管理规定》(以下简称“《深度合成规定》”)和2023年8月施行的《生成式人工智能服务管理暂行办法》(以下简称“《人工智能暂行办法》”)中均对算法备案进行了扩展。《算法推荐规定》《深度合成规定》《人工智能暂行办法》的施行是国家监管对互联网技术快速发展的回应,进行算法备案,也是相关企业遵循国家监管要求的必要合规举措。下文笔者将就算法备案的主体、算法备案的负责机构、算法备案的时间要求及流程、算法备案平台及需填报的内容、算法备案不通过的常见原因、不履行算法备案的后果六个方面进行逐一解读。

一、 算法备案的主体

不同于欧盟的算法治理路径,算法主体责任机制是我国算法问责制的基础。原因在于,我国认为算法是开发者价值观的技术体现,因此可以穿透算法面纱将开发者的责任承担至于前线,对应承担算法安全主体责任,也即预设了算法设计的工具属性。

《算法推荐规定》《深度合成规定》《人工智能暂行办法》三部法规均对算法备案的主体进行了更为详细的规定:

上表显示,三部法规规定的备案主体有一个共同特征——“具有舆论属性或者社会动员能力”,结合《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》第二条的有关规定,“具有舆论属性或者社会动员能力”是指1、从产品形态上看,属于论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能;2、从功能上看,提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务。

同时根据《算法推荐规定》的有关规定,上述具有备案义务的算法推荐服务提供者应通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息。其中需要注意的是,同一种算法应用于不同产品或服务时,仅需取得一项备案即可;同一款产品或服务触及多类算法,则应当分别进行多个算法备案。

二、 算法备案的负责机构

《算法推荐规定》第三条对算法备案的负责机构进行了规定,即国家网信部门负责统筹协调全国算法推荐服务相关监督管理工作;国务院电信、公安、市场监管等有关部门依据各自职责负责算法推荐服务监督管理工作;地方网信部门负责统筹协调本行政区域内的算法推荐服务相关监督管理工作;地方电信、公安、市场监管等有关部门依据各自职责负责本行政区域内的算法推荐服务监督管理工作。

三、 算法备案的时间要求及流程

《算法推荐规定》第二十四条将三种算法备案情形,即首次算法备案、备案信息变更和注销算法备案的时间要求进行了规定:

《算法推荐规定》第二十五条、第二十六条对算法备案流程进行了规定:

四、 算法备案平台与需填报的内容

《算法推荐规定》所提到的互联网信息服务算法备案系统是https://beian.cac.gov.cn,备案人在申报时,需要登录该网站,填写申报内容,上传申报材料。

填报内容包括三部分,即算法主体信息、算法信息、产品及功能信息。下表对填报内容做出归纳,详细操作以平台发布的算法备案操作指引《互联网信息服务算法备案系统使用手册》和《互联网信息服务深度合成管理规定》备案填报指南为准。   

五、 算法备案不通过的常见原因

根据笔者的实践经验,算法备案不通过原因主要聚焦在以下方面,企业应予以重点关注:

(一)履行数据安全与合规义务

在《数据安全法》、《个人信息保护法》等法律法规实施后,企业对于数据的合法采集、使用、存储义务空前强化。关于算法的数据来源、数据内容、数据的处理方式等均为备案时应予以考虑的重点;并且企业应当建立合法合规的分级分类制度,采取合理必要的控制措施以防止数据受到非授权的篡改和泄露,从而保障数据安全,在数据全生命周期履行安全和合规义务,保证数据处于有效保护和合法利用的状态。

(二)提供透明的算法解释

我国当前算法治理体系以算法透明为内核,对于企业来说履行算法透明义务与保护自身商业秘密同等重要。对此,我们认为对于不同企业的不同算法,所要达成的透明度标准并不相同,应区分场景对待。与具有较强公共服务功能相关的算法,其充分公开排序、选择、检索、推送等规则的义务应越高,反之应有一定程度的降低,在此基础上,用清晰简洁的语言解释算法的工作流程,以达到社会公众感知、了解、明白为标准。

(三)标识合规

深度合成服务提供者对使用其服务生成或者编辑的信息内容,应当采取技术措施添加标识,这不仅是法律法规的强制性规定,也是社会伦理的需求。与结构化数据相比,非结构化的数据更易泄露种族、性别、宗教、特定身份等敏感信息,加剧引发对人口子群体算法偏见的风险,造成社会伦理问题或不安因素。因此设立对模型生成内容进行清洗、准确、可追溯的标识机制是算法备案过程中的重要环节。

六、 不履行算法备案义务的法律后果

根据《算法推荐规定》的有关规定,不履行或未按时履行算法备案义务的,网信部门和电信、公安、市场监管等有关部门依据职责给予警告、通报批评,责令限期改正;拒不改正或者情节严重的,责令暂停信息更新,并处一万元以上十万元以下的罚款;通过隐瞒有关情况、提供虚假材料等不正当手段取得备案的,由国家和省、自治区、直辖市网信部门予以撤销备案,给予警告、通报批评;情节严重的,责令暂停信息更新,并处一万元以上十万元以下罚款。此外,企业变更、终止算法服务的,也应当办理注销备案手续,并作出相关妥善安排。

刘婷

炜衡海南 专职律师

liuting@weihenglaw.com

刘婷律师毕业于香港中文大学、中国政法大学。现任高级企业合规师、海南省律协涉外与港澳台侨专业委员会委员、中国国际贸易促进委员会/中国国际商会陕西调解中心调解员、中国国际消费品博览会法律服务团成员、海南省消费者委员会律师团成员、海口市民营企业法治体检律师服务团成员。刘婷律师曾在香港从事知识产权工作,为众多世界500强企业及新型创业公司提供知识产权法律服务,并代理知名知识产权诉讼案件。刘婷律师擅长数据知识产权、企业合规、数据合规、数据出境、自贸港数据流通、国际贸易业务领域。

白宇思

炜衡北京 合伙人

baiyusi@weihenglaw.com

白宇思律师,炜衡全国公司法专业委员会委员、炜衡海南所数据要素化治理业务特邀顾问。中国法学会会员、中国行为法学会数据要素专班成员、国际注册信息系统安全认证专家(CISSP) 、国际信息系统安全认证联盟ISC2会员、盐城市企业数据资源入表工作小组成员、北京2022冬奥会及冬残奥会组织委员会官方法律服务商数据及隐私领域业务主办律师、深圳数据交易所认证数据交易合规师、上海数据交易所数据合规评估服务商。白宇思律师在数据要素化领域拥有丰富理论及实践经验,目前白宇思律师已成为中国电子、国家电投、山东能源、盐城大数据集团、华东江苏大数据交易中心、贵州数据宝、西藏网智天元、帆软软件等多家央国企及人工智能、信创领域企业在数据要素化、数据合规、数据资产入表等业务领域指定生态合作伙伴。