2021年8月，《个人信息保护法》出台，在國(guó)家法律的层级上针对自动化决策算法确立了规制基础。2021年12月底，《互联网信息服務(wù)算法推荐管理(lǐ)规定》（简称“《算法推荐规定》”）由网信办、工信部、公安部、國(guó)家市场监督管理(lǐ)总局联名签署对外公布，并已于2022年3月1日正式实施。这不但是我國(guó)首次以“算法”為(wèi)名的法律文(wén)件，更是世界范围内全面回应算法挑战的體(tǐ)系性尝试。根据《关于加强互联网信息服務(wù)算法综合治理(lǐ)的指导意见》，未来三年是关键阶段，到2025年前，我國(guó)治理(lǐ)机制健全、监管體(tǐ)系完善、算法生态规范的算法综合治理(lǐ)格局将日渐成型。

值此算法治理(lǐ)的中國(guó)实践进行之时，學(xué)说理(lǐ)论纷呈而合规落地尚存犹疑之际，对外经济贸易大學(xué)数字经济与法律创新(xīn)研究中心邀请来自學(xué)术单位、实務(wù)部门的學(xué)者专家，于近期就算法治理(lǐ)的实践、算法备案制度和算法评估制度开展讨论，以期助力后续的规则制定、执法指南和學(xué)术研究。

对外经济贸易大學(xué)法學(xué)院院長(cháng)

梅夏英：

算法研究应当具有(yǒu)展望性

算法技术对法律人而言确為(wèi)一个“黑箱”，我们所关注和讨论的也并非算法本身，而是算法所引发的社会问题。需要厘清算法与传统的监管对象是否有(yǒu)區(qū)别以及有(yǒu)何种區(qū)别，是服務(wù)、产品还是技术层面上的内容；是社会规则、伦理(lǐ)还是法律问题。在厘清區(qū)别的基础上，再通过突破传统的、新(xīn)的方法来规制算法。因為(wèi)算法治理(lǐ)在法律层面上是新(xīn)生事物(wù)，不能(néng)完全照搬原来的市场监管手段。目前的研究应当是具有(yǒu)展望性的，因為(wèi)算法升级换代快，越来越先进，技术手段各方面都在发展，算法的形态也在发展，我们应该要站得更高一些，想象未来算法的形态，从社会整體(tǐ)而非局部的角度解决问题。

业界实務(wù)专家的观点：

算法制度有(yǒu)待细化、明确、协调

来自阿里巴巴、字节跳动、京东、美团的实務(wù)专家基于第一線(xiàn)的实践提出了富有(yǒu)启发的观点。

算法分(fēn)级分(fēn)类机制有(yǒu)待细化。《算法推荐规定》中虽然提出了分(fēn)级分(fēn)类的监管思路，但只是对算法服務(wù)提供者的分(fēn)级分(fēn)类，而非对具體(tǐ)算法应用(yòng)的分(fēn)级分(fēn)类，如果只是按照算法服務(wù)提供者的维度要求算法备案可(kě)能(néng)会造成企业的负担或者无法实现算法监管的根本目标。实践中，不同的算法应用(yòng)有(yǒu)着不同的正面和负面作用(yòng)，对于社会福祉、个人权利、传播秩序有(yǒu)着不同程度的影响。未来，建议综合考虑算法的应用(yòng)场景、处理(lǐ)数据的风险程度、算法使用(yòng)的正向效益和可(kě)能(néng)的社会危害等多(duō)种维度，实现算法监管的分(fēn)类分(fēn)级，落实多(duō)层次场景化、精细化的分(fēn)级分(fēn)类的算法治理(lǐ)工作，更有(yǒu)利于实现提升算法价值及保护公共利益之间的平衡。

算法备案中法律效果有(yǒu)待明确。目前立法尚未解决算法规则生效的条件，算法规则生效后的作用(yòng)以及算法规则在未来应以何种形式在平台上公示。算法规则一经公示生效后，用(yòng)户是否可(kě)以将其作為(wèi)主张权利的依据都是未来法律适用(yòng)和业務(wù)实践需要解决的问题。

算法治理(lǐ)有(yǒu)待进一步协同。算法应用(yòng)从研发到投入使用(yòng)需要历经漫長(cháng)的生命周期，在往前回溯的过程中，法律合规人员难以识别风险，是算法监管困难的重要原因。未来，可(kě)以让法律部门和技术部门共同制定算法合规风险点，优化自身流程以确保算法在运行过程当中的可(kě)管可(kě)控。此外，还可(kě)以引入公共管理(lǐ)领域中的“协同治理(lǐ)”，使利益相关者和参与者共同参与算法的治理(lǐ)活动。

北京科(kē)技大學(xué)副教授张凌寒：

算法备案制度很(hěn)多(duō)问题要研究

算法备案制度产生最主要的原因是，我们很(hěn)难通过算法结果倒推当时部署运行算法时存在的主观过错。算法备案制度旨在使得平台在上線(xiàn)部署运行算法之前，向行政机关做一个存档备查的行為(wèi)，為(wèi)以后的监管提供信息基础。现阶段进行的备案，特别需要厘清目前涉及算法备案的算法體(tǐ)量有(yǒu)多(duō)少，种类有(yǒu)多(duō)少，监管系统和监管能(néng)力能(néng)不能(néng)达到监管目的。实现算法备案制度还需讨论谁来备案、如何备案、备案什么这些问题。平台功能(néng)越来越多(duō)元化，具备舆论属性和社会动员能(néng)力的算法服務(wù)提供者的界限逐渐模糊。

中國(guó)政法大學(xué)大数据和人工智能(néng)法律研究中心主任沈伟伟：

备案能(néng)帮助平台澄清主體(tǐ)责任

需要重视跨國(guó)算法治理(lǐ)。我们需要看到其他(tā)國(guó)家如何进行算法评估、备案、审计等，以此作為(wèi)参照系来制定我國(guó)的算法备案以及后续评估的制度。分(fēn)析算法备案与平台责任的联系，算法备案似乎是公权力强加给平台的责任或义務(wù)，不履行会受到相应的惩罚。但平台，尤其是科(kē)技向善的平台可(kě)能(néng)会更愿意备案，因為(wèi)算法备案在某种程度上具有(yǒu)欧盟“隐私盾”的部分(fēn)效果，即在一个强监管环境下，作為(wèi)一个免责的条件或者作為(wèi)平台责任的某种抗辩。换言之，平台一旦进入到类似于隐私盾的备案體(tǐ)系，备案能(néng)帮助其澄清一些主體(tǐ)责任。

伯明翰大學(xué)LEADS Lab研究员李汶龙：

需要思考算法备案对监管是否有(yǒu)效

國(guó)外的算法备案基本都是面向公共部门的，由于其自身的局限性，跟影响评估和机制审计相比，它可(kě)能(néng)扮演一个很(hěn)小(xiǎo)的角色。可(kě)以从反面入手判断备案的法律性质以及决定它的内涵，即当把其它机制进行完毕后再根据具體(tǐ)情形判断算法备案到底能(néng)做什么。我们需要明确算法信息的传播和备案对监管而言是否有(yǒu)效，以及我们如何设计算法备案这样特殊形式以匹配切实所需的拟公开信息。当实務(wù)界、理(lǐ)论界把过多(duō)的资源、关注和公共讨论都放在透明问题上时，算法透明和算法备案的最终目的在很(hěn)大程度就会被淡化。在讨论算法备案时，承认并明确算法透明的局限性也是一个非常重要的环节。

清华大學(xué)智能(néng)法治研究院院長(cháng)助理(lǐ)刘云：

算法备案是风险治理(lǐ)机制的备案

我國(guó)的算法备案是风险治理(lǐ)机制的备案，而不是算法内容的备案。风险治理(lǐ)机制的备案包含四个方面的内容：其一，平台自查因使用(yòng)算法可(kě)能(néng)带来的风险，也包括诸如透明度、公平性、包容性等一系列的风险。其二，对于风险，平台的预防措施是什么。其三，平台在风险发生时的风险处置规则是什么。其四，风险发生造成危害后，平台的责任承担方式是什么。

算法备案的目的有(yǒu)三。直接目的是掌握算法的基本信息。但仅掌握情况没有(yǒu)意义，更重要的是為(wèi)制定政策或者后续执法做储备。其次，算法备案还能(néng)促进企业自查。最后，算法知识普及这一目标同样不可(kě)忽略。相比以前的产品说明书，对于大部分(fēn)消费者而言，算法是可(kě)望不可(kě)及的，此时政府通过算法备案将算法基本原理(lǐ)向公众进行普及，促使用(yòng)户更好地维护自己的权利。

对外经济贸易大學(xué)数字经济与法律创新(xīn)研究中心主任许可(kě)：

高风险、普遍影响社会公众的算法

才需备案

算法备案既非公非私，又(yòu)亦公亦私，需要准确理(lǐ)解其性质。一方面，非公非私是因為(wèi)算法备案并非具有(yǒu)公权性质的行政许可(kě)，但也不是算法解释权的落实，并不是私权的一部分(fēn)。另一方面，亦公亦私因為(wèi)从國(guó)家监管层面来说备案是一种监管方式，是落实了行政上的告知式的备案和行政监督式的备案，且这些备案信息可(kě)以作為(wèi)用(yòng)户侵权案例中消费者诉讼的理(lǐ)由。

若从公私两个视角观察算法备案的主體(tǐ)，应该更加强调大型平台而不限于舆论属性和社会动员能(néng)力。对于内容来说，并不是平台所有(yǒu)的算法都要进行备案，而是具有(yǒu)高风险、普遍影响社会公众的算法才需要备案。就法律效果而言，算法问责是算法备案在“公”方面的體(tǐ)现，有(yǒu)了算法备案，可(kě)以更加精确地判断企业的行為(wèi)是否违反法律法规，是否侵犯了相关用(yòng)户权益，实现规则的精确化和有(yǒu)效规制。而推动企业自我监管则是备案在私方面的作用(yòng)。对于监管者来说，从外到内的治理(lǐ)是非常重要的环节。

北京大學(xué)法學(xué)院副教授胡凌：

算法评估可(kě)分(fēn)為(wèi)两类

需要从成本比较和收益分(fēn)析的角度观察算法评估。评估分(fēn)為(wèi)两大类：一般性的自我评估和法律中有(yǒu)特殊要求的评估。前者无处不在，哪怕政府不要求，理(lǐ)性的企业也会进行评估；需要重点讨论的是第二种评估。如果法律特别看重某一类型的算法评估，则会逐渐内化為(wèi)内部的评估机制。两者的关联在于，法律是否关注某个特别的评估要素。因為(wèi)企业在应对风险时有(yǒu)不同的原则，有(yǒu)的是风险预防，有(yǒu)的是成本收益，风险预防则需要将注意力放在较前阶段。如果此时风险特别大而且是所有(yǒu)人都可(kě)以意识到的风险，就会涉及到第二类评估，即企业发现政府在特别关注某一类或某一种服務(wù)，因此在算法研发时就需要进行评估，衡量风险。

对外经济贸易大學(xué)数字经济与法律创新(xīn)研究中心执行主任张欣：

算法评估是算法治理(lǐ)的重要路径

算法在整个全球数字经济当中的地位日益重要，最高院司法解释也明确提出，算法技术计算机程序是企业的重要价值。世界各國(guó)采取的算法治理(lǐ)举措可(kě)能(néng)不同，但无论是采取何种治理(lǐ)模式的國(guó)家，包括算法自动化决策在内的算法评估始终是其中的重要路径。算法评估有(yǒu)几个维度必不可(kě)少，包括技术维度、应用(yòng)维度、影响维度、救济维度。同时，算法分(fēn)级分(fēn)类对精准治理(lǐ)非常关键。首先，不同的算法分(fēn)级分(fēn)类，除了监管层面有(yǒu)很(hěn)大意义外，对企业合规意义也是非常重大。其次，从架构的角度而言，算法应用(yòng)维度的分(fēn)级分(fēn)类可(kě)以帮助企业和监管机构计算出相应的算法等级，并匹配差异化的监管框架。总體(tǐ)来讲，我國(guó)在这次算法新(xīn)规当中将算法影响评估嵌入到算法分(fēn)类分(fēn)级和算法精准治理(lǐ)这个理(lǐ)念之下。但要实现精准治理(lǐ)，还需要从算法设计运行和部署主體(tǐ)的视角进行分(fēn)类分(fēn)级。（金灿 ）