守正与创新相辅相成，体现了‘变与不变、继承与发展、原则性与创造性的辩证统一。

这也意味着包括生命权、人身自由在内的自由权应受到更高程度的保护，立法者在将攸关这些基本权利的公共决策交由算法时也会受到更严格的约束，而在不能确保上述权利获得充分保障时，完全的算法决策更应被明确禁止。尤其在法律适用阶段，决定的得出很多情况下都倚赖语义确定与解释以及价值权衡，机器显然无法胜任此项工作，其在冲突目标的选择和权益分配上也会面临巨大困难，法律演绎推理（Justizsyllogismus）要转化为自动化的涵摄过程（Subsumtionsautomaten）尚有距离。

但是，对照美国《算法问责法案》以及欧盟GDPR，我们仍会发现，《个人信息保护法》尽管规定了对自动化决策的影响评估，这种粗放的算法评估还存在明显缺漏。算法作为更好的决策者会大大提升行政效能，但其内含的去人性化特质也会带来人主体性的丧失。对个人权益的影响及安全风险。这种算法决策不仅直接针对个人作出了具有法效性的决定，还具有即时执行、自我实现的特点。这一点被誉为法律保留的法治国面向：因为权利的先国家性，行政要对权利予以干预就需有立法授权，就需征得个人同意。

如果某项技术应用虽能带来较大效益但风险难以预测，其中蕴含的政治性和社会性风险，甚至会对自由、民主、人权都构成严重威胁，就只应例外适用而原则禁止。（2）基于数据主体的明确同意、法律授权以及履行合同目的所必须不受上述条款限制。参阅王苑：《完全自动化决策拒绝权之正当性及其实现路径——以〈个人信息保护法〉第24条第3款为中心》，载《法学家》2022年第5期，第79页。

[19]丁晓东：《论算法的法律规制》，载《中国社会科学》2020年第12期，第138—140页。这一认识目前已被广泛接受，价值判断也因此成为公共决策算法化的实体禁区。该法第13条在列举个人信息处理的合法性根据时，将第（七）项法律、行政法规规定的其他情形作为兜底。[35]Reinhold Zippelius, Allgemiene Staatslehre, C.H.Beck,15. Aufl.,2000, S.301.[36]劳东燕：《人脸识别第一案判决的法理分析》，载《环球法律评论》2022年第1期，第159页。

场景不同，对其采用的规制方式自然也应不同。除非有压倒性合法理由凌驾于数据主体利益或者自由权利之上，否则也有权拒绝数据处理（包括用户画像）（第21条），这种事先告知并征得同意的处理方式本质上正是告知同意原则的思路延伸。

这两款规定为公共机构适用算法决策设定了予以说明以及保证算法决策的透明度和结果公平、公正的义务，同样赋予个人要求说明和拒绝仅通过自动化决策的方式作出决定的权利。但它却无法以数学模型收集所有与裁量相关的信息，因此在个案处理能力上是有限的。GDPR第22条第1款将对个人权益产生重大影响描述为对数据主体产生法律或类似的重大影响。但上述规定在多大程度上构成对公共机构适用算法决策的拘束，这种拘束又存在何种欠缺，仍需对条文进行细致分析。

一方面，鉴于算法的高度复杂性，倚赖传统的边界划定和治理模式已不完全可行，必须从技术层面对算法设计、部署、运行的全流程予以动态评估，以预先识别、跟踪并纠偏算法内置或潜在的偏误，增加算法运行系统的稳健性和可控性。如果我们将算法适用于私人机构和公共机构作区别对待，认为对公共机构应为禁令模式，唯有符合法律规定的豁免情形时才会被允许，那么GDPR的上述规定——公共机构要完全诉诸算法进行决策就必须要有法律授权依据，且其目的是出于公共利益、风险防控或者确保控制者提供服务的安全性和可靠性等，适用前提是其已制定了恰当措施保证数据主体的权利、自由与正当利益——就完全可被理解为算法决策的法律保留。这种思路又延续了法律规制技术的典型思考：如果某项技术应用可能带来无法估量且难以逆转的风险，在道德与伦理层面也受到一致批判，就应为法律所完全禁止，例如基因编辑技术。第24条作为自动化决策的核心规范，共有三款，其中可直接适用于公共机构的有两款：其一，个人信息处理者利用个人信息进行自动化决策，应当保证决策的透明度和结果公平、公正。

典型的德日公法已从过去的侵害保留进阶到重要事项保留，这也意味着基本权利是否属于法律保留事项已不再依据其类型区分，只要行政决定攸关基本权利就都处于法律保留的覆盖范围，有所区别的只是授权法的规范强度。例如算法公开和反算法歧视主要借助数据处理者在决策过程中的算法解释达成，个人数据赋权也是赋予个人在算法决策全过程中的知情、表达、提出异议以及要求人工干预等数据权利来确保算法的程序正义。

细究上述步骤，将第一阶段的裁量交由算法其实是可行的。从具体类型来说，此种法律保留又显然属于德国法上的加重法律保留（qualifzierte Gesetzesvorbehalt），即公权机关采取此项措施限制公民权利不仅要有法律授权依据，同时还要求该项法律必须满足一定的前提要件、追求特定的目的或使用特定的方式。

法律总是与责任互相连接，这也是权力/权利共同的行使条件和道德要求，对他人实施权力者，必须面对此人并承担责任。但这些解释均未达到条文适用的精准性要求，概念意涵也仍旧模糊。[35]鉴于公权机关将决策权拱手让与算法可能导致的法治被架空、权利受克减，个人主体性被蚕食的巨大风险，对于公共决策完全的算法化不仅要有法律的授权依据，对于授权所追求的目的、满足的前提和使用的方式，法律也应予详尽规定，即加重的法律保留应该成为具体立法的首要选择。但这种秒审批方式是否可推广至所有行政审批事项却需要斟酌。[39]劳东燕：《人脸识别第一案判决的法理分析》，载《环球法律评论》2022年第1期，第159页。公权机关适用数字技术履职无需征得当事人同意，同样隐含在除《个人信息保护法》以外的其他规范中。

但权利说的支持者则认为自动化决策可以给社会整体带来客观利益，采用禁令模式虽可保护数据主体免受算法操控，却会阻断技术创新，也同样影响算法技术的良性发展与合理应用。算法影响评估 一、引言数字时代，算法正以其独特的方式改变着人类决策的构造。

[26]陈锐、王文玉：《算法嵌入政府治理的权力异化风险及其规制方案》，载《理论探索》2022年第6期，第87页。赫拉利曾在《未来简史》里警示众人：一旦权力从人类手中交给算法，人文主义的议题就可能惨遭淘汰。

所采取的保护措施是否合法、有效并与风险程度相适应。[28]赵宏：《限制的限制：德国基本权利限制模式的内在机理》，载《法学家》2011年第2期，第165页。

由此，在算法决策应用上就始终存在政府效能与权利保障的张力。算法预测是算法根据过去的数据来预测个人未来的行为，并根据预测结果允许或剥夺个体的行为选择。以此为视角再观察GDPR对自动化决策的全周期联动行权机制也会发现，其设置了事前算法的风险识别预警机制，例如，告知自动化决策和识别分析的存在及后续后果（序言第60条）、向数据主体提供详细联系方式表示任何拒绝的决定都可被重新考虑（第22条第3款）、数据主体对以直接市场营销为目的的自动化处理具有无条件拒绝权。算法决策在很多时候都被认为是去人性化的（entpers#246;nalisiert），[9]它不仅取消了行政与人之间的沟通可能，也因不透明而引发理解和执行困难，并最终降低了公共行政的社会信赖。

[15]张欣：《免受自动化决策约束权的制度逻辑与本土构建》，载《华东政法大学学报》2021年第5期，第34页。二是《个人信息保护法》一体化调整模式的问题。

造成这一缺漏的原因主要有二：一是常规算法规制路径的影响。1.基本权利的保障法律保留的最初要义就是为了权利保障，其要求行政活动只要涉及个人的基本权利，就必须要有明确的行为法依据。

[37]Hartmut Maurer, Staatsrecht, C.H.Beck 1999, S.285.[38]郑智航：《平衡论视角下个人免受自动化决策的法律保护》，载《政法论坛》2022年第4期，第99页。但GDPR对自动化决策的立场，到底应理解为是对自动化决策的一般禁令还是对个人免受自动化决策的赋权，一直存有争议。

[59]张欣：《算法影响评估制度的构建机理与中国方案》，载《法商研究》2021年第2期，第108页。程序性控制旨在为算法运作过程提供过程性的降低算法损害发生概率、侵害广度与深度的风险预防性措施，却既不能确定地避免某项算法损害的发生，也无法对已然发生的算法侵害提供符合人类理性与正义要求的规范上可感的修复。[29]除GDPR外，此类关系模式的典型还有德国《联邦行政程序法》中有关全自动化行政（der vollautomatisiert erlassene Verwaltungsakt）的规定。除算法类型外，算法在公共决策中发挥的作用，即算法只是作为公共决策的辅助工具还是彻底取代公权力成为真正的决策者，同样是确定算法适用界限的重要指标。

三级自动化决策对上述因素产生难以逆转的持续性影响。五、法律保留作为边界划定的思考框架及其考虑因素为避免个人尊严的保护被完全淹没在追求技术福利的目标之下，对公共决策适用算法设置界限无疑是必需的。

第三，对公共区域的大规模系统监控。[24]但将两种不同类型的数据活动都诉诸以私人场景为基础建构起的规制框架，必然会导致对公权机关的规范错焦与效力松弛。

[61]加拿大《自动化决策指令》第7.2条。除了行权要件的限制外，《个人信息保护法》的这一条文尚有不少含混之处：首先，与免受自动化决策约束权相配套的是个人有权要求个人信息处理者予以说明的权利。

本文地址： http://one.zhutima.com/?id=24

文章来源：天狐定制

版权声明：除非特别标注，否则均为本站原创文章，转载时请以链接形式注明文章出处。