曾经，尽管有关法治原则存在形式与实质的诸多争论，但诸文明国家皆奉其为圭臬，基于法治原则架构起来的精密织网，为公民权利免遭公权力的侵犯提供了坚实保障。然而，随着算法时代的来临，手握宝剑与权杖睥睨城邦的利维坦悄然变成了机器人，面对算法这一甚至无法被具象化的统治介质，法治原则将何去何从？控制人的技术还能用来控制算法吗？人类社会是否要经历新的变革？

本书提供了对欧洲前沿实践的宝贵观察，尝试总结迄今已有的规制算法的经验，并提出对未来的政策走向的洞见。你或许无法在本书中得到算法治理的终极答案，但至少可以了解我们处在何种境况。

从“法治”到“算法统治”

社会范式的算法化转型

在大多数科学领域中，“范式转换”（paradigm shift）都是一个人们耳熟能详的概念。通常，这个术语是指某个科学领域中所发生的深刻变革，即科学认知和科学活动的基础发生了根本性的改变。

至少在过去的15年里，我们一直处于范式转换当中，范式转换所影响到的不仅仅只是一个科学领域，还同时影响到多个科学领域，乃至整个社会。当今一些最重要的技术发展表现为人们越来越依赖算法系统。这些算法系统控制着从手机、供暖系统到全球各类证券市场所进行的交易。此外，Spotify的算法能够向我推荐我可能喜欢的音乐，谷歌似乎能够预测我正在进行的搜索，亚马逊则会向我推荐我接下来可能想读的书。在线新闻机构——它们中的许多机构过去都是以纸张和墨水的形式提供新闻——似乎也能够神秘地知道哪些广告可能对于当下的我是有价值的。新闻和信息公司的后续运营模式可能很快就会依赖为个人读者——或者依某些观点称为“消费者”——提供量身定制的内容。

十多年来，社交媒体中自我强化的泡沫同样也在不断增大，这使操纵国家选举和全民公投的机会增多了。因此，各种数字平台现在对用户信息的掌握达到了令人震惊的程度。ChatGPT和类似的生成式算法系统即将改变文本的制作方式以及工作生活中各种任务的执行方式。

可能早在20世纪60年代人们就已经提出了数字化和算法使用的理论，但是那时计算机还非常不发达，无法处理科学家利用算力探索各种事物所需要的全部数据。此外，当时还没有达到相当规模的以数字形式存在的数据，致使人们无法对有限的数据积累进行任何有意义的 处理。直到在最近的20年里，计算机和数据集才达到了如此精密的程度，以至于人们可以有效地使用算法。但是现在，各种活动的算法化的闸门已经被打开，技术变革似乎正在达到人们意料之中的颠覆性程度：这种持续性的变革影响着社会的生产方式、社会的治理方式以及社会的所有其他方面。

范式转换示意图

第一次深刻的范式转换发生在农业社会经历工业化之时，尤其是19世纪到20世纪下半叶。在大约19世纪之前，社会安排一直都是以宗教为基础来确定权力行使的合法性。上帝将世俗权力赐予国王，国王在与个人有关的事项上行使权力。在这种“国王统治”（如果你愿意的话，也可称为“上帝统治”）中，农业是占主导地位的生产方式。神职人员是那个时代的核心职业，他们负责解释上帝的旨意——同时也是国王的旨意——并告诉人们为了达致美好的生活，尤其是为了他们死后的生活，宗教对他们个人的要求是什么。随着1789年法国大革命的爆发，这种传统的权力行使结构开始瓦解，但是新的范式仍然花了几十年的时间才取代旧的范式。

后来的范式在过去和今天都是以语言作为基础，从大约19世纪开始一直存续至今。社会中所确立的规范都遵循法治原则，并成为工业生产方式的基础，在工业生产方式中，可以通过成立诸如有限责任公司等方式将生产要素与拥有这些生产要素的人合法地分离开来。民族国家也使法治成为可能，民族国家一般假定社会是以语言为基础的，而立法通常是以某种语言颁布的，这种语言创造了国家的合法性以及行使国家权力的合法性，而最优模式是由人民所选举之代表组成立法机构来立法。法律人是这一范式的核心职业，他们负责阐明应当如何解释立法者所颁布的法律。

然而，如前所述，这种以语言为基础的合法性建构似乎正在经历着范式转换，范式可能正在过渡到一种越来越基于算法的新型存在。这种发展大约发生在20世纪90年代，其特点是各种各样社会功能——无论是在与商品和服务有关的生产方式方面，还是在公共当局的行动和决策方面——的日益数字化和自动化。以这种方式管理社会的合法性以算法为基础：计算系统在读取1和0时不会出错。

我们还不知道这个新社会的标志性职业会是什么，但是为了简单起见，我大胆将这一职业称为“算法阅读者”（algorithm reader）：一个能够向其他人解释机器为什么会做它已做之事的人。在这个新的、发展中的范式脱颖而出并超越现有范式的阶段，我们或许可以谈论从“法治”向“算法统治”过渡的问题。个人对算法的依赖通常源自同意，例如同意应用程序的条款和条件、对软件许可的同意，或者同意将自己的个人数据用于各种目的。

人工智能的概念自然而然地与这个正在崛起的新社会紧密相联。用于算法的不同技术，尤其是用于算法决策的不同技术，正在被开发和使用。

贝叶斯统计理论的创立者托马斯·贝叶斯

（Thomas Bayes，1702—1761）

使用机器学习的人工智能系统通常以所谓的贝叶斯统计为基础，其与传统的统计学有所不同，但是它所使用的也可能是模糊方法（fuzzy methods）或软计算（soft computing）。贝叶斯统计的精妙之处在于，它可以根据有关过去行为的大量信息而对未来行为作出准确预测。另外，基于规则的人工智能系统可能并不构成严格意义上的人工智能，因为其并不试图模拟人类智能，也不预测任何事情，尽管它们实际上能够模拟涵摄。

在私营部门，使用算法决策方法或者使用算法支持决策，相对地不受宪法性质的统领性法律原则的限制。对私营部门使用算法系统的主要限制是非歧视原则，这一原则不仅植根于普遍的人性，而且还植根于国际法，特别还植根于国家宪法。需要非歧视原则来抵制所谓的算法偏见，即算法决策中偏袒某些人或者不利于其他人的偏见。

在公共部门，情况则大不相同。对于针对普通人的决策，宪法提出了许多具体的要求，其出发点是，适用于人类决策者的要求也至少应当适用于算法决策者，甚至可能对其应当有更多要求。但与此同时，宪法的一些规定也在驱动着公共部门的数字化和自动化决策，并鼓励这种发展——此即效率要求，甚至有些宪法还存在快速决策的明确要求，《芬兰宪法》第21条即是其例。考虑到国家和市政当局拮据的税收收入，不迟延决策的要求就意味着各种大规模性质之决策程序的自动化显然是一个可以发展和扩大这种新式决策方式的领域。此外，还可以利用算法决策来取代大量的人类公共行政人员，从而使减少政府开支成为可能，否则就需要雇佣大量这些公共行政人员来人工处理大量个案。

（本文节选自本书第十章，标题由编辑拟加）

内容简介

本书呈现了有关自动化决策的一般性观点，同时考察了自动化决策在不同司法区的具体应用及其法律规制。当自动化决策为公权力机构所用时，需要受到法治原则的约束。法治原则要求公权力须在法律框架内行使，这确保了其行使结果有可预测性，也能使公民知晓公权力行使过程中的所有要件；法治原则还包括非歧视原则及比例原则。然而，算法决策的实践已经对法治原则发起了诸多挑战。欧盟在2021年制定了《欧盟人工智能法》，列明算法技术的高风险使用，以期构建治理自动化决策的法律框架。本书回顾了法律这一传统治理方式在算法时代的困境，进而展望其自我革新的可能出路。

主编简介

马尔库·苏克西（Markku Suksi），芬兰奥博学术大学法学院教授。自2016年起关注自动化决策问题，在国际期刊、会议上发表与展示多篇专题论文，著有《引入人民——宪法形式和公投实践的比较》等。苏克西曾获2019年芬兰法律协会期刊双年度论文奖；2020年，成为瓦伦堡人工智能、自动化系统与软件项目–人文与社会（WASP-HS）科学评估委员会的终身委员。

译者简介

范雪飞，法学博士，西南政法大学民商法学院教授、博士生导师。著有《一种思维范式的最初继受：清末民初民事法律关系理论继受研究》等，译有《法律行为解释之方法》等。

科技法学译丛·丛书简介

“科技法学译丛”由西南政法大学科学技术法学研究院组织编译，旨在回应新一轮科技革命对法治体系提出的深刻挑战。本丛书聚焦数字科技、生命科技、空间科技及能源科技等前沿领域的法律议题，系统引介全球范围内科技法治的优秀研究成果。通过推动科技与法律的跨学科对话，本译丛致力于为我国构建适应技术创新、促进产业发展的法治框架提供理论借鉴与制度参考，助力科技强国建设与实现全面依法治国。

科技法学译丛·近期书目

·《法治与自动化决策：探索算法治理的基本原理》

〔芬〕马尔库·苏克西 主编

范雪飞 译

·《网络法与伦理：互联世界的规制》

〔美〕马克·格拉博夫斯基、埃里克·罗宾森 著

孙林 译