【作者】季卫东

【内容提要】

数字中国如何防止“算法利维坦”的暴走？

季卫东 环球360会员登录文科资深教授、环球360会员登录院长

数字技术驱动的中国式法制现代化

“数字地球”的概念是美国副总统阿尔伯特•戈尔在1998年首先提出来的。十年之后，“数字中国”的发展战略开始拟定并实施。从2017年起，中国又提出“数字丝绸之路”的新概念，在促进数据的跨境流通的同时，也诱发了数据国际治理方面的问题和争议。三年间的新冠疫情防控大幅扩大了日常生活的数字覆盖面和信息技术的应用，虚实交错的元宇宙经济、金融科技、电子政府、网络社区以及区块链游戏等新型生存方式构成社会大转型的主要内容。在这样的基础上，2023年，中共中央和国务院联合发布了《数字中国建设整体布局规划》，试图以数字基础设施和数据资源体系为双轨继续推动中国式现代化，预期到2035年形成国家竞争的明显优势。

实际上，2010年代以后互联网、大数据以及人工智能的功能迅速提升和广泛应用，也使艰难曲折的中国法制现代化似乎找到了另辟蹊径的机会。众所周知，传统的“情理法”多重结构拓展了司法和执法的裁量空间，纵横交错的互动关系削弱了规范的效力和确定性。在这样的条件下推动法制现代化，一强调审判独立和专业化就很容易形成法官专断，使判决变成缺乏正当性的强制；一强调审判公正和舆论监督又很容易反过来加强对司法的外部干预——于是形成一个进退失据、反复循环的怪圈。信息技术在法院的普及在不经意间助长了社会对电脑量刑的客观性、中立性以及确定性的期待，导致了世界罕见的“智慧司法热”。一般而言，人工智能在本质上是规则嵌入的系统，可以造成法律规范刚性化和技术代码化的结果，并通过计算机系统全程留痕的方式防止外部对司法判断的干预，因而有利于加强对国家权力的制约。在这个意义上也可以说，通过人工智能系统对大数据进行分析和预测以及更广泛的数字化处理，在相当程度上还是有利于贯彻那种防止政府滥用强制力的现代法治精神的。

主权利维坦与三股数字新兴势力的博弈

事实证明，数字化的社会转型对霍布斯所描绘的那种为了摆脱“所有人对所有人的战争”状态而垄断暴力以及所有权力的无限政府——“利维坦”（巨灵）也的确产生了某种制约效果。例如巨型数字平台借助国家的扶持政策和技术豁免获得了某种“准主权性”和“富可敌国”的地位，通过算法助推的方式形成了强大的自治权或支配权，有可能发行某种形态的数字货币以及规避某个国家的征税，并对线上厂商和社群展开评价、排序、监管以及联合制裁。数字平台巨头甚至还有可能威胁、干预乃至限制国家的立法权，实施一场数字时代的“宪法政变”：2021年2月25日通过的澳大利亚《新闻媒体和数字平台强制性议价准则》就因Google的强烈不满以及Facebook禁止该国媒体和用户利用其伞下新闻平台的压力而被迫做出妥协、追加了仲裁机制修正条款。

又例如区块链技术的应用把互联网转换成无需中介和中枢的分散化结构，个人终端构成交往的出发点和到达点，还可以创建用途广泛的智能合约平台，在数字经济中个人所享有的价值因而可以界定并获得制度化保障。在这里，在线用户其实就是一群具有自决权的个人，甚至可以借助隐私壁垒灵活机动地进行“主权个人对主权国家”的游击战。除此之外，还有在2023年飞速迭代更新的生成式人工智能，由于多层网络的机器学习、深入语境的学习以及学习方法的学习，在很大程度上已经使人类事先给定的特征设计变得没有意义；多模态大模型正在自我塑造和发展成一种自动化的生态系统，在不同程度上摆脱包括知识产权在内各种规范的控制，并且可以跳过企业和专家直接对每一个人赋能。因此，各种大模型怪兽以及人工通用智能势必构成对国家现行制度的严峻挑战。

作为“算法利维坦”而复兴的现代国家权力

但在另一方面，我们也可以看到国家权力也借助数字信息技术重新抬头，并获得前所未有的强势地位和能量，演变成一种“算法利维坦”，给那种旨在制约政府权力、保障个人自由的现代法治秩序将带来另一种巨大风险和严峻挑战。在数字时代，特别是随着多模态大模型不断横空出世，算法黑箱化与社会透明化之间的矛盾变得越来越尖锐化了。请想象一下这样的数字国家：所到之处布满了电子探头和感应器，彷佛有千万只眼睛在闪光，无声地不断扫描和分析一切现象，并对人和物进行全景无死角、常时无间断的监视，并不断积累数据以供人工智能系统进行分析、评价、预测以及判断。不难推断，在隐私消失的地方个人自由也会随之消失；而对这种高度专业化、高效运转的管理机制以及智能化法律决定，由于算法难以理解和说明，作为对象人的公民其实是很难参与和问责的。尽管如此，我们不得不承认这种状况还是在一定程度上反映了现代主权国家体制的底层逻辑。

因数字技术而实现的上述“视线的陷阱”，似乎真正实现了英国法学家和法制改革推动者边沁在十八世纪末提出的作为“一种新形式的通用力量”的环形监控装置（Panopticon）设计构想，也充分印证了法国社会思想家福柯在二十世纪七十年代曾经阐述的对现代国家和法的独到见解。在福柯的理论视域里，我们的确可以发现现代化的权力和法制内涵的另一侧面：监视和规训，一览无余的观察、分析以及绵密的计算。按照他的观点，对理性与非理性进行区别会产生一种排除的空间，但权力却可以不依赖强制而对个人进行驯化和管教，对社会进行治理和助推；法律秩序在本质上就是这种关于统治性（governmentality）的多样化权力技艺及其复合体，不仅包括政治机构的运营，也包括广义的治安管理，还包括决定个人与政府之间互动关系的整体框架乃至各种调整机制。从无所不在的“大监察”这个维度来理解国家与法的现代化进程的这种论述虽然不无偏激色彩，但也的确包含对现代化及其法治内涵某些侧面或维度的深刻洞察和反思，值得我们重视并从中汲取教训和制度改良的启示。

综上所述，人们越来越频繁提及的“数字主权”，这个概念其实包含两种意蕴，一方面是指国家主权在数字空间面临被削弱的风险，另一方面则暗示主权将采取数字形态，转化为一种“算法利维坦”，获得新生的魔力。两者相反相成，构成奇妙的悖论。需要特别注意的倒是后一方面。作为算法利维坦而再次强大起来的国家主权有时的确以高高在上的姿态而君临天下，但更多的时候却融化在数字网络之中，变成调整互动关系的一段编程代码，显得更加伸缩自如、法力无边。特别是生成式人工智能拆除了语言和价值之间的藩篱，大模型的多语种、多模态工作机制自然而然会促进国际化、全球化与国家主权之间的相互影响，但这样又会反过来刺激民族国家的身份认同感以及围绕价值对齐的冲突。

算法利维坦的两种法律试行现象

针对当下“所有模型对所有模型的战争”以及对大模型算力需求猛增的形势，科技部在2023年4月17日发起成立国家“超算互联网”联合体，把分布在全国的大量超算中心通过算力网络连接起来，构建“大一统”算力服务平台，通过“超算互联网”来打造国家算力基座乃至基座模型。同年7月7日，在世界人工智能大会上，国家标准委员会指导的国家人工智能标准化总体组宣布成立首个大模型标准化专题组，由上海人工智能实验室、百度、360、华为、阿里等企业联合负责，正式启动大模型测试国家标准的制订工作。显然，其目标是推动大模型与标准化相结合，形成头部科技企业侧重行业大模型、国家推动通用大模型、打造高质量发展新基座的分工格局。这种思路并非仅仅出于成本效益的合理计算，显然也有利于维护数字主权，可以进一步加强算法利维坦的权力集中化效应，防止生成式人工智能的失控。

除此之外，针对主权化个人隐匿在区块链中对监管体制展开的游击战，中国根据贵州经验提出了“主权区块链”的概念，即维持分布式、不可篡改、互相可信任、通过智能合约转移价值等区块链固有特征的同时，也向其中注入国家主权的意志，加强了对链上活动的政府监视和技术干预，因此具有非完全去中心化的特征。按照全国科学技术名词审定委员会在2017年做出的概念界定，主权区块链是以分布式账本为基础，以规则和共识为核心，以国家主权为前提的区块链。在这里，规则是指“代码加法律”，共识强调以“人”而不是“数”为导向，倾向于“多中心”而不是“去中心”。从2023年的走势来看，“主权区块链”已然被认为是数字时代继续推动国家治理体系现代化的一个标志，也构成全球治理重构的一种中国方案。但这样也就很可能使作为个人自由的基础的隐私终究无处藏匿、难以保护。

应对之道：数字立宪主义，抑或数字关系主义？

由此可见，当下我们面对的最大法学问题是，究竟应该如何防止算法利维坦的暴走？能否像十七世纪末以来启蒙思想家和政治家通过加强对个人自由和权利的制度保障来制约主权利维坦那样，推行“数字立宪主义”或者“数字法治”，用以保障“数字人权”？或者借助现实中业已存在的数字平台巨头（例如在美国指谷歌、苹果、脸书、亚马逊构成的GAFA，在中国指百度、阿里巴巴、腾讯、华为构成的BATH）、活跃在区块链里的主权化个人游击队以及多模态大模型的综合力量来制衡算法利维坦，使网络空间宛若回归到西欧“中世纪”的多元化权力格局或者中国官僚机构“间接管制”的乡规民约式关系秩序？或者把这两种前景结合起来，在数字化社会转型过程中进行现代法治范式的创新？

互联网2.0时代崛起的一群数字平台巨头、互联网3.0时代形成的大量虚拟社区、人工智能4.0时代簇生的各种通用大模型，其实都构成数字形态的中间集团，或多或少类似中世纪西欧的教会、行会以及帝制中国的血缘、地缘、业缘共同体。这些中间集团可以超出主权国家的疆域互相结合并产生全球性影响，同时也可以制定自治的规则、在国家之外形成解决纠纷的机制。例如数字平台和虚拟社区的内部规章制度包括技术标准、算法、代码，可以通过积分、升级、服务优待、物质奖励、税费减免、数字货币报酬以及投票权分配、禁止入群和发声、撤除网页、限期或永久封号等方式进行制裁，还可以通过目的信托契约、立法谈判、互联网法院等方式与现实世界的法律制度相衔接。实际上，在数字世界纵横交错的那些自主性很强的互动关系及其游戏规则正是导致整个社会的秩序原理发生根本性转换的底层逻辑。

转向新型程序主义：寻找法律与技术的最佳组合

在上述这种复杂而流动的状态下，制度设计的重点势必从结构转向过程。为了通过人工智能系统内嵌的公正程序以及不同人工智能系统之间的分权制衡机制来防止大平台和大模型的滥用，也为了制衡那个独特的算法利维坦以及私人化的各种算法权力（包括人工智能助理的权力），现代法治的程序公正原则理应被重新定义并发挥更加重要的作用。

法律上的程序公正要求是众所周知的，主要是指确保论证性对话在自由而平等的条件下顺利进行的制度安排。在数字时代，还必须考虑数据处理以及算法设计和执行在技术上的程序公正，其目标是要解决代码及其框架应该如何适当规制、代码的作者究竟是谁、谁能控制代码的作者、对代码的妥当性是否存在事先的论证程序或事后的纠正程序、作为中介机构的网络服务提供商的权力和责任应该如何配置、应用数据流的软件开发受到什么样的规制、数字监视和网络搜索是否设定了限制性条件等一系列涉及过程妥当性的问题。一言以蔽之，技术性正当过程的本质是通过代码规制保障个人的数字权利。如果这种对代码的规制也采取法律的形式，那么就可以发现技术性程序公正与法律性程序公正之间的交集和组合。在一定意义上也可以说，寻找这两者之间最佳组合方式，就是今后数字国家继续推进现代化事业的主要法治内涵，也可以理解为数字立宪主义或数字法治的出发点。

原文节选刊载于《凤凰周刊》“2024中国时局报告”特辑，感谢《凤凰周刊》授权推送。