数字治理的法治风险

当今信息革命深刻地改变了人类生活，形成了数字化的生存方式、建模化的日常生活、张力性的关系结构和数字正义的诉求，从而奠定了数字治理的社会基础。然而，由于各种因素的作用和影响，也出现了对价值观的数字塑造、对主体自由的威胁、算法决策的“强制”效应等法治风险。

对价值观的数字塑造

在当今数字时代，网络平台、技术公司、商业公司等搜集、掌握着大量的个人数据和信息，并利用这些信息资源为社会公众提供着更为便捷、高效、精准的各类智慧化服务，但同时，它们有意将自己的意图嵌入数据处理和算法建模中，却披上数据“客观性”外衣的情况时有发生。例如，一些程序员在处理数据、设计算法、编写代码的过程中，难免要掺杂一些潜意识的主观偏好，甚至会对一些给定的规则进行调整。算法歧视是十分突出的一个问题。“在数据集中，杂乱无序的各种相关性暗含着隐秘的规律性，其中很可能就存在某些偏见”。而且，“大数据的定量分析和结构化信息可以形成新的洞察力，从而能够造成商业歧视和群体歧视。随着群体变小(按地理位置、年龄、性别等因素划分群体)，更容易引发歧视问题”。特别是在社交软件、商业交易、广告推送、岗位招聘中不断浮现出对用户的诸多数据歧视和不透明现象，“你可能并不知道你为什么没有得到那份工作，你或许永远不会知道，其实是因为数据歧视了你”。这样，原来人类决策中可能存在的个别化歧视，就随之演变为算法的系统化歧视，出现了算法歧视的泛化倾向。

如今，各类大模型的生成内容都带有不同的价值观，对于相同的问题，不同的大模型会生成不同的甚至截然相反的内容，这里并不仅仅是技术问题，也存在价值对齐问题。由此可见，在算法决策逐渐替代人类决策的数字社会，算法的“客观性”背后难免会有有意或无意植入的价值偏好，使得社会治理问题变得更为复杂和严峻，成为全新的难题。

对主体自由的双重威胁

当今信息革命的一个重要后果，就是“人类将成为信息体”，因而，从单一的生物人（自然人）转变为生物—数字的“双面人”。此时，主体自由就面临着内在控制与外在控制的双重威胁。

在内在控制上，谁掌控、处理数据信息，谁就更容易控制他人的行为或思想。在美国的总统大选中，Facebook（脸书）等平台公司通过抓取、分析大量用户信息，进行数据画像和个性化推送，从而操纵选民的意识和行为，“这种影响不会触发用户的意识，而是一种潜意识，使它们成为你思想的一部分，还让你觉得这是自己的主见”。在日常生活中也是这样，平台公司或技术公司拥有技术优势来“透视”客户，在它们面前“个人总是可见的和透明的，即全景开放的”，甚至被装在“玻璃笼子”里等待数据“投喂”。比如，客户打开一个网络链接，他以为自己所看到的是跟别人一模一样的真实世界，而实际上他所看到的只是推荐算法让他看到的“推送世界”。这是“过滤泡”在发挥作用，“在过滤泡里，只有你一个人”。于是，客户就越来越偏狭，越来越与真实的世界发生分离。人的主体性、自主意识、判断能力和选择能力就会逐渐丧失。这无疑就隐性地剥夺了人的意志自由和行动自由。因此，在商业交易和生活消费过程中，大数据杀熟、算法歧视等也就不足为奇了。

在外在控制上，人们所熟知的算法控制劳动、弥散化的社会监控等颇受诟病。事实上，大数据和信息技术的飞速发展，把人们带进了“无处不在计算”“无处不在监视”的时代。在经济领域，商业组织难以抵挡将收集到的个人数据进行整合、分析和利用的巨大诱惑；在行政领域，像“棱镜门”事件那样，不经意间，公民的通话通信记录等个人隐私已为公权力所掌握，这种数字化的无感控制呈现泛化趋势，甚至成为一种日常生活机制。

算法决策的“强制”效应

事实表明，算法决策在提供便利、效率、客观、安全等进步成果的同时，也存在一定的问题和风险，出现所谓“黑箱”中的算法“霸权”，其实质是一种“强制”效应。

首先，能够控制用户行为。随着技术进步和数字经济、数字政府、数字司法、数字社会、数字生态建设等的不断深入与升级，人工智能会获得更加广泛、更高级别的应用，因此，商业交易、公共政策、司法过程、交通出行以及日常生活，会越来越多地通过量化和计算来呈现，算法决策随之越来越多地介入人类决策。人们认为算法基于海量数据的全样本分析和自动运行，能够避免人类主观性的影响，因此更加客观，更有效率，也更为精准。然而，不容忽视的事实是，或者出于专利保护目的，或者因为技术说明难题，或者出于其他商业目的，部分商业实体所设计和运行的算法大都成了并不公开透明的“黑箱”。于是，用户只能接受最终的结果，那么，算法就从预测中衍生出对用户行为的控制了。

其次，“算法侵害”危及人权。“人类正逐渐将手中的权力交给自由市场、集体智慧和外部算法。”而一旦算法将部分人归类为危险的，就对部分人的身份和名声形成了“算法侵害”。

最后，系统性错误难以救济。由于算法是通过数据传输和赋值、算术运算、逻辑运算、关系运算等方式来完成的，因而，也就存在着正确性、容错性和效率性的优劣之别，其“危险在于没有人能确保该算法设计准确，尤其是当它与众多算法交互时”。如2004—2007年美国科罗拉多州的公共福利系统曾因程序员没有法律背景知识而植入900多条不正确的规则，其“对政策进行错误的编码导致成千上万人遭遇不公正的对待”。在公共管理上，自动化系统也已经由简单的行政管理工具变成了重要的“决策者”，算法做出判断的效率和正确率大幅提高。但算法决策效率和准确性的提升，并不意味着其判断公正、可靠。尽管人类对此有事后矫正的渠道和方式，但事实表明，“机器在学习过程中可能会重新建立起我们当前已经修正的隐含在数据中的偏见”。当这种误差被系统化后，算法秩序就会脱轨。而对这种脱轨所造成的后果既难以纠正，也难以救济。

上述这些数字治理风险并不是简单的技术性风险或者社会性风险，其根本上是一种法治风险，如果不能进行有效防控和抑制，必然会危及社会秩序，数字法治也难以建立起来。因此，这必将是一个重要的时代任务和使命。

（作者为华东政法大学数字法治研究院院长、二级教授）