大家好！这里是天天听好书。今天我们要讲的是上海人民出版社2021年5月出版的《权力之治：人工智能时代的算法规制》。

请扫描二维码进入百道学习app收听音频

作者张凌寒是著名法学家。算法正在无形地塑造我们的世界。新闻推送、搜索排名、信用评分、行政决策，甚至审判量刑，都以源源不断的数据，驱动的算法深入社会生活的各个角落，成为资源分配者与权力代理人。那么，什么是算法？算法如何嵌入社会运行？如何治理算法？本书从法律人的视角出发，带领读者理性看待算法、规制算法。

全书共十二章。这里要讲的内容来自第二章“算法权力的兴起与异化”。人工智能时代，算法已经深度嵌入社会生活，并且逐渐在教育、执法、金融、社会保障等领域接管人类让渡的决策权。那么，算法权力如何兴起？有什么特征？又有什么样的异化风险？这就是本章的内容。

时至今日，算法已经从平台的工具演变为具有自主决策能力的“决策者”，成为本体化的算法。本体化的算法的效力，体现在算法的自主决策，一方面不可被人类完全理解和解释，另一方面具有直接的法律效力。

智能算法根据大数据进行自主学习，生成决策规则，其不透明性与自主性导致人类无法窥知算法决策的具体过程，使算法成为调配社会资源的新兴力量。同时，本体化算法的不可解释性对现有的法律责任体系难以适用，也对社会的结构性嵌入和传统的场景化规制提出了挑战。

算法权力来自算法的机器优势、架构优势与嵌入优势。基于机器优势，算法可以掌控调配大数据，并进行深度自主学习；基于架构优势，算法会搭建复杂的生态系统架构，用以控制人的行为；基于嵌入优势，算法借助资本与公共权力的力量，直接影响社会权力的运行。

基于这些优势，算法权力呈现出跨越性与隔离性的特征。跨越性就是跨越网络和物理空间，跨越公私两个领域；隔离性是指算法权力与民众理解和现有法律体系的隔离。这种跨越性和隔离性，会使算法权力在经济和政治领域产生巨大的影响力，并可以逃避现有法律制度的规制，这在无形中又进一步巩固了算法权力。

算法权力在社会权力结构体系中举足轻重，但是，现有法律制度却缺乏对其进行规制的资源，从而导致算法权力在商业领域和公共权力领域产生异化的风险。

在商业领域，算法权力利用机器优势与架构优势，通过对用户数据的收集与计算，攫取高额利润，并可有效逃避现有法律体系的规制。更重要的是，算法权力在商业领域驱动了监视资本主义的兴起，即算法对人日常行为的预测、引导、调控，成为了产生高额利润和进行市场控制的方法。人在这一过程中沦为了数据的生产来源，算法反客为主，产生了权力异化。

首先，算法权力在商业领域的异化，体现在算法借助机器优势与架构优势，挤压用户意思自治的空间，并通过算法垄断，攫取高额利润，有效规避了现有法律体系的规制。

以“用户画像”为例，算法通过数据分析，描述用户的各类行为信息和性格特点，实施“一人一价”的价格歧视行为。例如在线旅游平台多次被爆出“大数据杀熟”事件，针对使用不同手机、不同消费习惯的用户，实施差异化定价。

更进一步，算法被用来进行价格共谋，以榨取消费者的剩余价值。价格共谋指的是同一行业的商家，可以使用同一种动态定价算法，使市场价格趋同，形成“中心式辐射的共谋场景”。这样一来，不仅可以攫取高额利润，还可以有效躲避竞争法的规制。然而，现有的法律制度无法充分应对商业算法应用带来的这些问题。

更重要的是，算法权力驱动了监视资本主义的兴起。商业领域的算法权力不仅通过大规模收集和分析用户数据，来规避法律约束，攫取高额利润，更是与商业资本结合，形成监视资本主义，将用户嵌入了数据生产链条，变成了被算法支配和调控的客体。

监视资本主义是新型的信息资本主义，它的逻辑和运行方式是通过对用户数据的萃取、分析，以及个性化、持续性的实验等用户个人难以辨别的单向监视，产生巨大的商业监视效能，继而由算法预测和调整人类行为，产生收益和控制市场。监视资本主义的兴起是算法机器优势和架构优势的必然产物。

商业平台会利用算法的架构优势，针对用户行为构建出评分规则、赏罚机制，来调整用户行为，进而获得利润。因此，监视资本主义，是一种全新的“系统连贯积累”，是算法权力和商业力量的结合，是一种新的经济变种。

在监视资本主义下，算法与人类的主客体关系发生了异化。监视资本主义下，人既不是消费者也不是员工，人的价值在于生产数据，累积行为数据剩余价值。

同时，算法权力从不同层面嵌入公共权力的运行，借助架构优势搭建监管体系，甚至在某些领域成为独立的决策者，从而取代公共权力。然而，适用于公共权力控制的权力专属、正当程序等法律原则，无法适用于算法权力，从而使算法权力异化的风险指数级放大，算法权力与公共权力合谋形成权力滥用。

首先，算法决策系统成为公共权力的辅助工具。一方面，算法嵌入事实认定层面，借助机器优势，裏挟大数据资源，通过视频监控、人群分析、DNA采集等，协助进行司法行政行为中的事实认定。另一方面，算法嵌入法律适用层面，北京法院新一代审判智能辅助系统“睿法官”，也能梳理法律关系、提出裁判建议、生成裁判文书。在可见的未来，算法深度参与公共权力运行已经成为必然趋势。这样，算法逐渐超越工具化属性，开始实质性在调配资源方面作岀决策。

其次，在某些领域，算法权力搭建的监管体系逐步取代公共权力，成为直接的决策者和执法者。算法权力具有即时执行、自我实现的特点。公共权力的行使需要国家暴力的强制，相比之下，算法权力的执行不需要任何人为的干预，也没有滞后与延期。

最后，算法权力借助公共权力体系野蛮生长，却缺乏相应的规制与救济路径，从而产生了权力异化的风险。这体现在，传统限制公共权力的正当程序制度对算法权力无效。由于算法权力严重缺乏透明性，公众也无从对其错误提出质疑，也无法对算法决策的受害者提供救济渠道。

由于算法决策的广泛使用，传统上由司法行政主体行使的监控、追查等刑事司法权力，向不特定的社会群体转移。但是，在这方面，仍然没有相关的法律规定。在这样的背景下，公共权力借助算法，扩展权力版图，提高行政效率，非常容易形成公共权力与算法权力的合谋。普通公众则因为缺乏对抗的技术资源，而在权力结构中处于更加弱势的地位。即使算法权力的运行出现错误，决策的成本和后果也不由其部署应用者承担。这样，公共权力既没有监管动机，也缺乏制度约束。

算法权力异化所产生的消费者权益受损、公共权力运行失范、公民权利受到侵害等问题已经引发社会关注。尽管现有法律与行业自律起到了一定作用，但现有规制体系并不足以防止算法权力异化带来的危害，亟待更新规制思路并建立相应的制度体系。

总之，在人工智能时代，智能算法根据大数据进行自主决策，成为调配社会资源的新兴力量。但是，算法权力具有不透明性，而且可以有效逃避现有法律体系的规制，因此有异化的风险，会导致监视资本主义，也会与公共权力合谋，形成权力滥用。

好了！想了解更多内容，建议打开《权力之治：人工智能时代的算法规制》。感谢你天天听好书，我们明天见！