算法权力与社会责任：构建企业内外协同的良法善治体系

在“代码即法律”的数智时代，平台企业逐步演变为新型“数字利维坦”。受工具理性主导，算法运行不断催生结构性不公，传统监管也难以实现内外合力。平台可持续发展需转向“负责任治理”，推动规制从单向控制走向权力与权利的协同制衡。对此，平台企业应以算法合规为核心构建组织基础，引入“向内监管”机制，将外部约束内生化，重塑治理正当性，使平台权力运行纳入可解释、可约束、可问责的制度轨道。

文 | 朱家玮、林来梵

数字利维坦的崛起与治理紧迫性

“手机里的几百张照片，怎么会凭空消失”？近日，有用户反映，某软件在后台擅自持续删除其手机相册中的个人照片和视频，既无法阻止，也难以通过常规途径恢复。消息一出，迅速引发广泛关注，多位用户表示遭遇类似情况，相关话题随即登上热搜。对此，该软件官方紧急回应称，此系技术操作失误导致的异常清理，已第一时间完成修复。无独有偶，早在数年前，某网约车平台就曾因大规模违法收集用户信息、严重危害国家数据安全，被处以人民币80亿元罚款，并引发社会的现象级讨论。

这不禁令人发问：平台企业何以在不知不觉间掌握了公民数据乃至最基础的隐私安全，仿佛“翻手为云、覆手为雨”，甚至左右着社会运行的节奏？一次“失误”，便可能影响数以千万计用户的工作与生活，甚至侵害其基本权利；类似事件却屡禁不止、反复上演。种种迹象表明，部分平台正逐渐演变为“数字利维坦”。

“利维坦”（Leviathan）一词源出《圣经》，原指象征至高力量与绝对权威的海中巨兽。至17世纪，英国哲学家托马斯·霍布斯在其1651年著作《利维坦》中将这一意象引入现代政治哲学语境，用以指称国家这一“人造巨人”。个体通过让渡部分权利构建起利维坦，是为了终结自然状态下的无序与冲突、维系社会秩序；然而若缺乏制度性约束，其权力也可能滑向压迫与失控。现代国家通过民主与法治在一定程度上维系着这种张力之间的动态平衡。而当人类迈入数字社会，利维坦又以平台的形态悄然再现。

作为数字时代的三大核心要素，数据的规模化积累、算法的广泛应用以及算力的指数级提升，正推动权力形态加速嵌入到技术系统之中。尤其是算法，正如斯科特·拉什（Scott Lash）所指出的，权力正日益嵌于算法中。于是，平台企业开始不再局限于中性的技术工具角色，逐步承担起资源配置和规则制定的职能。截至2026年2月，网约车监管信息交互系统单月接收订单信息达7.65亿单；外卖平台日均配送订单超过1.5亿单，注册骑手规模突破1400万人；短视频平台日活跃用户超过8亿。在这一超大规模的用户与交易网络中，算法统筹路径分配、流量排序与信用评价等机制，持续塑造数以亿计用户的决策行为、实质性地规训着劳动过程。同时，政府部门也尝试借助平台企业的算法能力推进治理现代化。例如，北京市交通委在春运等客流高峰期间就统筹“八站两场”，联合高德等网约车平台打造接驳方案、组建应急保障车队，切实保障了旅客顺畅出行。通过代码与规则的持续扩展，平台日渐深度地参与社会资源的再分配，并呈现出“数字利维坦”式的权力结构。

为应对算法权力带来的现实挑战，我国近几年相继出台了《个人信息保护法》《互联网信息服务算法推荐管理规定》《科技伦理审查办法（试行）》《网络数据安全管理条例》《平台劳动规则和算法协商指引（试行）》等制度规范，明确算法应用应遵循透明、公平、可问责等基本原则，并推动建立算法备案、定期审核与安全评估等制度安排，强化“科技向善”的价值导向。但相关规范多以原则性与概括性表述为主，实践中的可操作性仍有不足，导致部分人工监督机制易流于形式。再加上算法本身具有高度专业性“黑箱”特征，面对高速发展的算法技术，监管体制内外部的信息不对称使得监管实践比较困难。

正是在这一背景下，有研究者提出建制外包理论（Institutional Outsourcing），即在一定范围内由政府授权平台企业参与规则建构与执行，通过引入企业内部治理机制，弥补单一外部监管在专业性与及时性方面的不足。其理论基础之一在于，在国家的外部准许下，平台权力是植根于其内部生态系统自发、自生、自主运行的。基于此，部分企业已经作出一定程度的回应性调整，例如，建立算法合规与伦理审查机制，有意识强化数据安全与隐私保护等，并取得了一定的阶段性进展。但是总体来看，企业内部治理能力的有限嵌入和算法权力的持续扩张之间仍然存在着明显的张力。

因此，企业应当更加积极地承担与法律规范相衔接的治理责任，不断提升对技术规范的自我管理与约束能力。基于这一认识，本文以算法权力异化为企业战略失灵的表现形态展开分析，分别从内部自我规制的强化与外部法律规范的完善两个维度出发，提出一套双线并行、循环互动的协同治理体系，以此促进算法良法善治的治理路径。

算法权力异化背后的企业战略失灵与责任解构

对算法权力风险在企业管理层面的成因进行分析和梳理，是后续完善企业内部治理方案的重要前提。以下将依据算法生成的链条结构，从执行层面、管理层面以及后果层面三个方面逐一进行分析。

在执行层面，片面的工具理性是导致算法正义偏离的主因。当企业战略将复杂的法律冲突简化为可量化的增长指标时，在单一商业目标的驱动下，执行者往往容易集体丧失对公共利益的敏感性。例如，算法工程师作为算法权力的直接执行者，本应构成技术合规的第一道防线。但在点击率至上的绩效压力（KPI/OKR）下，工程师即使发现模型可能存在群体歧视或价格操纵的风险，也易只将其当作普通的技术问题进行处理。

而在管理层面，技术黑箱效应使企业内控体系容易流于形式。随着深度学习等复杂模型的应用，算法决策过程变得越来越难以理解，企业合规部门沦为橡皮图章（Rubber Stamping），只完成书面签字和流程确认，而无法对算法逻辑进行实际干预和修正；甚至被逐渐边缘化。

这种执行与管理的双重失效，诱发了组织遮蔽（Organizational Shielding）下的责任脱钩效应。具体来说，在高度细分且分工明确的算法研发长链条中，决策权的极度分散将使得责任边界日趋模糊，这进而削弱了问责的可能性。于是，当这种机制与技术黑箱叠加，个体即便并非主观恶意，也会在制度化流程中机械履行职责，这就是汉娜·阿伦特（Hannah Arendt）所揭示的“平庸之恶”（the Banality of Evil）在数字空间的投射。例如，有研究表明，算法工程师显然并不是天然地漠视伦理，只是在责任稀释的组织环境下，更倾向于将伦理重担推诿给其他环节的行动者。

而当那些牺牲算法公平、透支用户信任所换取的高指标背后的伦理危机一旦爆发，随之而来的监管重罚与品牌崩塌，就会导致远超短期收益的系统性商誉减值。因此，算法治理绝不是外部规制的附属问题，是关乎企业自身存亡的基础问题。作为数智时代的公共基础设施，平台应重塑其作为数字时代主体的生存逻辑，通过深度的自我规制来承担算法异化的风险。

内部维度：企业治理的策略重塑

算法治理的复杂性和高效性要求平台经营者必须承担与其权力相匹配的自我约束责任。社会学家安东尼·吉登斯（Anthony Giddens）的结构化理论（Structuration Theory）表明，社会结构既是行动的结果，也是行动的条件；企业内部的制度安排与个体行动相互塑造，共同构成算法治理的微观基础。因此，有必要从微观制度建设、外部互动机制、组织文化塑造以及政企协同四个维度，系统构建企业内部算法治理体系，并在此基础上实现与外部规制的有效衔接。

完善算法治理规则

企业对算法管理的人工监督负首要主体责任。组织决策的理性不仅体现在结果的最优化，更体现在决策过程的制度化与可追溯性。为此，企业应当完善内部自评估流程，建立覆盖算法研发伦理审查、上线前影响评估、运行期间持续优化的全流程治理机制，常态化开展自查自纠，不断提升算法治理的规范水平。

算法设计与开发阶段：嵌入伦理与风险防控

在算法具备高度自主学习与动态演化能力的背景下，若缺乏制度化审查，个体伦理难以抵御商业扩张压力。因此，伦理合规不应依赖个人判断，而应通过“人在回路”（Human-in-the-Loop）机制，将审查嵌入算法开发与应用流程，确保人类对关键决策的实质性控制。当前规范已对审查范围与程序作出基本规定，行业也初步形成“合规审查+技术评估+伦理评估”的治理结构。在此基础上，仍需进一步完善相关机制。

构建覆盖全生命周期的动态审查与技审融合机制。当前伦理审查虽涵盖事前审查、过程监督与事后评估，但在实践中仍易停留于“准入式审查”。为此，应构建覆盖算法设计、训练、部署与迭代更新全生命周期的动态审查机制，将伦理评估嵌入算法运行各环节，形成持续性的风险识别与纠偏能力。同时，针对算法黑箱问题，需推动伦理审查与算法审计、数据合规审查等技术工具的深度融合，提升伦理委员会对算法逻辑的“可解释性介入能力”，使其从程序性把关转向实质性评估。例如，阿里巴巴集团覆盖算法全生命周期的治理经验，建立“立项审批—上线审核—发布评估”的全流程管理体系，并实行“分类分级+专家研判”的伦理治理机制。在此基础上，构建结构化的算法审计流程，由技术、法务、合规及用户研究团队协同参与，从技术可行性、法律风险、制度合规性与用户体验等维度开展综合评估，必要时引入外部专家或公众代表参与论证。

强化伦理委员会的独立性与实质性权威，构建刚性的执行与约束机制。当前算法伦理审查在实践中面临“有限独立性”与“执行约束不足”的双重困境。一方面，《科技伦理审查办法（试行）》虽要求保障伦理委员会独立开展审查，但企业实践多为程序性独立而非结构性独立：执行层–管理层模式操作性强但易受商业目标影响，董事会–管理层–执行层模式则具有更高的独立性与权威性。例如，腾讯集团在董事会层面通过信息安全决策委员会、人工智能技术委员会等机构统筹伦理治理战略，董事会的直接参与为机制提供了制度保障。另一方面，缺乏刚性约束与实质权力使伦理审查难以真正制衡技术决策，伦理规范常因缺少执行保障和责任追究机制而被经济激励削弱，甚至沦为形象管理工具。例如，2019年谷歌公司（Google）成立由学者、伦理学家和政策专家组成的“先进技术外部咨询委员会”，其目的是为人工智能应用提供伦理建议，但由于缺乏实际否决权和干预能力，最终在成立仅一周后就因内部争议解散。为此，应通过成员遴选外部化、任期保障及独立报告路径等制度安排提升伦理委员会的独立性与决策权威，同时赋予其实质性权力，包括对技术项目的审查、否决或调整建议的正式采纳权，确保伦理原则能够真正影响决策过程，防止伦理审查沦为内部合规的附属性环节。

算法部署与运行阶段：构建风险防控与反馈机制

风险社会理论（Risk Society Theory）指出，现代风险具有跨时空性、不可感知性与制度性特征，治理应强调动态预防。据此，在算法部署与运行阶段，应构建风险防控的技术屏障与制度保障，以系统性降低算法可能引发的权益侵害和负外部性，并建立双向反馈机制。内部反馈方面，企业需完善申诉渠道，构建组织伦理安全感，认真对待员工的伦理关切，避免制度性沉默。具体可设立安全匿名的反馈渠道、建立独立调查机制（如直属董事会的伦理委员会或引入第三方机构），并构建体系化的申诉与复核流程，确保救济权利可操作。外部反馈方面，平台应赋予用户对算法推荐结果的更多控制权。一方面，建立异常监测与投诉举报渠道，及时处理违法或侵权内容，定期公开处理结果，强化外部监督；另一方面，基于利益相关者理论（Stakeholder Theory），将用户、劳动者和公众纳入算法治理，通过真实反馈促进算法优化。例如，抖音通过用户参与争议内容“打标”提升治理精准性，微博以梯度负反馈机制使用户自主调节内容偏好。适度赋权用户，既保障权益，也推动算法在反馈中持续调整，实现技术与规则的协同治理。

算法互动公开阶段：推动透明化与公众参与

程序正义（Procedural Justice）既是法治的基本原则之一，也是算法治理的基石。制度的正当性不仅取决于结果的公平性，更取决于决策过程的透明性、参与性与可问责性。《算法推荐管理规定》明确要求企业履行算法公示义务，适当披露算法的基本原理、功能目的及运行机制。目前，平台行业已基本建立常态化算法透明机制，尝试向公众解释其运行与决策逻辑。但研究指出，部分企业仍存在形式化、偏公关化的问题，往往模糊关键细节或堆砌术语，导致用户难以理解。提升透明度应以简明清晰、通俗易懂为原则，使公众能够真实感知算法运作。自2023年以来，抖音上线“安全与信任中心”并设立线下展厅，展示推荐、热榜与审核流程；2026年3月进一步推出“体验算法”交互式小程序，通过可视化与交互设计，将“双塔模型”“向量召回”“Wide&Deep排序”等概念转化为直观模块。用户可模拟不同角色，调整“兴趣时钟”或“随机扰动”等参数，观察推荐机制如何变化，从而将静态说明转化为沉浸式体验，实现从“可读”到“可感”的转变，这也是企业获取社会合法性与公众信任的重要途径。

综上，企业算法治理需贯穿设计开发、部署运行与互动公开全流程，形成覆盖内部管控与外部协同的闭环体系。这一完整的微观制度建设框架，可由图1清晰展示。

推动以人为本的责任导向

制度提供外在约束，文化构成内生动力，深层价值体系决定成员的行为边界与决策取向。若缺乏文化支撑，合规易流于形式。长期以来，互联网行业受“增长优先”逻辑主导，强调快速迭代、数据驱动与规模扩张。在平台权力日益具有公共属性的背景下，责任叙事亟需由边缘走向中心。

在组织架构层面，企业应将伦理要求纳入发展战略与公司治理，使平台用工和算法应用始终坚持“以人为本”。根据社会学习理论（Social Learning Theory），基层员工的行为和价值取向很大程度上会受到管理层的影响。因此管理层需要持续传递重视伦理的信号，引导组织由单纯追求增长转向兼顾责任。同时，可将社会责任纳入绩效与激励机制，推动员工由被动合规转向主动践行，减少技术偏差。在制度约束与组织文化协同作用下，将外部监管要求内化为日常实践并落实于算法治理各环节。例如，小红书发布《人群洞察报告》，通过细化用户洞察减少标签化倾向，使算法更贴近真实需求；微软以“负责任AI标准”嵌入开发流程，苹果通过“隐私嵌入式设计”（Privacy by Design）强化数据保护，均体现了将以人为本原则转化为制度与技术实践的路径。

与此同时，企业文化的转型并不是简单地用责任叙事取代增长叙事，而是在二者之间找到合适的平衡。根据最优区分理论（Optimal Distinctiveness Theory），个体或组织需要在“过度同化”和“过度分化”之间保持平衡，才能建立稳定、可持续的身份认同。对平台企业而言，一方面需遵循监管与行业规范以实现“同化”，另一方面又需构建独特伦理标准、彰显差异化价值以实现“分化”。因此，在重塑价值观中，既要融入行业的合规共识，又要打造自身独特的伦理品牌形象。

以自身技术支撑外部规范

平台企业应依托技术实践，推动回应型立法的发展。有效的规制体系应体现监管者与企业之间持续对话、动态调整的互动过程。因此，技术规范不能脱离法治框架，平台亦须超越被动合规，发挥技术与数据优势，推动技术规范向法律规范转化，实现政企协同治理。

具体而言，一方面，行业领先平台应发挥示范作用，将内部实践中验证有效的算法偏见治理机制与审计流程加以标准化输出，协助立法机关将部分原则条款转化为具体的技术标准和操作细则，从而提升法律规范的可执行性与一致性，弥合抽象规则与技术实践之间的鸿沟。另一方面，在保障商业秘密与数据安全的前提下，平台可向监管机构有限开放非核心算法的运行样本，使监管者在可控环境中直观理解算法逻辑及其技术边界，前瞻性识别潜在风险，进而增强规制措施的针对性与科学性。由此，立法模式可从以原则和事后约束为主，逐步转向基于数据与实践经验的精细化、前瞻性监管。

外部维度：法律规范的协同完善

除企业内部治理转型外，外部法律规范的同步完善同样是算法治理的重要支撑，二者协同方能提升治理效能。基于前文对平台实践的反思与内部机制的构建，公权力规制可从以下方面进一步优化。

算法安全治理：压实主体责任与前置性控制

算法安全治理应以压实企业主体责任为核心，细化制度框架并强化事前控制，在算法上线前完成风险识别、评估与前置管控，从源头降低算法对个体权利与社会秩序的冲击。

构建分级分类的治理框架与责任体系。针对当前规范多停留于原则层面的现状，应由网信、工信、人社等主管部门会同行业组织，结合不同应用场景制定更具操作性的算法合规规则，将公平、非歧视、劳动保障等抽象价值转化为可量化、可验证的技术指标与审查标准。同时，在统一合规底线的基础上引入风险分级理念，对涉及劳动管理、资源分配、信用评价等高风险算法实施重点备案与持续监管，对低风险算法采取简化程序或抽查机制，从而在保障安全的同时兼顾技术创新与治理效率。

强化源头预防与过程干预的双重机制。算法治理应将重心从结果端前移至过程端与输入端。一方面，强化企业算法自评估义务，要求其在算法上线前对潜在风险进行系统识别，重点评估对劳动者权益、机会公平及社会分配结构的影响，并通过规范数据采集、标注与训练流程，减少样本偏差与标签歧视，从源头降低算法输出风险。另一方面，引入第三方评估与独立审计机制，形成“企业自查+外部验证”的双层治理结构。同时，针对关键决策场景，应对自动化决策的适用范围作出必要限制，尤其在涉及用户合同状态变更或对劳动者权益产生重大影响的情形中，引入具有实质意义的人工审核机制，通过制度化嵌入“人在回路”原则，预设人工干预接口与触发条件，确保在算法出现偏差、歧视或异常运行时能够及时介入、暂停或纠偏，形成“技术运行+人工控制”的双重保障结构。

健全可追溯与实质问责的保障闭环。为确保前述制度安排能够有效落实，应同步强化算法运行的可解释性与可追溯性，建立关键决策过程的记录与留痕机制，使算法行为处于可审查、可复核的状态。在此基础上，进一步健全责任追究与问责体系，明确企业及相关责任主体在算法风险中的责任范围，并细化责任分配与举证规则，从而增强制度的刚性约束，防止合规流于形式，推动算法治理由程序合规走向实质负责。

算法安全监管：穿透式治理与分级分类规则

未来监管体系应向能够穿透技术细节与运行过程的“穿透式监管”演进，实现对算法权力运行逻辑的深度介入与系统矫正，由结果导向转向过程导向的结构性监管。

推进监管内容由结果导向向过程穿透转型。监管机构不应仅停留于对服务输出的外部评估，而应逐步深入算法的底层逻辑、数据来源、模型训练过程及内部审核机制，从以原则性规范为主，逐步向算法内部运行机制延伸，打破“技术黑箱”。为此，有必要完善算法备案、审计与合规评估制度，强化关键环节的信息披露与可解释性要求，使算法运行具备基本的可理解性与可审查性，为实质性监管提供基础条件。

构建以风险分级为导向的差异化监管体系与动态调整机制。鉴于不同算法在应用场景、影响范围及决策强度上的显著差异，应以风险程度为核心建立分级分类监管框架。可结合算法对个体权利、市场秩序及公共利益的潜在影响，将其划分为低、中、高三种风险类型。在此基础上，进一步细化差异化监管措施：对低风险算法，以备案与基础信息披露为主；对中风险算法，引入定期审计、合规评估与持续报告机制；对高风险算法，则实施更为严格的准入许可、实时监测与高频审查。同时，建立动态调整机制，根据算法应用范围、技术演进及实际运行效果，对其风险等级进行适时调整，避免监管规则固化带来的滞后性问题，实现制度的弹性与适应性。

强化技术赋能，提升监管能力的数字化水平。面对算法技术的高度复杂性，仅依赖传统监管手段难以实现有效治理，因此有必要推动监管工具的技术化升级。可以探索建立覆盖算法全生命周期的智能监管体系，运用自动化检测、模型评估与数据分析等技术手段，对算法运行进行持续监测与风险识别。同时，通过对重点平台运行机制与技术路径的系统分析，形成动态更新的风险图谱，为监管决策提供数据支持与前瞻依据，从而提升监管的科学性与响应能力。

算法生态治理：伦理约束与多元协同

在算法生态层面，应坚持“以人为本、智能向善”，推动技术发展与伦理约束协同嵌入，实现效率与价值的平衡。

强化伦理约束，确立人在回路的核心原则。在涉及生命健康、司法裁判或劳动权益等重大决策场景中，应明确保留人类的最终干预权和否决权，防止个体完全受制于自动化决策。开发者在算法设计阶段应系统引入公平、非歧视、隐私保护等核心伦理价值，通过风险测试、模拟实验等机制提前识别潜在问题。在算法运行中，还应保障用户的算法解释权与选择权，使其在特定情境下能够退出个性化推荐或标签化画像，维护个体自主决策空间。同时，通过信息披露标准化与实质性审查，细化算法信息公开要求，包括标准化的说明报告、技术文档及操作指南，使监管机构、社会公众与用户能够理解算法运行逻辑与潜在风险，为伦理原则的落地提供基础条件。

构建内外协同的多元参与治理结构。在内部治理方面，针对平台用工灵活化及传统参与机制失效的现实问题，应推动劳动者参与机制的制度化适配，通过建立申诉与反馈渠道、算法说明机制以及从业者代表参与的内部监督结构，使劳动者从被规制对象转变为治理参与主体。在外部监督方面，对于涉及公共利益的重要算法，应纳入强制备案范围，并强化信息公示与动态更新要求，同时引入公开听证、技术咨询与用户代表参与等程序，使公众监督由被动举报转向主动参与，形成持续的外部约束力量。内外协同的多元参与机制，不仅提升治理的透明度与回应性，也为算法优化提供真实反馈与实践性审查视角。

建立动态协同机制，形成治理闭环与规则演进。算法治理应推动企业实践与法律规范之间形成动态协同，使治理成为持续迭代、可反馈的闭环。法律体系应主动吸纳平台在实践中形成的成熟治理工具，如算法审计方法、风险评估模型和合规流程，将其转化为行业标准或正式规范。同时，通过构建算法沙盒等实验机制，在可控范围内进行企业与监管机构的协同试验，实时观察算法运行效果与潜在风险，使监管机构能够更精准地掌握技术演进路径与风险边界。在治理逻辑上，应形成“技术发展—制度回应—持续优化”的动态闭环，使软法规范与标准化操作指南成为试验和探索的中间环节，再逐步转化为法律条文，实现技术逻辑与监管规则的融合，最终确保算法运行既高效又安全、合规且以人为本。

结语：从数字利维坦走向社会公器

随着算法深度融入社会运行，平台影响已超出商业领域，其决策不仅关系个体权益，也影响资源分配与公共秩序。因此，算法治理的关键在于对平台所掌握的类公共权力进行约束，防止效率导向侵蚀公平与程序正当，并在技术发展与社会责任之间建立稳定平衡。

为实现这一目标，需要推动企业理念转型，将合规由成本负担转为日常治理基础，使算法治理由被动应对转向主动落实；同时强化企业内部机制与外部法律规范的协同，并通过多方参与引入外部监督，提升治理的公正性与包容性。算法治理需要企业内部重塑、外部规制完善与生态协同治理的动态联动，其整体逻辑框架可通过图3清晰呈现。算法规制既不能仅依赖法律强制，也不能寄望企业自律，而应依托多元治理机制，使国家监管与企业自治相互支撑、相互校正。

总之，算法治理不仅是技术问题，更是制度能力问题。通过风险分级、事前干预与多方协同，将规制由外部约束转向内嵌引导，方能在促进技术创新的同时有效规制算法权力、维护公共利益，实现平台的长期可持续发展；这也是数字时代法治发展的要求。

朱家玮：清华大学国家治理研究院研究人员，清华大学法学院博士研究生

林来梵：清华大学法学院教授，博士生导师，清华大学国家治理研究院副院长

任编辑：高菁阳

来源：《清华管理评论》2026年5月刊