欢迎登录中国(南方)学术网 | 学术研究杂志社

全球算法监管的趋势特征、要素识别与国别分析研究——基于政策文本的比较分析

时间 : 2026-02-09 来源 : 中国南方学术网 作者 : 刘鹏 钟峥云 【字体:

  刘鹏,中国人民大学公共管理学院教授、博士生导师;

  钟峥云,中国人民大学公共管理学院博士研究生。

  [摘 要]  算法社会的到来使算法的“双刃剑”特性日益凸显,算法治理不仅依赖算法工具,更有赖于对算法本身的有效监管。本文基于“监管目标—监管工具—监管主体”三维分析框架,对具有代表性的国家或组织的算法监管政策进行文本量化分析,识别监管要素类型并检验其匹配性,同时比较不同国家和组织的监管模式。研究发现,人工智能构成算法监管的主要场域,数据保护是核心逻辑起点,自愿倡议性框架占据主导;监管要素整体匹配度较高,但仍需强化问责型工具并明确多元主体的责任分工与协同机制;各国或组织普遍在创新与伦理之间寻求平衡,更加重视事前事中的风险管理型与信息型工具运用,并呈现多元主体协同治理与监管机构扩散建立的趋势。同时,各国或组织也形成了差异化的算法监管体系和机制,在预防原则、比例原则和审慎开放监管理念中各有侧重。本文有助于系统建构算法监管理论框架,拓展国际比较视角,为算法向善发展提供制度启示。

  [关键词]  算法监管 监管目标 监管工具 监管主体 政策文本分析

  一、问题提出

  近年来,伴随以深度学习算法为核心驱动力,并在 ChatGPT、DeepSeek 等大模型取得重大突破的推动下,人工智能进入了新一轮迅猛发展的阶段。全球步入了“算法时代”[1]与“算法社会”,[2]“算法生活”日益涌现。[3]一方面,算法在促进技术进步、提升治理效率和改造社会生活方面发挥积极作用,公共与私人决策对算法的依赖不断加深。但与此同时,算法设计与实施技术风险所引发的权利侵害和公益减损危险也持续加剧。诸如大数据杀熟抬价、信息茧房观念极化、外卖骑手困于平台算法系统乃至国外干涉政治选举等负面报道层出不穷。算法偏见、算法歧视、算法黑箱、算法霸权等应用风险不断显现。以技术中立性为前提的传统监管理念与模式越发难以应对算法引发的监管挑战,因此为避免造成监管真空和权利保障危险,必须在法律与制度层面构建起直接以算法为客体的监管模式。

  面对算法现实风险及技术发展需要,各国监管者和政策制定者积极探索算法监管方案,算法监管在政治议程中所占的比重越来越大。2024年初,欧盟正式通过《人工智能法案》;同年年末,我国网信办等四部门联合印发《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》部署算法综合治理。这标志着算法监管逐渐步入制度化推进的新阶段。然而,作为新兴监管对象,算法对既有监管体系的适用性提出挑战,尤其考验监管目标权衡与监管工具适配能力。因此,当前全球算法监管政策内容呈现出怎样的特征与趋势?监管目标、工具和主体的协同性与匹配性如何?是否具有国别差异?本文试图构建“监管目标—监管工具—监管主体”分析框架,运用政策文本量化分析方法,对2015年以来各国或组织算法监管政策的要素类型化识别、匹配性分析以及国别比较开展研究,以期回答上述问题,为算法监管政策优化提供参考。

  二、文献综述

  (一)概念辨析:算法、算法行政、算法治理、算法监管

  算法本质上是为达到特定结果而依次执行的任何一组规则,其内涵随历史阶段与应用场景而演变。依据是否具备自主学习与指令演化能力,算法可分为“传统算法”与“机器学习算法”。[4]本文采用涵盖二者的广义算法概念,在政策文本中将人工智能视为算法的重要应用场景之一,同时也纳入排序与匹配、搜索与索引、规则驱动型决策等传统算法类型,广泛应用于信息推送、商业营销与在线搜索等领域。

  当前学术界关于算法的讨论聚焦三个紧密相关的热门词汇:算法行政(algorithmic administration)、算法治理(algorithmic governance)和算法监管(algorithmic regulation)。有必要厘清三者关系。算法行政是将算法处理应用于公共行政以实现行政目的具体实践的统称,主体更多聚焦于政府,关注算法对政府行为、组织结构、运行模式等方面带来的变革。诸如生成式人工智能、预测分析和面部识别等 AI 技术几乎将政府运作、决策和服务提供的所有方面都算法化了。这一被称为“算法官僚主义”的现象[5]引发了关于对公共行政工作场所、公务员以及他们所服务公众的影响的激烈辩论。算法治理则是在政府运行、企业管理、社会发展等多个领域被广泛使用的概念,概念边界更加广泛化。一方面强调对人工智能技术本身的治理,以确保算法公正透明,避免算法歧视,维护社会公平。另一方面也关注算法作为重要工具性角色,其引入对于传统治理模式带来的影响。还有学者将算法治理定义为基于设计的治理(design-based governance),是一种“强助推”。[6]“算法监管”与“算法治理”这两个术语之间并无明显区别,既能包含用算法监管(regulation by algorithms),也能包含对算法的监管(regulation of algorithms),使用这两个术语的学者所采用的定义也有大量重叠,不过算法监管或规制更强调政府发挥的作用。

  本文使用“算法监管”一词的部分原因还在于延续Yeung对于算法监管的定义与讨论。2018年Yeung基于Julia Black的研究,[7]阐述了算法监管的原始定义(侧重于将算法作为监管工具):[8]持续、有意地尝试采用算法决策(ADM)来影响行为或管理风险。Yeung的算法监管概念以控制论的三重功能为特征,包括标准制定机制、信息收集和监控机制及干预和制裁机制,以使系统行为与监管者的总体目标保持一致。随后以Jones和Compton以及Bellanova和deGoede为代表的众多学者进一步丰富和修正了这一概念,并从不同学科视角为其增添“血肉”。与此同时,Yeung也预示了对算法的监管:“确定算法权力的崛起有哪些利害关系”。Yeung早先关于“监管技术”的著作中便提到了这种双重性,一方面试图唤起人们利用技术为监管服务的能力,另一方面也揭示出技术本身需要受到监管的方式。[9]其他学者也强调了算法与监管的密切联系:监管塑造了技术;技术塑造了监管。[10]本文关注的即是对算法进行监管。

  (二)算法监管文献述评

  文献梳理表明,现有算法监管研究主要形成两条路径:一是以计算机科学为中心,关注构建和维护计算系统所需的技术知识和理解;二是以人文社会科学为导向,从法学、公共管理等视角探讨算法的社会影响、伦理与治理问题。本文主要立足第二条研究路径。从时间维度看,西方学界较早关注算法规则与权力问题,如莱辛格所言:代码即法律。代码建构了数字空间的规则,并约束人类行动。[11]随后探讨算法在社会和政治领域中的权力扩张(power of algorithms)。[12]从内容维度看,法学学者对算法的关注与日俱增,研究逐步由伦理软治理转向权利与正义诉求,从数据主体权利扩展至更广泛的受法律保护的利益。[13]在公共管理领域,现有的算法监管研究多内嵌于人工智能治理的相关文献之中,重点探讨公共部门在不同业务领域中人工智能的具体应用及其伴随的伦理议题。其涵盖的主题主要包括政府采用人工智能的驱动因素与面临的挑战、政务服务中人工智能的用户体验、算法偏见问题,以及涉及公众隐私与公众信任的风险等。学者们普遍认可,算法决策已成为公共行政推进人工智能驱动的数字化转型的关键路径之一。在此过程中,算法决策系统对人类决策方式所产生的深刻影响,也激发了关于算法透明性与问责性的广泛关注与热烈讨论。从方法维度看,既有研究长期以定性、概念性和探索性分析为主,[14]近1—2年调查实验和其他定量研究方法呈喷涌趋势不断涌现,呈现出新兴研究主题由规范探讨向经验检验扩展的趋势。

  总结而言,既有研究初步为算法监管提供了智识洞见,但也存在以下两方面问题。其一,研究重心分布不均,主要集中于人工智能治理议题,对算法作为独立监管对象的研究多停留在伦理讨论或典型国家政策实践的经验性比较层面,[15]尚缺乏对算法监管政策在监管目标设定、工具选择及其结构性偏好与演进趋势的系统刻画。尤其是在算法运行具备高速度、大规模、高复杂性与不透明性,且欧美多国相继出台具有“里程碑”意义监管政策的背景下,亟须对相关监管要素进行系统识别与类型化分析。其二,既有研究未能在统一分析框架下综合考察监管目标、监管工具与监管主体之间的内在关系,导致风险应对方案与监管目标是否匹配、多元主体与监管工具是否适配等关键问题缺乏充分论证,从而限制了对算法监管制度整体有效性的评估。基于此,本文通过构建分析框架,运用政策文本分析方法,系统回应上述问题。

  三、分析框架

  (一)监管目标维度

  在风险社会与算法社会背景下,发展与监管构成算法治理的双重核心目标。一方面,国家需通过科学设定监管目标和完善政策体系,推动技术进步与产业升级,以在全球人工智能竞争中保持战略优势;另一方面,也必须审慎应对技术扩散带来的系统性风险,包括算法负外部性、信息不对称以及“委托—代理”关系引发的市场失灵等问题,防止技术发展偏离公共利益轨道。

  (二)监管工具维度

  监管工具是实现监管目标的关键手段,直接影响政策绩效,是连接监管目标与治理效果的核心环节。在新兴监管体系构建与监管机制设计中,政府以何种方式介入、在何种程度上介入是重要的监管问题。至少20年来,有关监管和治理的学术研究一直关注前数字监管工具与数字监管工具究竟有何不同,以及这些数字监管工具给其引入的整体监管体系带来了哪些一般性变化。相较传统的“命令—控制”工具,算法治理所处的“算法代码”与“法律代码”交叠空间削弱了传统干预手段的适用性,“新治理”监管形式涌现。由此,亟需探索新的权力动态配置方式,系统梳理算法监管工具箱,构建兼顾工具属性、应用逻辑与实践演进的类型化框架,以增强监管的适应性与有效性。

  (三)监管主体维度

  监管主体是制定和执行监管政策的关键行动者,可区分为制定主体与参与主体。前者包括独立或联合发文的政策制定机构,后者则涵盖执行、协助或监督政策实施的组织与个体。政府长期以来是算法监管的核心主体,但随着算法风险的复杂化与跨领域化,行业组织、企业、公众和媒体等非国家主体的作用日益凸显。算法治理亟须贯彻社会共治理念,通过明确主体责任、发挥多元主体合力,构建协同治理格局。有学者指出,在监管成熟阶段,应逐步形成政府监管企业、第三方监督政府的复合型算法监管模式。[16]


  四、研究方法与数据来源

  (一)政策文本量化研究与数据来源

  本文采用政策文本量化研究方法,结合算法监管政策的外部属性分析与内部语义挖掘,借助 NVivo 12 软件对文本进行编码、归类与量化处理,以提升分析的科学性与准确性。政策文本的检索与选取主要经历三步:一是通过查阅算法监管相关研究文献,掌握政策发展概貌并初步筛选文本;二是以“(生成式)人工智能”“算法”“算法监管”“算法治理”“算法问责”等为核心关键词,在各国及国际组织官方政策法规平台系统检索,剔除新闻报道及主题不符文本;三是采用“滚雪球”方法,依据政策间的引用与承继关系进行回溯检索,以减少遗漏。

  在文本遴选过程中,本文确立两项标准:其一,仅纳入中央政府或国际组织层面发布的算法监管政策,排除地方性文件;其二,优先选取具有明确规制属性、涉及治理框架或问责机制的政策文本,不纳入以发展战略或规划为主的文件。同时考虑到算法监管政策的分散性与隐含性,部分虽未在标题中直接指向算法,但其条款与算法治理高度相关的政策亦被纳入分析。最终,整理获得2015年1月至2024年12月间多国政府和组织发布的62份算法监管政策文本,并按发布时间进行排序与编号(表1)。

  (二)编码规则及信度分析

  本文以政策文本中能够完整表达含义的段落或具体条款作为内容分析单元,剔除与研究主题无关的内容,并按“政策文本编号—条款序号”对62篇政策文件进行开放式编码,在遵循互斥性与高效度原则下形成参考点。随后,依据监管目标、监管工具与监管主体类型对编码结果进行归类统计,将非结构化政策文本转化为可量化数据。鉴于算法监管理论体系尚处于发展阶段,本文立足现行政策实践,采用基于政策文本的扎根理论方法,在理论与实践动态互动中归纳并分类相关要素,最终形成全球算法监管政策文本的内容分析编码表(表2)。

  为确保研究质量,在效度方面,文本收集与类目建构均遵循规范流程;在信度方面,由两位研究者基于统一框架独立编码,并经比对、讨论修正及专家校正后达成一致。信度检验结果显示,Kappa 系数为 0.872,表明编码一致性较高,研究结果具有良好的可信度与解释力。

  五、全球算法监管政策文本分析结果

  (一)基于政策文本结构特征的政策计量分析

  1.发文时间分析。从时间维度看,自2015年以来,伴随大数据成为热点议题,算法监管逐步进入政策制定者视野。与其他新兴风险类似,监管机构一方面通过制定新的法律法规、治理框架或发布指南来引导算法应用,另一方面也对既有法律体系进行修订或补充,以回应算法带来的新问题。对于后者,本文以政策的最后一次修订时间作为事件的最终状态。一般而言,一国政策文本数量越多,其在该领域的政策活跃度与复杂性越高。梳理发现,欧盟、美国、中国、英国、加拿大和新加坡的发文量最多,平均为5—10篇,且均出台了以算法为直接监管对象的专项政策;其余国家多停留在既有政策的局部调整阶段,平均仅1—2篇。

  如图2所示,算法监管政策在2022—2023年间出现显著增长,并在2024年持续保持高位。这一趋势并非偶然。其一,人工智能对公共行政和社会治理的影响显著增强。自2022年底以来,随着 ChatGPT、Deepseek 等通用大模型的出现,生成式人工智能引发的数据合规、“AI 幻觉”、算法歧视及知识产权纠纷等问题日益凸显。其二,互联网平台经济的持续扩张叠加算法与人工智能技术,使违法行为更加复杂和隐蔽,如基于算法推荐的个性化排序与差异化定价,以及平台间的算法霸权与垄断行为,均对既有监管体系构成挑战。[17][18]上述因素共同推动算法影响在广度、深度和覆盖面上的快速扩张,[19]使其深度嵌入政治、经济与社会生活的各个领域。

  2.发文类型分析:自愿性政策占比显著。政策文本以法律、规划、行政命令、框架、原则及指导意见等多种文种形式呈现,其类型分布在一定程度上反映了政策实施效力及政策制定者对相关领域的治理态度。梳理发现,全球算法监管政策中,约50%以框架、原则、报告等倡议性、自愿性形式出现,其次为近年来出台的立法政策(32.26%),规章和指导意见等占比最低(17.74%,以中国为典型代表)(表3)。这表明多数国家仍主要通过非正式、自愿性规制方式应对算法带来的风险。这一特征契合新兴领域政策演进的一般规律。在实行算法监管初期,政府对相关技术认知有限,通过建立高层次伦理原则的形式将相关价值内嵌于行动方案,有助于调和监管部门与被监管者等多方主体的利益冲突,避免不必要的创新抑制。然而,此类以自愿为基础的伦理框架和治理工具通常缺乏强制力与问责机制,其实际效能在学界与实践中广受质疑。因此,未来算法监管亟须将重心从原则倡议转向具体落实与制度执行,这一转变有望为算法监管提供更具操作性的起点。

  (二)基于政策文本内容特征的政策语义分析

  本文运用内容分析法,首先分别从监管目标、监管工具和监管主体三个单一维度展开考察,继而对监管要素间交叉维度进行分析,以评估政策的系统性和有效性,最后深化国别比较分析。

  1.词频分析:以数据保护为基础的算法监管逻辑起点。本文运用 NVivo 12软件对62份算法监管政策文本中的关键词进行词频统计,将最小词长设为2,提取500个高频词,生成词云图(图3)。结果显示,“人工智能”“数据”“信息”“个人”“算法”等为最主要高频词,词频分别为7559次、6496次、5111次、5019次和2442次,表明当前各国普遍将算法监管嵌入人工智能治理与个人数据治理框架之中。前者源于算法、算力与数据构成人工智能的核心要素,算法决策本身即是人工智能治理的关键议题;后者则在于数据法构成算法监管的逻辑起点,数据处理原则通过约束数据质量,在源头上防范算法错误、算法歧视与算法标签化等风险。[20]由此,各国逐步形成以源头数据规制与数据赋权制衡为核心的治理路径,相关数据保护立法在实践中对算法的生成与运用产生了直接约束作用。

  在机器学习算法日益成为主流算法的人工智能技术发展趋势下,算法决策已由线性逻辑推理转向多环节、动态迭代的过程。若更正权仅针对底层数据或个人信息,而未触及算法模型的逻辑偏差及机器学习过程缺陷,则难以从根本上保障决策的准确性。因此,个人数据保护是算法监管必要但并不充分的工具,是探索算法问责的第一步。防治算法异化风险亟需突破单一的数据保护视角,将监管延伸至算法自动决策的全过程,通过多元制度与实践实现由静态向动态、系统性监管的转变。

  2.单维度分析。本文在整体分析62份算法监管政策文本内容的基础上,通过初步编码及不断修改完善,最终形成3个核心编码和9个主轴编码。其中监管目标父节点包含创新型目标和伦理型目标两个子节点,内含9个具体监管目标。监管工具父节点包含命令控制型工具、风险管理型工具和信息披露型工具3个子节点,内含14个具体监管工具。监管主体父节点包含政府主导型、行业自律型、企业主体型和公众监督型4个子节点(表4)。

  (1)算法监管目标:监管创新与伦理成为共识。研究发现,伴随“监管型国家”转型的推进,负责任创新已成为跨国共识:在所考察的12个国家中,相关政策普遍强调责任取向,表明各国政府倾向于在算法监管中同步兼顾技术创新与风险治理,而非作出二元取舍。这一取向与负责任创新“将价值内嵌于制度设计”的理念高度契合算法治理实践。算法一旦嵌入社会系统,事后纠偏成本高昂,需在制度设计阶段即明确价值与规范;同时,缺乏法律与制度保障的技术难以获得公众信任。因此,与算法发展同步构建制度与激励安排,已成为当前算法监管目标的核心共识。

  算法伦理是对算法活动施加的伦理规范要求。表5显示,各国和国际组织的算法监管政策普遍同时涵盖多项伦理目标,其中公开透明、自主可控、负责任性、公平公正、可解释性和隐私保护的出现比例均超过半数,表明其已成为具有广泛共识的核心伦理优先事项。既有研究从不同维度揭示了算法可能引发的权力、失控、权利和社会四类异化风险,[21]以及算法标签、操纵、歧视和错误等具体侵害类型。[22]总体而言,当前全球算法监管政策所确立的伦理目标,正是对这些算法异化风险的集中回应。

  (2)算法监管工具:转向事前事中的风险控制与信息披露。本文从算法风险类型与监管资源依赖两个维度,对算法监管工具进行类型学划分,归纳出命令控制型、信息披露型和风险管理型三类工具(表6)。既有研究表明,算法风险可区分为源于数据与算法脆弱性的技术层风险,以及在社会场景中扩散引发的应用层与伦理风险。[23]与此同时,监管工具的选择高度依赖监管机构可动用的资源类型,主要包括以立法和行政权力为核心的政治权威,以及以信息管理、算法审计和透明机制为核心的技术权威。[24]与此同时,在算法监管中,算法风险类别与监管资源依赖两者之间在一定程度上具有同向性。社会应用层风险通常通过依赖政治权威的命令控制型工具加以应对,即有效维护公共利益是政府权威合法性的来源;算法本体层的技术风险则更多依靠技术权威,通过风险管理型工具实现“以技术治理技术”;信息披露型监管介于两者之间,既具一定制度授权基础,又侧重透明机制和软性引导,并通过动员多元主体参与实现间接治理(图4)。

  监管的核心挑战在于随社会变迁持续调适。在算法社会中,监管工具呈现出明显的转型趋势:传统命令控制型工具虽未完全失效,但已难以单独应对算法治理的新需求,促使监管体系向多元化、现代化演进。现有政策显示,曾经占据关键重要地位的命令控制型工具占比最低(21.29%),而风险管理型(53.78%)与信息披露型(24.93%)成为主导,反映出各国对新型算法风险的应对重心正在前移。其中,信息披露型监管在算法治理中得到深化发展,衍生出主体赋权、算法备案、报告义务和记录追溯等新工具,成为数据与个人信息保护监管的重要延伸,并集中回应“算法透明”这一核心议题。[25]算法透明要求更深层次披露算法应用中的数据与规则,为监管提供抓手并增强公众赋权。与此同时,算法备案制度具有鲜明的中国特色,主要应用于互联网信息服务领域,通过公开算法基本信息与原理,提高算法运作的可追溯性与可监督性。[26]

  风险管理型工具是当前算法监管的重点,其核心在于通过事前、事中的程序性控制降低风险。在数据层面,主要体现为数据质量管理与数据最小化原则;在算法层面,则包括算法审计与算法影响评估;在决策运行层面,还强调引入不同程度的人类监督(人在回路)。在各类工具中,算法影响评估(AIA)出现频率最高,36篇政策文本均有所涉及,已成为近年来各国普遍采纳的重要制度创新和算法监管体系的关键支撑。美国、欧盟、加拿大和新西兰等均在算法治理框架中引入算法影响评估,但制度复杂程度存在差异:加拿大的《自动化决策指令》构建了涵盖算法设计、影响与数据使用的多项风险指标与评分机制,而《新西兰算法宪章》则以简化的3×3矩阵评估系统风险。在中国,算法影响评估已从原则性要求逐步制度化,写入多部法规,如《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》。2024年发布的《生成式人工智能服务安全基本要求》进一步将相关原则细化为可操作的评估标准,表明算法影响评估已成为继算法备案和分级分类之后,敏捷治理框架下的重要监管工具。

  (3)算法监管主体:多主体综合监管与全球监管机构陆续建立。图5显示,政府导向型监管占比最高(56.69%),表明算法监管仍以政府主导为主;行业自律型、企业主体型和公众监督型占比较低且相对均衡,分别为17.37%、14.97%和14.97%。在政府主导型监管中,既包括单一部门监管,也包括多部门联合监管,并呈现出通过新设独立监管机构或重组传统官僚体系强化监管能力的趋势。值得注意的是,将部分监管权力下放至相对独立的监管机构,已成为监管体系改革的重要方向。[27]实践中,多部门协同与专门监管机构的设立同步推进。例如,中国在《关于加强互联网信息服务算法综合治理的指导意见》(以下简称《指导意见》)中明确由网信部门牵头,联合多部门建立协同联动机制,推进算法安全治理;在国际上,纽约自动化决策工作组、新西兰数据道德咨询小组以及英国信息专员办公室、金融行为监管局等机构的设立,体现了算法监管主体由单一政府向多部门协同、并伴随全球监管机构扩散的趋势。

  尽管政府监管在权威性与执行力方面具有优势,但信息不对称与技术复杂性不断扩大,使其在算法治理中面临现实困境。与此同时,技术发展提升了非国家行为者的治理能力,行业自律与企业自我规制凭借专业性与灵活性,在一定程度上弥补了政府在技术与专业知识方面的不足,推动监管模式向共同监管转型。由此,将多元主体纳入治理体系并探索治理理念、结构与机制创新,已成为重要研究议题。[28]在算法监管领域,这一趋势尤为明显:算法治理不再是政府的单向规制,而是多主体参与的综合治理。监管机构通过引入企业、行业组织与公众合作,以应对自身资源与能力限制。例如,中国的《指导意见》提出构建政府监管、企业履责、行业自律与社会监督相结合的多元共治格局;新加坡的《生成式人工智能治理模型框架》亦强调政策制定者、行业、研究共同体与公众等关键利益相关者的协同参与。

  3.交叉维度:监管要素间匹配性分析(协同)。对算法监管政策中监管目标、监管工具与监管主体的编码进行交叉统计,有助于从互动视角评估政策执行的有效性与稳定性。图6基于 UCINET 社会网络分析呈现匹配结果,不同颜色与方位代表三类监管要素,节点大小与连线次数反映匹配频次。

  在“监管目标—监管工具”匹配方面,命令控制型工具主要服务于负责任性目标,风险管理型工具更有助于实现公平公正、隐私保护与自主可控,信息披露型工具则与自主可控、公开透明和可解释性高度相关。多种工具的组合使用有利于培育公众信赖并推动负责任创新。然而,当前命令控制型工具占比较低,监管强度与威慑力不足,可能削弱伦理类监管目标的实际落地效果。

  在“监管工具—监管主体”匹配方面,命令控制型工具通常由政府主导;信息披露型工具主要依托政府与社会公众;风险管理型工具(如算法审计与算法影响评估)则更适合由监管部门、行政机关内部或第三方机构实施。[29]但现有政策文本中对相应监管主体的界定较为模糊,行业组织与企业多被笼统定位为“被鼓励参与者”,具体职责不清,存在以自愿监管替代正式监管的风险,有待进一步明确。

  在“监管主体—监管目标”匹配方面亦存在类似不足。算法监管涉及政府、企业、行业组织与公众等多方行动者,但如何在企业逐利动机与公共利益之间形成协调一致的监管目标,现有政策文本讨论不足,主体间利益平衡与共识建构仍有待深化。

  4.监管模式国别比较分析。随着全球算法监管浪潮的兴起,各国在较短时间内密集出台相关政策,为以国家为单位开展比较研究提供了充足样本。受技术与产业发展水平、社会关注度、政治体制与政策传统等因素影响,各国在算法监管实践中呈现出差异化回应。本文以同一国家内部政策文本中各监管要素的出现频次为依据,识别其主导监管属性,并在图中以深色标记加以呈现。鉴于样本均为规制导向政策文本,监管目标中“创新”与“伦理”的频数差异缺乏比较意义,相关判断主要通过语义分析与核心理念加以识别。同时,政策文本均由国家层面政府发布,因此在监管主体维度中,各国“政府”主体均设定为基础默认值1,若文本中进一步强调政府监管角色,则依据出现频次予以累加(表7)。

  在监管目标维度上,美国和英国以负责任创新导向为典型代表。如英国在《建立有助于创新的人工智能监管方法》中明确提出以灵活、促进创新的监管方式增强商业信心、投资意愿与公众信任。相较之下,欧盟则以伦理监管导向为代表,通过《人工智能法案》构建全球首个系统性监管框架,并辅以 GDPR、DSA 和 DMA 等立法,意在以严格规制和制度外溢塑造国际算法治理标准。

  在监管工具维度上,欧盟、美国和加拿大中的风险管理型工具最具代表性。欧盟的《人工智能法案》依据风险程度对人工智能系统进行分级,并实施差异化监管;加拿大的《自动化决策指令》同样通过风险分级,对高风险系统施加更严格的算法影响评估、透明度与问责要求,体现了以风险为核心的工具选择逻辑。不同国家或组织的监管工具侧重与实践详见表8。

  在监管主体维度上,除普遍存在的政府监管外,美国和新加坡更突出行业自律与企业主体责任,与技术发展水平越高、自我监管机制越活跃的经验规律相一致。[30]如新加坡在《国家人工智能战略2.0》中明确肯定行业在塑造负责任人工智能中的关键作用。相对而言,公众监督型监管的代表为欧盟与中国:前者通过制度化的公众赋权机制强化社会监督,后者则以“以人民为中心”的治理理念,将公众参与贯穿于算法监管政策之中。

  通过比较各国政策文本可以发现,尽管制度路径与立场存在差异,各国总体均致力于在监管与创新之间寻求平衡,呈现出“共识与分歧并存”的治理格局。从实践看,基于风险的方法已成为算法监管的核心逻辑,其理论基础主要体现为预防原则(Precautionary Principle)与比例原则(Proportionality Principle)(表9)。预防原则强调在可能存在严重或不可逆风险且科学不确定的情况下提前采取措施,[31]虽起源于环境与食品安全领域,但已逐步扩展至数字治理。[32]学理上区分为强预防与弱预防:前者主张对潜在高风险活动原则上予以禁止,但实践适用性有限;后者更具可操作性,强调在不确定条件下采取合理预防措施,以实现风险防控与发展的平衡。[33]比例原则则源于德国警察行政法,旨在协调公共利益与个体权利,通常通过适当性、必要性与均衡性“三阶审查”实现。[34]在算法监管中,比例原则主要体现为分级分类监管,即依据不同风险水平配置相称的监管强度。

  在法律原则之外,政策实践中常以“审慎开放”刻画国家技术治理立场,强调在优先推动创新的同时保持风险意识与适度约束。由此,可依据风险控制强度形成一条连续谱:从左端的预防原则(强调监管优先、风险最小化),经由中间的比例原则(强调风险与措施相称,寻求平衡),到右端的审慎开放(强调创新优先,对风险仅作有限控制)(图7)。

  基于前文对监管目标、监管工具与监管主体的分析,各国算法治理实践可归纳为不同的原则取向类型。需要指出的是,算法监管并非“严格管制”与“完全放任”的二元选择,因此纯粹意义上的“强预防原则型”或“完全开放型”在现实中并不存在。实践中,预防措施往往需借助比例原则划定边界,[35]而比例原则本身亦内含审慎思维。[36]因此,各国总体上均可纳入比例原则框架之下,差异主要体现在对风险防控与创新促进的侧重程度不同。

  在比例原则+预防原则型模式中,监管目标是伦理监管型,监管工具中凸显风险管理和命令控制的应用,监管主体主要集中于政府部门,公共性特征显著。典型国家是欧盟和法国,例如欧盟的《人工智能法案》对“不可接受的AI”作出直接禁止性规定,在《通用数据保护条例》第 6 条第 VII 款和第 VIII 款也明确规定了数据处理必须遵循安全和预防原则;在比例原则型模式中,监管目标同时兼顾伦理与创新,监管工具突出风险管理机制,尤其强调数据最小化、算法影响评估与算法审计等措施的应用。监管主体则因应用场景与国家文化传统的差异而呈现灵活组合。典型国家包括中国、加拿大、韩国、澳大利亚以及新西兰。多数国家属于此类,中国的算法监管以“风险分级分类监管”最具代表性,强调针对不同风险水平匹配相应的监管措施;在比例原则+审慎开放型模式中,监管目标强调“责任创新”,监管工具主要为风险管理与信息披露,监管主体以行业自律和企业责任为主。典型国家包括美国、英国、日本、印度和新加坡。以美国为例,其治理理念长期强调“轻触式监管”,在鼓励创新的前提下,仅针对潜在风险采取有限、灵活且多为事后纠正的干预措施,以保障公平、透明与责任,同时避免对技术发展施加过度约束。

  六、结论与讨论

  2022年后全球掀起算法监管热潮,人工智能法与个人数据保护法成为主要制度形态,少数国家率先出台专门算法监管政策,但整体上仍以自愿性、倡议性框架为主,实施效力有待加强。本文通过系统编码与分析,认为监管目标可分为责任创新型与伦理监管型,监管工具分为命令控制型、风险管理型和信息披露型,监管主体分为政府主导型、行业自律型、企业主体型和公众监督型。监管目标、工具与主体整体上呈现较高协同性,但在“目标—工具”层面仍需强化问责型工具以防止原则空转,在“工具—主体”层面亟须明确多元主体的职责分工与利益协调机制。各国逐渐在“创新与监管并存”的目标上形成共识,更加重视事前、事中的风险管理与信息型工具,并呈现多主体协同治理和全球监管机构扩散趋势;与此同时,受技术、制度与社会环境差异影响,各国在预防原则、比例原则与审慎开放理念之间形成了差异化的算法监管路径。

  我国当前算法监管呈现出以安全风险防控为起点、以促进创新发展为导向的整体特征,通过综合运用命令控制型与风险管理型工具,并辅以具有中国特色的算法备案制度,逐步形成了政府多部门协同、公众参与的复合型治理机制。为进一步完善制度设计,可从以下方面推进。一是锚定监管目标,在坚持比例原则、避免过度干预的前提下,明确以发展为核心的价值导向,引导算法应用服务公共利益与社会善治。二是创新监管工具,构建覆盖事前、事中与事后的全周期监管体系,事前注重风险识别与合规设计,事中强化动态监测与敏捷干预,事后完善责任追究与纠偏机制。同时在风险管理框架下强化信息披露、数据透明与公众赋权,提升治理的敏捷性。三是优化监管主体,补强行业组织与企业角色,通过政策激励推动行业自律与企业责任融入整体治理,形成多主体协同合力。四是深化国际协同,积极参与全球规则制定,推动克服治理碎片化,构建更具凝聚力的全球算法治理共同体,提升我国在国际治理中的制度影响力。

  需要指出的是,进入2025年后,随着 DeepSeek 的问世及人工智能行动峰会引发的国际形势变化,各国算法监管模式呈现出一定程度的趋同,整体向监管光谱右端的审慎开放取向移动。美国于2025年1月颁布《消除美国在人工智能领域领导地位的障碍》行政命令,要求审查并撤销基于拜登第14110号行政令形成的相关政策,将“是否阻碍美国人工智能领导地位”确立为核心判断标准;法国于当年2月提出“有必要简化规则”,并启动总额约1090亿欧元的人工智能发展计划;日本于当年5月出台首部AI法案《人工智能相关技术研发及应用促进法案》,以软法为主,仅授权政府在权利受侵害时采取指导性措施;我国则在当年8月发布《关于深入实施“人工智能+”行动的意见》,以多领域协同推进智能经济与智能社会建设。总体而言,各国监管模式的调整,本质上反映了其在地缘科技竞争与数字主权博弈中的战略考量与制度选择。

  本文在理论上构建了较为系统的算法监管理论框架,拓展了国际比较研究视野;在实践上,为各国统筹创新与监管目标、完善算法问责制度、实现事前事中与事后监管的动态衔接提供了有益启示,有助于推动算法技术向善发展。需要指出的是,受算法监管政策分散性与嵌入性影响,研究样本可能仍不完备;同时受研究重点与篇幅所限,本文未深入分析不同国家形成差异化监管模式的深层原因。未来的研究可通过扩大样本规模、动态追踪政策演进,并沿政策过程前后延伸,开展影响因素的计量分析与政策效果评估,以进一步检验和深化相关结论。

  注释  

  [1]J. Danaher, M. Hogan, Chris Noone, et al., “Algorithmic Governance: Developing a Research Agenda Through the Power of Collective Intelligence”, Big Data & Society, vol.4, no.2, 2017, pp.1-21.

  [2]Jach M. Balkin, “Free Speech in the Algorithmic Society: Big Data, Private Governance, and New School Speech Regulation”, U. C. Davis Law Review, vol.51, 2017, pp.1149-1154.

  [3]Vincent J. Del Casino Jr, Lily House‐Peters, Jeremy W. Crampton, et al., “The Social Life of Robots: The Politics of Algorithms, Governance, and Sovereignty”, Antipode, vol. 55, no.3, 2020, pp.983-984.

  [4]杨一健、王锡锌:《数字行政的算法风险及法律规制:法国经验与中国意义》,《行政法学研究》2024年第4期。

  [5]Thomas M. Vogl, Cathrine Seidelin, Bharath Ganesh, et al., “Smart Technology and the Emergence of Algorithmic Bureaucracy: Artificial Intelligence in UK Local Authorities”, Public Administration Review, vol.80, no.6, 2020, pp.946-961.

  [6]Daria Gritsenko, Matthew Wood, “Algorithmic Governance: A Modes of Governance Approach”, Regulation & Governance, vol.16, no.1, 2022, pp.45-62.

  [7]Julia Black, Learning from Regulatory Disasters, Oxford: Oxford University Press, 2014, pp.1-18.

  [8]Karen Yeung, “Algorithmic Regulation: A Critical Interrogation”, Regulation & Governance, vol.12, no.4, 2018, pp.505-523.

  [9]Roger Brownsword, Karen Yeung (eds.), Regulating Technologies: Legal Futures, Regulatory Frames and Technological Fixes, London: Bloomsbury Publishing, 2008, pp.219-357.

  [10]Malte Ziewitz, “Governing Algorithms: Myth, Mess, and Methods”, Science, Technology & Human Values, vol.41, no.1, 2016, pp.3-16.

  [11]Lawrence Lessig, Code: And Other Laws of Cyberspace, New York: Read HowYouWant.com, 2009.

  [12]David Beer, “The Social Power of Algorithms”, Information, Communication & Society, vol.20, no.1, 2017, pp.1-13.

  [13]张凌寒、于琳:《从传统治理到敏捷治理:生成式人工智能的治理范式革新》,《电子政务》2023年第9期。

  [14]Karen Yeung, “Algorithmic Regulation: A Critical Interrogation”, Regulation & Governance, vol.12, no.4, 2018, pp.505-523.

  [15]曾雄、梁正等:《欧美算法治理实践的新发展与我国算法综合治理框架的构建》,《电子政务》2022年第7期。

  [16]汪亚菲、张春莉:《人工智能治理主体的责任体系构建》,《学习与探索》2020年第12期。

  [17]林子樱、韩立新:《数字经济下平台竞争对反垄断规制的挑战》,《中国流通经济》2021年第2期。

  [18]于凤霞:《我国平台经济监管的理论逻辑与政策实践》,《中国劳动关系学院学报》2022年第3期。

  [19]邱泽奇:《算法治理的技术迷思与行动选择》,《人民论坛·学术前沿》2022年第10期。

  [20]王莹:《算法侵害类型化研究与法律应对——以〈个人信息保护法〉为基点的算法规制扩展构想》,《法制与社会发展》2021年第6期。

  [21]P. K. Agarwal, “Public Administration Challenges in the World of AI and Bots”, Public Administration Review, vol.78, no.6, 2018, pp.917-921.

  [22]王莹:《算法侵害类型化研究与法律应对——以〈个人信息保护法〉为基点的算法规制扩展构想》,《法制与社会发展》2021年第6期。

  [23]汝鹏、秦晓阳等:《风险、原则与责任:基于实验路径的人工智能社会实验伦理规范体系建构探究》,《科学学与科学技术管理》2024 年第 4 期。

  [24]Christopher C. Hood, Helen Z. Margetts, The Tools of Government in the Digital Age, Cambridge: Cambridge University Press, 2007, pp.50-77.

  [25]樊博、李晶晶:《算法透明何以提升公众的政府信任?》,《公共行政评论》2024年第1期。

  [26]张吉豫:《论算法备案制度》,《东方法学》2023年第2期。

  [27]Mark Thatcher, “The Third Force? Independent Regulatory Agencies and Elected Politicians in Europe”, Governance, vol. 8, no.3, 2005, p.347.

  [28]Gregory N. Mandel, “Regulating Emerging Technologies”, Law, Innovation and Technology, vol.1, no.1, 2009, pp.75-92.

  [29]张惠彬、王怀宾:《算法行政问责的机制与评估——基于欧美40份政策的实施分析》,《中国行政管理》2024年第1期。

  [30]Andrew B. Whitford, Justin A. Tucker, “Technology and the Evolution of the Regulatory State”, Comparative Political Studies, vol.42, no.12, 2009.

  [31]J. Cameron, J. Abouchar, “The Precautionary Principle: A Fundamental Principle of Law and Policy for the Protection of the Global Environment”, Boston College International and Comparative Law Review, vol.14, no.1, 1991, pp.237-261.

  [32]Mazur Joanna, “Automated Decision-Making and the Precautionary Principle in EU Law”, TalTech Journal of European Studies, vol.9, no.4, 2019, pp.3-18.

  [33]Mike Feintuck, “Precautionary Maybe, but What’s the Principle? The Precautionary Principle, the Regulation of Risk, and the Public Domain”, Journal of Law and Society, vol.32, no.2, 2005, pp.371-398.

  [34]Alec Stone Sweet, Jud Mathews, “Proportionality Balancing and Global Constitutionalism”, Columbia Journal of Transnational Law, vol.47, no.1, 2008, pp.72-101.

  [35]梅帅:《自动化行政给付的算法风险及其法律规制》,《四川师范大学学报(社会科学版)》2025年第2期。

  [36]陈天翔:《算法治理适用比例原则的法理》,《苏州大学学报(法学版)》2024年第3期。

  以上文章原载于《学术研究》2026年第1期,文章不代表《学术研究》立场。篇幅原因有所删减,未经授权不得转载。

  学术研究

  全国各地邮局均可订阅《学术研究》,国内邮发代号:46-64,欢迎您订阅!您也可访问学术研究杂志社门户网站:中国(南方)学术网http://www.southacademic.com,免费获取往期pdf版本。

手机版 | 归档 | 关于我们| (粤ICP备14048290号 )

主办:学术研究杂志社 

地址:广州市天河区天河北路618号广东社会科学中心B座7楼学术研究杂志社 

邮编:510635

© 学术研究杂志社 版权所有,未经授权禁止复制或建立镜像

-