前沿动态
司法文明协同创新中心的建设目标是按照“国家急需、世界一流、制度先进、贡献重大”的要求,依据科学研究、学科建设、资政育人“三位一体”的方针,打造中国乃至世界司法研究的重镇、中国司法学科建设的平台、卓越司法人才培养的基地、司法文明和法治中国建设的核心智库。
张凌寒 :面对多重不确定,人工智能立法如何应对
【学科类别】人工智能
【出处】《上海法治报》2024年4月10日B3版“学者评论”
【写作时间】2024年
【中文关键字】人工智能;立法;不确定
【全文】


  人工智能产业的突出特点之一是飞速发展带来的不确定性和不可预见性,没有人能够断言未来人工智能产业会走向何方,带来何种新的风险与挑战。与传统立法相较,中国人工智能立法需要应对三方面的不确定性,包括技术飞速发展导致调整对象的不确定性、技术产业迭代给社会关系调整带来的不确定性以及多种类高风险的不可预见性。对此,我国人工智能立法必须进行相应的适应性制度设计,确保监管能够充分应对人工智能的未来发展及不确定性。
  首先,调整对象的不确定性在以往的技术治理过程中已有所体现,我国曾以“小、快、灵”的立法思路予以应对。从《互联网信息服务算法推荐管理规定》到《互联网信息服务深度合成管理规定》再到《生成式人工智能服务管理暂行办法》,调整对象顺应技术发展经历了从算法到深度合成再到生成式人工智能的转变。然而,一部完整的人工智能立法不同于低位阶法规,立法周期可能以年为单位计,这就要求立法为调整对象的不确定性预留充分的适应空间,有效包容未来可能的技术发展。
  其次,人工智能产业迭代带来的社会关系的不确定性对立法提出了较高要求。随着生成式人工智能的广泛应用,通用人工智能已初现端倪,大模型可广泛赋能千行百业,形成“基础模型——专业模型——服务应用”的分层业态。这不仅意味着技术的迭代革新,还意味着法律调整的社会关系的深层变革。过去十年间,数据、算法、平台是我国人工智能治理的主要对象,但技术的飞速发展不断更新着现有的社会关系,从深层次挑战着既往监管模式。因此,人工智能立法应能够包容产业迭代带来的社会关系的不确定性。
  最后,人工智能多种类高风险的不可预见性增加了立法难度。目前,人工智能技术发展的速度远超社会预期,社会治理体系并未做好充分的准备。人工智能技术的不透明度从面向普通人的“黑箱”,升级为即使专业人士也无法理解的“黑箱”。社会担忧强大的人工智能系统未能与人类价值观“对齐”进而带来灾难性风险。既有的经验和制度并不足以全知全能地应对各种高度不可预见的风险,我国人工智能立法在不过度限制技术发展的同时,需要妥善应对已知和未知风险,确保人工智能始终朝向有利于人类文明的方向发展。
  相比于传统立法活动,应对高度不确定性将是我国进行人工智能立法制度设计应遵循的底层逻辑之一。人工智能不应再被视为单纯的技术或工具,而是社会生产方式与社会关系重大变革的驱动力。对此,法律需基于“生产关系适应生产力发展”这一原理对前述问题作系统性回应。
  从立法思路来看,为应对技术的不确定性,我国的人工智能立法可以借鉴网络立法经验,以具有高度开放性的科技伦理入法以及具有迭代演化能力的制度来应对风险、技术和规制需求的不确定性。近年来,法律已密集地将科技伦理要求纳入规范,如2021年颁布的《新一代人工智能伦理规范》要求促进公平公正、保护隐私安全、确保可控可信等,这一情形表明科技伦理规范与法律及行政法规制度逐步趋于融合。同时,以风险评估、影响评估及安全评估等评估制度为基础具有迭代演化能力的网络法,注重从事前到事中激励相对人预先构建技术机制来预防和规避技术风险,这些经验均可为我国人工智能立法所吸纳。
  从架构上来看,人工智能法作为一部综合性法律,可以通过“立总则,留接口”的方式,解决容纳和化解高度不确定性的问题。具体而言,我国人工智能法应确立“总则式”的框架体例,定位为人工智能治理的提纲挈领制度,并为应对未来技术发展的治理规范预留充分的制度接口。人工智能法的调整对象是人工智能技术、产业和应用全链条以及在此基础上形成的复杂系统与社会生态,立法不能抱持“毕其功于一役”的理念,试图涵盖所有人工智能技术、要素和应用等不同维度的治理规则。无论社会各界是否支持启动制定人工智能法,“总则”部分都应在重要问题上达成最大共识,为人工智能时代个体权利的保护制度体系定调,绘制人与技术的合理关系图谱。而“接口”部分不仅应当为已经或未来可能影响到的教育、医疗、金融、交通等社会领域留足“领域接口”,还需将关于技术、要素与产品应用的低位阶制度授权有关部门细化,留足“授权接口”,当未来产业发展变化后可相应地调整法律义务与责任设置。
  综上所述,不确定性是未来人工智能技术发展的突出特点,中国的人工智能法必须为未来技术发展的不确定预留包容空间,以高超的立法智慧充分加以应对,实现对人工智能的科学、有效治理。


【作者简介】
张凌寒,中国政法大学数据法治研究院教授、博导,联合国高级别人工智能咨询机构(UN High-Level Advisory Body on AI)专家组中方成员,中国人工智能产业发展联盟政策法规工作组组长。

稿件来源:北大法律信息网法学在线

原发布时间:2024/4/11 14:08:23  

上一条:薛 波 :决议“入典”对法律行为概念的冲击与法律行为概念重勘 下一条:刘艳红:轻罪时代刑事立法泛刑化与重刑化之理性反思

关闭