【中文摘要】基于人工智能技术的自动驾驶汽车，有利于减少传统的交通事故，解放“四肢”而使人类出行更自由，促进共享经济发展。但自动驾驶汽车有可能导致新型交通事故，用户个人信息也可能被智能系统滥用，“算法黑箱”会加大“电车难题”风险，损害赔偿责任可能无法得到有效承担。罔顾安全而求发展会导致多种风险，但过度追求安全则会扼杀智能科技创新而阻碍发展。在人工智能时代，应当统筹发展和安全，对自动驾驶实行包容审慎监管。应科学设定自动驾驶技术标准，完善用户个人信息保护措施，规范智能决策“算法”，扩大测试道路范围并探索智能道路建设，合理分配自动驾驶的赔偿责任，并不断完善自动驾驶汽车保险。
【全文】
人工智能时代，自动驾驶科技在国内外受到了空前重视。除了传统的汽车制造企业外，更擅长数据处理的互联网企业也纷纷投入重金，试图运用最前沿的人工智能科技，抢占自动驾驶汽车全球大市场。被视为“站在四个轮子上的机器人”的自动驾驶汽车，成为当前全球交通出行领域智能化发展的主要方向。中国政府高度重视自动驾驶汽车的发展，先后出台多项支持政策。[1]自动驾驶汽车的发展，有利于减少疲劳驾驶、酒后驾驶、超速驾驶等传统的交通事故，有利于解放“四肢”而使人类出行更自由，有利于促进共享经济发展，但同时也会引发多种安全风险。[2]中国既要加大人工智能产品的研发和应用力度，最大程度地激发人工智能产业发展之巨大潜力，又要科学预判人工智能产品带来的挑战及其风险。[3]《中共中央关于进一步全面深化改革推进中国式现代化的决定》要求“实现高质量发展和高水平安全良性互动”，“建立人工智能安全监管制度”。
实现自动驾驶汽车高质量发展和高水平安全良性互动，需要全面实施包容审慎监管。包容审慎监管是对政府与市场关系在监管领域的新认识，适应了推动有效市场和有为政府更好结合的现实需要，体现了在发展中规范、在规范中发展的新理念。[4]中国现行有关自动驾驶的大量规定都明确了包容审慎监管原则。例如，《北京市自动驾驶汽车条例》（2024年）第3条第2款规定，“本市自动驾驶汽车相关工作坚持发展与安全并重原则，实行包容审慎监管”。《上海市浦东新区促进无驾驶人智能网联汽车创新应用规定》（2022年）第3条规定，“浦东新区无驾驶人智能网联汽车创新应用活动应当坚持鼓励创新、包容审慎、循序渐进的原则”。以包容审慎监管实现自动驾驶汽车发展和规范并重，对于推进自动驾驶汽车产业基础高级化、产业链现代化，全面建设交通强国，均具有重要意义。
一、自动驾驶汽车的界定和价值
自动驾驶汽车，是指利用通信与网络、人工智能等技术，实现车、路、云等信息实时交互，可以由自动驾驶系统操作在道路上安全行驶的汽车。通过搭载先进的智能系统，运用车载传感器、控制器、执行器等装置，自动驾驶汽车可以有效感知路况环境，迅速作出智能决策，实现自主驾驶。2018年工业和信息化部、公安部、交通运输部联合发布的《智能网联汽车道路测试管理规范（试行）》使用了“智能网联汽车”名称，此后的大量地方相关立法沿用了此概念，如《武汉市智能网联汽车发展促进条例》《深圳经济特区智能网联汽车管理条例》《重庆市智能网联汽车道路测试与应用管理试行办法》。但在国家和地方层面，也有使用“自动驾驶汽车”名称的，如交通运输部办公厅发布的《自动驾驶汽车运输安全服务指南（试行）》和《北京市自动驾驶汽车条例》。在通常意义上，自动驾驶汽车即指智能网联汽车。
对于自动驾驶的分类，美国国家高速公路交通安全管理局（NHTSA）发布的《联邦自动驾驶政策》（Federal Automated Vehicles Policy）按自动化程度将自动驾驶汽车分为六个等级：L0、L1、L2、L3、L4、L5。其中，L0级为人类司机主导一切，L1—L4级为有条件的自动驾驶，L5级为完全自动驾驶。[5]中国将自动驾驶汽车分为六级三类。基于驾驶自动化系统能够执行动态驾驶任务的程度，根据在执行动态驾驶任务中的角色分配以及有无设计运行范围限制，国家标准《汽车驾驶自动化分级》（GB/T40429-2021）将驾驶自动化分为0级至5级。按照自动驾驶功能，自动驾驶汽车可分为有条件自动驾驶、高度自动驾驶、完全自动驾驶三种类型。新科技必然带来新收益，自动驾驶汽车主要具有以下几方面的价值。
其一，有利于减少特定的交通事故，增加社会总收益。成熟的自动驾驶技术可以大大减少由司机疲劳驾驶、酒后驾驶、超速驾驶等人为原因而导致的交通事故。“因为计算机控制自主车辆不会像驾驶员那样疲劳、醉酒或分心”[6]，所以自动驾驶汽车将减轻“高速路上的最大风险——来自驾驶者的不安全因素”[7]。而且，通过搭载路况感知、安全评估、应急响应等多个智能子系统，自动驾驶汽车可以减少人类反应迟缓导致的交通事故。通过有效感知前方路况的变化，自动驾驶汽车可以智能决策何时加速与减速，减少急刹车的次数，从而减少对后方车辆的影响，避免一些人为因素引发的交通事故。另外，由于更青睐使用新型清洁能源，自动驾驶汽车的发展普及有利于实现节能减排，从而间接增加社会总收益。一项研究报告称，如果公路上行驶的车辆中有10%为自动驾驶汽车，那么通过减少燃油消耗、减少时间浪费、减少交通伤亡事故，每年可节省370多亿美元；若自动驾驶汽车占比90%，每年获益几乎可达4500亿美元。[8]
其二，有利于解放人的“四肢”而使人的出行更为自由。对于传统的有人驾驶汽车来说，驾驶员在开车时需要手脚并用，需要高度集中注意力来时刻判断路况。一旦在驾驶过程中存在过错而导致交通事故的发生，就需要承担与之相应的法律责任。但对于全自动的自动驾驶来说，用户则可以更自由，不仅“四肢”可以获得解放，而且整个人身均在自由状态——只要不干扰自动驾驶系统，用户坐在车上可获得相对自由，并得到更好休息，不再需要时刻都高度集中注意力。可以预见，随着自动驾驶技术的不断成熟，司机职业将面临巨大冲击。另外，对于残障人士、老年人等一些特殊群体来说，自动驾驶不仅可以增加其行动的便利性，而且可以带来许多“新的经济与社会机会”[9]。
其三，契合共享经济发展理念，有利于提高汽车利用效率。招之即来、挥之即去的自动驾驶汽车，可以成为全天候24小时都在路上的共享物品。[10]乘客只需要在智能手机或电脑上轻松操作，一辆自动驾驶汽车就可出现在用户面前。通过促进共享，或许能将汽车的利用率从5%~10%提高到75%以上。[11]除了时间上的充分利用，很多用户还可以同时共享一辆车，去往相同或相隔不远的目的地，从而实现自动驾驶的“顺风拼车”功能。因此可以说，自动驾驶汽车可真正实现物尽其用，大幅度提高车辆及道路利用率。中国政府非常重视共享经济的发展，近些年颁布了《关于做好引导和规范共享经济健康良性发展有关工作的通知》《关于促进分享经济发展的指导性意见》等多个专门文件。自动驾驶汽车的广泛推行，正好契合共享经济旨在实现资源利用最大化的“协同消费”理念——自动驾驶汽车将成为重要的共享经济客体。未来不仅私家车，就连城市公交车、出租车等公共交通工具或许都会被自动驾驶车辆所取代，智慧交通与共享出行将成为现实。
二、自动驾驶汽车的风险
在享受新科技所带来的新收益的同时，人类也可能面临新科技所带来的新风险，即作为人工智能技术产物的自动驾驶汽车很可能存在多种潜在安全风险。
（一）存在新型交通事故安全风险
自动驾驶汽车不存在疲劳、饮酒、超速、超载驾驶等传统安全问题，但存在新型交通事故安全风险。一般来说，自动驾驶汽车集环境感知、规划决策等多个系统，通过运用先进技术可以达到预防碰撞、追尾、偏离轨道等风险，相比于人类驾驶具有极大的优越性与安全性。大部分交通事故都源于驾驶者的操作失误，“没有理由不相信，无人驾驶汽车将会降低事故发生频率及其严重程度”[12]。但是，自动驾驶交通事故仍然不可避免，人工智能毕竟不等同于人类智能。所以，不管设计如何精心，算法如何精确，就如同任何交通工具一样，自动驾驶汽车不可能完全杜绝交通事故，反而还可能引发新型交通安全隐患。“交通事故发生的概率及严重性程度，是决定自动驾驶技术发展的一个关键因素。”[13]
比如，自动驾驶汽车很可能被恐怖分子利用。在互联网信息时代，恐怖主义就像超级变色龙，善于利用新技术和新手段，恐怖战术越来越灵活多变，恐怖行动越来越专业化。[14]自动驾驶汽车的出现，大大增加了恐怖犯罪活动的风险。有组织的恐怖分子可能会寻求制造重大的交通事故，而自动驾驶汽车更容易隐匿大量易燃易爆物品，警方很难对所有的自动驾驶汽车实行逐一监视。而自动驾驶汽车更容易冲开路障阻拦，恐怖分子在隐蔽场所即可远程操纵一辆或多辆汽车。从犯罪心理学的角度来看，当有自动驾驶汽车可以利用时，恐怖分子将更加胆大妄为，策划更多的恐怖事件。[15]如果加油（气）站、危险物品仓库、化工厂等危险目标遭到自动驾驶汽车的恐怖袭击，不仅会造成人员、财产的重大损失，还会造成极其恶劣的政治影响。
又如，自动驾驶系统还可能被黑客操控。由于需要收集储存数据进行智能决策并不断更新升级系统，自动驾驶汽车离不开网络，而一旦接入互联网就存在被黑客攻击的风险。自动驾驶系统承担的任务越多，可能面临的潜在黑客威胁就越多，所造成的安全损失可能就越大。[16]依赖网络数据的收集、整理与分析的智能道路基础设施如果出现故障，也将引发自动驾驶汽车的安全风险，网络安全不仅关乎自动驾驶汽车的安全运行，更关乎整个人类社会的生命安全。[17]此外，尚处于发展阶段的自动驾驶技术还未完全成熟，也必然会引发很多事故。因此，自动驾驶技术开发者必须不断地完善和改进自动驾驶技术，尽量把汽车交通事故率降至最低水平，自动驾驶汽车才会被更多的人所接受。
（二）用户个人信息可能被智能驾驶系统滥用
自动驾驶系统不仅会正当收集、生成大量信息以作出智能决策，还可能不当收集、存储个人信息，从而被相关主体滥用甚至非法交易，使用户的数字化人格和信息财产权被不当侵犯。“在诸多社会与文化争议中，‘无人驾驶汽车最靠不住的方面’，就是隐私权可能受到极大的挑战。”[18]自动驾驶系统包含多个数据处理系统，需要收集大量的数据，以判断路况环境信息，自主控制车辆行驶。在自动驾驶汽车行驶过程中，个人家庭住址、工作单位地址和名称、常去的休闲娱乐场所、车内通话信息等个人信息很可能被自动驾驶汽车开发者、生产者、地图导航服务供应商等主体不当收集、存储并利用，造成公民个人信息无法得到有效保护。如果车内装有视频监控装置，乘客的相貌、穿着、行为等都会被一一记录。[19]
所有种类的潜在数据使用者都会对自动驾驶汽车用户的信息感兴趣。除了自动驾驶汽车开发者和交通运输研究人员外，从事营销和政治游说的团体，以及执法、情报机构，都会认为自动驾驶汽车用户数据具有重要价值。[20]大规模收集自动驾驶汽车用户的个人信息，导致信息与权力集中，可能引发严重的政治问题。[21]在智能化社会中，如何重新界定并有效保护隐私，是人类所面临的新的伦理、法律和社会问题。[22]对于国家来说，如果乘坐自动驾驶汽车的公职人员的身份、出行信息、通信信息等被采集或泄露，极有可能危害国家安全。
（三）“算法黑箱”扩大了“电车难题”风险
随着自动驾驶汽车的不断普及，法律与伦理冲突日益受到重视。可能存在偏见与歧视的“算法黑箱”，导致“电车难题”风险扩大。如果对于有人驾驶汽车来说，当发生“电车难题”时，如何解决取决于驾驶人瞬间的价值取舍，或根本来不及判断。但对于自动驾驶汽车来说，应对“电车难题”，则需要开发者提前设计算法。然而，算法并非绝对公正透明，“算法黑箱”会造成巨大的危害。
信息技术革命导致了“算力即权力”的新现象，我们正进入“算法统治的时代”，算法对公民权利的侵害更隐蔽、多元、无所不在。[23]现有法律资源面对自动化决策场景均有待完善，适用场景与算法场景差异太大。[24]算法可能加剧不平等，而人类设计者所隐藏的偏见、双重标准很容易被嵌入算法。人工智能时代的新人文精神，首当其冲的是伦理问题。人工智能的失控，很可能是因为某位工程师的一念之差。[25]即使自动驾驶达到了超强人工智能水平，具有深度学习能力，但仍会存在“电车难题”风险。“深度学习算法的‘黑箱性’可能天然地与法律决策的‘透明性’要求相冲突。”[26]无论技术如何先进，人工智能在道德情感、伦理观念等方面都会存在一定的局限性，其决策结果是基于数据和算法的线性思维形成的。所以要想让自动驾驶车辆准确无误地作出伦理判断，目前是非常困难的。[27]“倘若要将人类伦理转换成智能系统的决策程序和算法，其所涉及的权利义务（权责）关系将更是传统理论及其制度实践所无法回答和解决的，理论和制度的创新迫在眉睫。”[28]
（四）可能无法有效承担责任
自动驾驶汽车发生交通损害事故后，可能无法有效承担损害赔偿责任。这是公众对自动驾驶汽车普遍担心的一个问题。[29]一旦发生损害事故，到底应该由谁来承担责任？现行法律体系主要是针对有人驾驶的，所以发生交通事故时往往需要判断人的过错，以确定责任大小与损害赔偿标准。对于全自动的自动驾驶来说，如果要自动驾驶汽车承担责任，不仅要证明自动驾驶汽车存在设计缺陷，还要证明损害事故与设计缺陷之间存在一定的因果关系。然而，要想有效证明存在产品设计缺陷，并非易事。作为高科技产物的智能产品不同于传统产品，一旦发生交通损害事故，受害者和规制机构可能缺乏足够的技术手段与专业知识来证明自动驾驶汽车存在产品缺陷。即使能够证明存在产品缺陷，也往往很难证明事故的发生与设计缺陷之间存在一定的因果关系。由于多种复杂因素都可能导致交通事故的发生，用户往往难以解释损害与设计缺陷之间的联系，专家也往往难以认定可以事先运用先进的预防技术阻止事故的发生。[30]事后探究“事故发生的决策逻辑和决策过程变得异常困难”，即使是设计者或制造商，有时也很难解释事故发生的原因。[31]
而且，具有深度学习能力的自动驾驶系统也加大了赔偿难题。自动驾驶智能系统并不是仅仅被动执行程序员的预先指令，而是在不断学习，不断创建新的算法规则。由于自主持续学习能力的存在，自动驾驶汽车可能“打破”程序员预先设定的算法规则，大大超出开发者的预期。[32]自动驾驶汽车可以通过人类无法预见或控制的方式实现自主决策，这就使得传统侵权责任和产品责任认定存在困难。[33]自动驾驶汽车的深度学习能力，增加了证明自动驾驶汽车存在设计缺陷的难度，亦增加了证明损害与设计缺陷存在因果关系的难度。另外，智能驾驶系统由汽车开发者、硬件提供者、软件提供者等多方主体共同组建，如果发生交通事故，如何确定责任主体归属可能是比较困难的。自动驾驶致损的结果，很可能是所有相关主体都会被控诉，但最终却无人有效担责。现有法律体系下传统的产品责任、侵权责任、消费者权益保护、汽车保险赔偿等制度，或多或少存在无法有效适用于自动驾驶汽车的情况，从而可能导致自动驾驶汽车致损但无人有效担责的尴尬局面。
三、自动驾驶汽车的包容审慎监管路径
预防自动驾驶风险，需要适度有效的法律规制。人工智能驱动的技术发展和应用的速度，已经超过了监管框架的更新速度，并将继续呈指数级增长，在超出人类理解和控制的水平上运行。[34]罔顾安全而求发展将会导致多种风险，但过度追求安全往往会扼制创新而阻碍发展。“发展和安全二者相辅相成，发展是安全的基础，安全是发展的条件。”[35]为了有力保障用户的权利，并有效维护道路交通公共安全秩序，应当统筹发展和安全，对自动驾驶汽车进行有效的包容审慎监管。关键是，自动驾驶行业管理部门的“决策者应当评估目前最需要解决哪些问题，并且以最小阻碍创新的手段实现这些目标”[36]。
（一）审慎设定自动驾驶许可和技术标准
数字经济的快速成长无形中放大了传统监管的漏洞，引发了更大的监管难题。如果相关政府部门对新业态放任不管，则必然导致严重的公共安全风险；倘若政府部门没有作调研并摸清规律就草率进行过度监管，就会阻碍数字经济发展。由于传统监管往往过度夸大市场“风险”，动辄设定事前许可看似可以保障安全，但实则会对效率造成极大的损耗。包容审慎监管追求包容与审慎的辩证统一，有利于解决“要么不管、要么管死”“一放就乱、一管就死”的传统监管困境。包容审慎监管要求政府以包容之心对待新业态，适度放权于市场，充分尊重行业自治。然而，包容审慎监管并非是要完全放弃事前监管，否则就难以有效防患市场的潜在风险，可能导致不可逆的损害，并最终断送整个新业态的发展前程。包容审慎监管的核心要义在于力求慎重设定事前监管措施，对新设许可进行合法性、必要性和合理性论证，以此真正实现经济效益与交易安全的平衡。
为了防范自动驾驶风险，应当审慎设定并不断完善自动驾驶汽车许可与市场准入制度。由于驾驶行为属于直接涉及公共安全、人身安全、财产安全的特定活动，无论是人类驾驶还是机器驾驶，设立行政许可是必不可少的制度性安排。对于传统的有人驾驶来说，许可对象是人，即合法持有驾驶证者才能驾车上路。对于自动驾驶而言，需要对车辆设置行政许可，规范其市场准入标准。由于不同企业开发的自动驾驶汽车质量千差万别，良莠不齐，如果允许所有自动驾驶汽车随意上路，不仅会带来巨大的安全隐患，还可能导致自动驾驶汽车行业无序发展。因此，只有符合相应标准与条件的自动驾驶汽车才允许出厂后合法上路。同时，应当建立健全自动驾驶汽车质量管理制度，完善检验认证制度，确保自动驾驶汽车的可靠性与安全性。
（二）有效保障用户个人信息安全
在规范“算法”、强调透明的同时，应当特别注重个人信息保护，确保自动驾驶系统的信息安全性。对于像自动驾驶这样的新技术来说，确保尊重用户隐私，是培养信任的最好方式之一。[37]保障自动驾驶系统不受未经授权的入侵与修改，是增强公众信心的重要内容。[38]
在互联网技术高度发达的信息化时代，单纯依靠传统的隐私权保护方式显然已无法有效保护公民个人信息。个人隐私属于个人信息的一部分。广义的隐私权可以分为两大类：一类是传统的自主性隐私权（autonomy privacy），即“做出秘密的个人决定，个人活动不受监视、侵入或干涉”；另一类是信息性隐私权（information privacy），即“排除对敏感、机密信息的传播或滥用”。[39]与美国宪法上的隐私权不同，德国宪法上的信息自决权所保护的“信息”并不限于“隐私信息”，还包括已经公开或不特别涉及私生活秘密的信息。[40]自动驾驶汽车可能侵犯的个人信息，不只包括传统意义上的隐私信息。即使是一些可能已经公开或半公开的个人信息，例如家庭住址、工作单位等，也不能随意被收集与处置。
《个人信息保护法》应以培育信息控制者内部治理机制为目标，以构筑有效的外部执法威慑为保障，促使信息控制者自觉履行法律责任，推动激励相容机制的实现。[41]网络隐私和个人信息保护应当与网络产业的健康、有序发展共同推进，并可通过产业的竞争机制得以更好地实现。[42]为此，法律应当明确界定自动驾驶收集个人信息的范围与种类，明确规定收集、存储、使用条件及传送方式，厘清信息损害责任的承担方式及大小。自动驾驶汽车的开发者事先更清楚哪些个人信息可能被收集，所以应当积极承担责任，主动设计信息保护技术。如果不想失去更多的用户，须不断提高自动驾驶汽车数据收集与使用的透明度。[43]
向公共机构等第三方主体提供数据时，应当严格遵守法定条件与程序。自动驾驶系统存储的信息应当在适当期间内予以删除。德国修正的《道路交通法》第63a 条规定，一般情况下自动驾驶汽车存储的数据，应当在6个月之后删除，但如果涉及相关交通事故的，应当在3年后才能删除，以便于诉讼。用户应当按法定条件将数据提供给相关政府部门，如果提供给以事故研究为目的的第三方，应当作匿名化处理。美国《自动驾驶法案》要求制造商应当制定隐私权保障计划，明确数据的收集、使用主体，明确收集数据应当最小化、去识别化，明确车辆转让后的数据删除方法。为了保障智能汽车的网络安全，2017年英国运输部与英国国家基础设施保护中心共同制定了《联网和自动驾驶汽车网络安全关键原则》。欧盟《通用数据保护条例》除了扩大个人数据的保护范围、赋予数据主体一系列强大的权利外，还确立了“长臂”管辖原则，设定了重罚机制。如果自动驾驶智能决策系统过度收集处理欧盟用户个人信息，最高可被欧盟当局处以2000万欧元，或上一财年全球营业额4%的行政处罚。
此外，应充分结合人工智能的特点，实现对自动驾驶个人信息的有效保护。在人工智能时代，人机可以实现一定程度的实时交流与互动，个人信息保护的通知与同意等机制也应当有所改变。对于具有高度连接性的自动驾驶汽车来说，信息收集同意权、隐私管理、有意义的迅速互动，需要被重新理解。在个人信息能够被众多的独立主体快速共享的环境下，有必要减少目前存在于用户与信息收集者之间的信息不对称情况。[44]另外，应当对自动驾驶汽车恐怖袭击的特点和相关措施作全面研判，设计与反恐有关的自动驾驶汽车系统，如易燃易爆物品检测装置、重要路段的检测拦截设施、应急反应系统等等。[45]
（三）规范智能决策算法
算法权力需要被规制。“即使在人工智能的时代，算法也不可能是法律，它反而是法体系所要调整的对象。”[46]有效治理算法，是人工智能实现良性快速发展的关键。自动驾驶汽车是人工智能的重要表现形态，而人是人工智能的总开关，所以规制自动驾驶技术，本质上属于规制人。其一，算法成为信息时代的核心，“开始塑造这个世界”[47]，但“算法不是王法”[48]。其二，言论自由绝不能成为抵抗算法规制的“万能牌”[49]。“算法正义，已成为直接影响商业交易和社会关系的重要问题。”[50]其三，应当制定规则约束算法设计者的行为。在发生可疑后果时要求其合理解释算法的设计原理，并追究其相应责任，显然是一种可行的治本之法。[51]例如，2017年，美国的纽约议会通过了《算法问责法案》，要求成立一个工作组，由自动化决策系统专家和公民代表组成，专门监督算法的公平和透明。[52]
自动驾驶技术开发者在设计算法时，应当遵守基本的社会伦理道德，消除歧视观念，自觉遵守平等原则。也就是说，应以有利于社会福利最大化而非利润最大化为理念，坚持自动驾驶技术社会效益与经济效益的统一，摒弃功利主义。应当把人类生命安全放在至高无上的位置——人是目的，而不能成为手段。德国联邦运输和数字基础设施部2017年发布的《自动化和互联化车辆交通伦理准则》确立了自动驾驶的20大伦理准则，提出“撞一个人去救更多的人”的做法是不被允许的，每一个个体都是“神圣不可侵犯的”。在技术可预测与控制的范围内，可以牺牲对财产、动物的保护，以确保人的生命健康与安全。但设计开发者如果“因保护使用者的生命法益，而侵害第三人的生命法益，只能被宽恕而不能免除处罚”[53]。同时，在不严重影响商业秘密的前提下，应打破“算法黑箱”，完善算法解释。算法解释具有不可替代的实践效用，可以矫正信息不对称，节约交易成本，保障意思自治，合理分配风险，并有利于当事人在出现算法歧视和数据错误时寻求有效救济。[54]
（四）积极扩大测试道路范围并探索智能道路建设
根据自动驾驶的特点，应当扩大测试道路范围，以建立健全自动驾驶汽车安全行驶制度。[55]尽管在国家层面已有统一的路测规定，越来越多的地方也已纷纷出台相关路测规定，但目前中国智能网联汽车测试道路范围过窄，还不能完全满足测试条件的要求。“只有通过驶入实际道路，方可获得对其研发至关重要的海量数据。”[56]如果从未在环境复杂的公路上行驶，从未积累大量的数据，其测试效果也就非常有限，一些安全问题及隐患很可能难以发现，自动驾驶的可靠性就无法得到真正意义上的确认。数据是人工智能的关键，而大数据的简单算法比小数据的复杂算法更有效。[57]在最大程度确保道路安全的情况下，应扩大自动驾驶汽车测试的道路范围。为了确保公共交通安全，需要对于自动驾驶汽车在公路上正常行驶的基本条件、通行时速、交通灯识别、载货标准、事故处置等基本问题作出具体规定。针对自动驾驶汽车，可以设立特殊的号牌制度，使用不同的编号与颜色，这样既便于道路上的人类驾驶员作出有效区分，又有利于交通部门实行监督管理。为此应当完善道路交通设施，尝试智能道路建设，实现自动驾驶汽车与道路设施全天候有效通信。
（五）合理分配自动驾驶赔偿责任并完善自动驾驶保险
为使受害人得到公平赔偿，应当合理分配自动驾驶的赔偿责任。在自动驾驶汽车发生的交通事故中，存在受害人、用户（消费者）、销售者、自动驾驶汽车开发者（生产者）等多个关键角色。在完全自动驾驶状态下，如果受害人不存在过错，自动驾驶汽车用户平时也尽到了及时检查、维护、更新系统的义务，是因为自动驾驶汽车自身的算法、软件、硬件等缺陷而造成了交通事故，一般应当由开发者最终承担责任。由于车辆存在缺陷或瑕疵，车辆的所有人或使用人首先承担了受害人的赔偿责任后，可向开发者或销售者要求承担产品责任或合同瑕疵担保责任。[58]只有确立自动驾驶汽车瑕疵担保责任制度，才可能促使自动驾驶技术开发者更加审慎地设计相应的代码程序，并不断优化算法，及时更新智能驾驶系统软件。如果损害是因为第三方对自动驾驶汽车进行了改造，则第三方应当承担相应的损害赔偿责任。如果用户、受害人对于交通事故的发生也存在一定的过错，则应当按照过错比例分配相应的责任。如果自动驾驶汽车设计本身无瑕疵，而是其具备的学习能力导致损害事故的发生，开发者也应当承担一定的责任。理由如下：第一，有损害必有赔偿。从分配正义角度考虑，即使开发者当时无过错，但为了使受害者得到一定的赔偿，将其赔偿责任分配给开发者，或许更为公平。第二，自动驾驶汽车的开发者可以通过定价等方式，分散损失成本。第三，有收益就有责任。自动驾驶汽车开发者从新技术中获得巨大收益，所以应当承担相应的责任。
由于车辆运行还关涉硬件供应商、软件设计程序员等多个主体，他们的过错也可能导致交通事故的发生，故也应承担相应的责任。[59]“必须将硬件的制造商和软件的设计者包括进来。”[60]如果损害是由于传感器、导航软件等存在缺陷造成的，应当由自动驾驶汽车开发者（生产者）或销售者首先承担责任，然后再向软硬件制造商、通信服务商第三方行使追偿权，这样更方便索赔，更有利于依法保护用户、受害者的权益。总的来说，为了使用户、受害者得到公平赔偿，法律应当对自动驾驶汽车开发者、销售者、服务提供商的义务、赔偿范围、赔偿标准、赔偿方式、制裁责任等作出全面具体的细化规定。
为避免开发者的负担过重，促进技术创新，也为了使受害者及时得到公平高效赔偿，并“平衡制造商、消费者与受害人之间的利益”[61]，应当完善自动驾驶汽车保险。显然，自动驾驶将给汽车保险业带来革命性的变化。由于技术创新，自动驾驶汽车可以减少交通事故的发生，从而大大增加人们出行的安全性，但自动驾驶汽车开发者可能要承担更多的责任。[62]“任何新技术的开发都蕴含一定的技术风险，将其一概归于制造商会严重妨碍技术的创新与发展。”[63]对此，保险公司应当进行大数据分析，针对自动驾驶汽车行驶方式、服务对象、运输种类等制定必要的精算框架与模型，不断开发网络安全险、软件及传感器等产品责任险、云端服务器等基础设施险等新型汽车保险。[64]保险公司先行赔付受害者后，可以向有过错的自动驾驶汽车制造商追偿。[65]如果自动驾驶汽车的软件被篡改，或者被保险人未安装或更新软件，保险人支付了损害赔偿金后，也可以向相关主体追偿。为此，可以确立自动驾驶汽车开发者和购买者的双保险制度，即开发者和购买者均可以为自动驾驶汽车购买保险。一些地方立法对自动驾驶汽车保险作了明确规定，例如，《北京市自动驾驶汽车条例》（2024年）第42条第2款规定，“鼓励保险机构自主开发或者与自动驾驶汽车相关企业合作开发适应自动驾驶汽车特点的保险产品，为自动驾驶汽车相关企业和消费者提供保险服务”。
当下全球如火如荼发展的自动驾驶科技被视为人工智能时代智能交通的重要标志，将从根本上改变人类交通出行方式。然而，自动驾驶汽车有可能导致新型交通事故，用户个人信息可能被智能系统滥用，“算法黑箱”会加大“电车难题”风险，损害赔偿责任很可能无法得到有效承担。在人工智能时代，应当对自动驾驶实行包容审慎监管，既不应过度夸大其风险，也不能无视其安全隐患。中国政府须及时更新相关道路交通规定，建立健全自动驾驶汽车法律体系，既扫清自动驾驶科技发展的法律障碍，也有效规制其所带来的新风险。同时，科学设定自动驾驶技术标准，完善用户个人信息保护，规范智能决策算法，扩大测试道路范围并探索智能道路建设，合理分配自动驾驶的赔偿责任，不断完善自动驾驶汽车保险。包容审慎监管可以更为灵活地处理好发展与安全的关系，有助于最大程度促进数字科技创新和培育新质生产力，从而有利于推动数字经济高质量发展。为此，政府部门应依法处理好智能科技创新与法律规制的关系，基于包容审慎监管原则，积极探索自动驾驶汽车风险协同共治的规制格局，使法律既能有效地保障用户权利和道路公共安全，亦可有力地支持促进智能化时代的自动驾驶科技创新，开创中国式现代化建设事业新业态远景。
【注释】
[1] 2018年工业和信息化部、公安部、交通运输部联合发布《智能网联汽车道路测试管理规范（试行）》，2023年交通运输部办公厅发布《自动驾驶汽车运输安全服务指南（试行）》，2024年工业和信息化部等发布《关于公布智能网联汽车“车路云一体化”应用试点城市名单的通知》。
[2] 2025年3月29日，一辆小米 SU7标准版在德上高速公路池祁段行驶过程中遭遇严重交通事故，导致车内3人死亡。事故发生前车辆处于NOA 智能辅助驾驶状态，以116km/h 的速度持续行驶。车辆检测出障碍物后发出提醒并开始减速，驾驶员接管车辆进入人驾状态，持续减速并操控车辆转向，随后车辆与隔离带水泥桩发生碰撞，碰撞前系统最后可以确认的速度约为97km/h。有自称系车乘人员家属的网友表示，车辆撞击护栏导致车门锁死、电池爆燃。参见《碰撞前1秒进入人驾状态，小米公布 SU7高速碰撞爆燃事件细节》，https://www.thepaper.cn/newsDetail_forward_30543344。
[3] 参见胡元聪：《人工智能产品发展风险抗辩后的损害救济分摊机制研究》，《政法论丛》2020年第3期。
[4] 参见刘权：《数字经济视域下包容审慎监管的法治逻辑》，《法学研究》2022年第4期。
[5] Federal Automated Vehicles Policy: Accelerating the Next Revolution in Roadway Safety, September 2016.
[6] Jeffrey K. Gurney, “Sue My Car Not Me: Products Liability and Accidents Involving Autonomous Vehicles”, University of Illinois Journal of Law, Technology & Policy, no.2(Fall 2013), pp.250-251.
[7] Stephen P. Wood, Jesse Chang, Thomas Healy, John Wood, “The Potential Regulatory Challenges of Increasingly Autonomous Motor Vehicles”, Santa Clara Law Review, vol.52(2012), p.1501.
[8] 参见约瑟夫·A.达利格罗：《谷歌无人驾驶汽车将如何改变一切》，李鲁译注，《中国科技翻译》2015年第2期。
[9] Adam Thierer and Ryan Hagemann, “Removing Roadblocks to Intelligent Vehicles and Driverless Cars”, Wake Forest Journal of Law & Policy, vol.5(2015), p.355.
[10] 郑戈：《算法的法律与法律的算法》，《中国法律评论》2018年第2期。
[11] 一项研究发现，由9000辆自动驾驶出租车组成的车队能以每英里约0.4美元的成本覆盖整个曼哈顿的出租业运输服务（现今为每英里约4—6美元）。参见约瑟夫·A.达利格罗：《谷歌无人驾驶汽车将如何改变一切》。
[12] 约瑟夫·A.达利格罗：《谷歌无人驾驶汽车将如何改变一切》。
[13] Gary E. Marchant, Rachel A. Lindor, “The Coming Collision between Autonomous Vehicles and the Liability System”, Santa Clara Law Review, vol.52(2012), p.1321.
[14] 参见汪勇、梅建明：《当前反恐斗争的特点、挑战及应对策略》，《中国人民公安大学学报（社会科学版）》2016年第1期。
[15] 参见夏洪：《无人驾驶车恐怖犯罪风险研究》，《中国人民公安大学学报（社会科学版）》2018年第2期。
[16] 据报道，吉普汽车生产商克莱斯勒公司 Uconnect 车载信息系统，可以为用户提供娱乐、导航等服务，但也为黑客提供了可乘之机，所以召回了多辆汽车。参见刘园园：《美国黑客用网络“攻击”汽车》，《科技日报》2015年7月23日。
[17] 参见张玉洁：《论无人驾驶汽车的行政法规制》，《行政法学研究》2018年第1期。
[18] Dorothy J. Glancy, “Privacy in Autonomous Vehicles”, Santa Clara Law Review, vol.52(2012), p.1172.
[19] 参见陈晓林：《无人驾驶汽车对现行法律的挑战及应对》，《理论学刊》2016年第1期。
[20] See Dorothy J. Glancy, “Privacy in Autonomous Vehicles”, p.1199.
[21] See Dorothy J. Glancy, “Privacy in Autonomous Vehicles”, p.1199.
[22] 参见成素梅：《智能化社会的十大哲学挑战》，《探索与争鸣》2017年第10期。
[23] 参见郑戈：《算法的法律与法律的算法》。
[24] 参见张凌寒：《商业自动化决策的算法解释权研究》，《法律科学（西北政法大学学报）》2018年第3期。
[25] 参见罗岗：《基本收入·隐私权·主体性——人工智能与后人类时代（上）》，《读书》2017年第10期。
[26] 左卫民：《关于法律人工智能在中国运用前景的若干思考》，《清华法学》2018年第2期。
[27] 参见彭文华：《自动驾驶车辆犯罪的注意义务》，《政治与法律》2018年第5期。
[28] 马长山：《智能互联网时代的法律变革》，《法学研究》2018年第4期。
[29] Tom Krisher and Felicia Fonseca, “Self-driving Vehicle Strikes and Kills Pedestrian in Arizona”, The Seattle Times, March 19,2018; The Associated Press, “Lawyer for Victim’s Family Says Matter with Uber ‘resolved’”, The Seattle Times, March 29,2018.美国西部时间2018年3月19日22点左右，一辆 Uber 自动驾驶车在亚利桑那州坦贝市向北行进时撞上当时推着自行车行走的49岁女子赫兹柏格，经抢救无效后死亡。最终，Uber获得受害人家属和解而支付了相应赔偿金。此案更加引发了公众对自动驾驶汽车责任的关注与担忧。
[30] See Stephen P. Wood, Jesse Chang, Thomas Healy, John Wood, “The Potential Regulatory Challenges of Increasingly Autonomous Motor Vehicles”, p.1486.
[31] 冯珏：《自动驾驶汽车致损的民事侵权责任》，《中国法学》2018年第6期。
[32] 参见司晓、曹建峰：《论人工智能的民事责任：以自动驾驶汽车和智能机器人为切入点》，《法律科学（西北政法大学学报）》2017年第5期。
[33] 参见江溯：《自动驾驶汽车对法律的挑战》，《中国法律评论》2018年第2期。
[34] 参见丹尼尔·D.李：《法律与人工智能：用 ChatGPT 塑造法律实践的未来》，管斌、宋博文译，《财经法学》2023年第4期。
[35] 刘权：《人工智能发展和安全并重的法治探究》，《东方法学》2024年第5期。
[36] Adam Thierer and Ryan Hagemann, “Removing Roadblocks to Intelligent Vehicles and Driverless Cars”, p.348.
[37] See Dorothy J. Glancy, “Privacy in Autonomous Vehicles”, pp.1225-1226.
[38] See Stephen P. Wood, Jesse Chang, Thomas Healy, John Wood, “The Potential Regulatory Challenges of Increasingly Autonomous Motor Vehicles”, p.1466.
[39] See Hill v. Nat'l Collegiate Athletic Ass’n,7 Cal.4th 1,35(1994).
[40] 参见赵宏：《从信息公开到信息保护：公法上信息权保护研究的风向流转与核心问题》，《比较法研究》2017年第2期。
[41] 参见周汉华：《探索激励相容的个人数据治理之道——中国个人信息保护法的立法方向》，《法学研究》2018年第2期。
[42] 参见周辉：《网络隐私和个人信息保护的实践与未来——基于欧盟、美国与中国司法实践的比较研究》，《治理研究》2018年第4期。
[43] See Adam Thierer and Ryan Hagemann, “Removing Roadblocks to Intelligent Vehicles and Driverless Cars”, p.382.
[44] See Ivan L. Sucharski and Philip Fabinger, “Privacy in the Age of Autonomous Vehicles”, Washington & Lee Law Review Online, vol.73(2016-2017), p.724.
[45] 参见夏洪：《无人驾驶车恐怖犯罪风险研究》。
[46] 陈景辉：《人工智能的法律挑战：应该从哪里开始？》，《比较法研究》2018年第5期。
[47] 卢克·多梅尔：《算法时代：新经济的新引擎》，胡小锐等译，北京：中信出版社，2016年，第214页。
[48] 宣言：《不能让算法决定内容》，《人民日报》2017年10月5日。
[49] 参见左亦鲁：《算法与言论——美国的理论与实践》，《环球法律评论》2018年第5期。
[50] 马长山：《智能互联网时代的法律变革》。
[51] 参见郑戈：《人工智能与法律的未来》，《探索与争鸣》2017年第10期。
[52] 参见於兴中：《算法社会与人的秉性》，《中国法律评论》2018年第2期。
[53] 储陈城：《自动汽车程序设计中解决“电车难题”的刑法正当性》，《环球法律评论》2018年第3期。
[54] 参见张凌寒：《商业自动化决策的算法解释权研究》。
[55] 2018年3月，中国首批3张智能网联汽车道路测试牌在上海发放。上海汽车集团股份有限公司和上海蔚来汽车有限公司获得第一批智能网联汽车开放道路测试号牌。
[56] 李磊：《论中国自动驾驶汽车监管制度的建立》，《北京理工大学学报（社会科学版）》2018年第2期。
[57] 维克托·迈尔-舍恩伯格、肯尼思·库克耶：《大数据时代：生活、工作与思维的大变革》，盛杨燕、周涛译，杭州：浙江人民出版社，2013年，第51页。
[58] 参见冯洁语：《人工智能技术与责任法的变迁——以自动驾驶技术为考察》，《比较法研究》2018年第2期。
[59] 参见彭文华：《自动驾驶车辆犯罪的注意义务》。
[60] 陈景辉：《人工智能的法律挑战：应该从哪里开始？》。
[61] 郑志峰：《自动驾驶汽车的交通事故侵权责任》，《法学》2018年第4期。
[62] See Gary E. Marchant, Rachel A. Lindor, “The Coming Collision between Autonomous Vehicles and the Liability System”, p.1339.
[63] 彭文华：《自动驾驶车辆犯罪的注意义务》。
[64] See John Cusano and Michael Costonis, “Driverless Cars Will Change Auto Insurance: Here’s How Insurers Can Adapt”, Harvard Business Review, December 05,2017.
[65] See Melinda Florina Lohmann, “Liability Issues Concerning Self-Driving Vehicles”, European Journal of Risk Regulation, vol.7(2016), p.340.
