【中文摘要】人工智能刑法研究的争论焦点在于，应否赋予强人工智能机器人刑事责任主体地位。肯定论的逻辑是：在可能到来的强人工智能时代，智能机器人会在人类设定的程序、安排的计划外依照其自主的、不被操控的意志选择性地实施危害社会的行为，其具有辨认和控制能力，具有刑事责任主体地位，应承担刑事责任。肯定论看似环环相扣，其实不过是一种主观臆测，缺乏有效论证，结论并不成立。虽然应当肯定“人工智能不能被骗”，但考虑到人工智能日益广泛代替人类处理财务活动的现实，加之我国盗窃罪与诈骗罪法定刑并无差异，财产性利益也能成为盗窃罪的对象，严格区分盗窃与诈骗已然失去意义。可以将“高度自动驾驶”和“完全自动驾驶”看成“被允许的危险”，汽车使用者因为信赖自动驾驶系统而发生交通事故的，汽车使用者不承担交通肇事罪刑事责任。医疗人工智能只是辅助医生诊疗的工具，属于医疗器材的范畴，医生因为信赖医疗人工智能而做出错误诊断的，应由医生承担医疗事故罪刑事责任。
【全文】
一、“反智化批判”与“伪批判”之争
近三年来，人工智能刑法研究“野蛮生长”，相关成果和“人工智能刑法专家”如雨后春笋般涌现。笔者于2021年7月12日在中国知网上以“人工智能”为主题检索到2018年以来的相关刑法论文401篇，而2018年以前（1979-2017年）仅31篇。其中，华东政法大学刘宪权教授自2018年以来，短短三年半时间里，以一己之力贡献了30篇。这30篇论文的核心观点是：在可能（即将）到来的强人工智能时代，[①]强智能机器人会在人类设定的程序、安排的计划外依照其自主的、不被操控的意志选择性地实施危害社会的行为。因其具有辨认和控制能力，刑法应赋予其刑事责任主体地位，增设删除数据、修改程序、永久销毁等刑罚处罚方式，依法对其进行审判和定罪量刑。〔1〕
实际上，人工智能还停留在机器学习阶段，打造人工网络神经元以实现机器模拟人的神经结构的方案难以付诸实践。〔2〕从弱人工智能到强人工智能（超级人工智能）存在着鸿沟，联结主义的方法能否使人工智能产生质变是个未知数。从目前的技术来看，强人工智能时代只是一种想象。针对学界人工智能刑法研究的乱象，刘艳红教授在2019年第5期《东方法学》上撰发“人工智能法学研究的反智化批判”一文（以下简称“反智化批判”），不点名地批判了当前人工智能刑法研究中，出现了“反智化”“概念附会”“学术泡沫”“制造假问题”“不可知论”“盲目跟风”“人工智能体崇拜”等现象。〔3〕结果，刘宪权教授“对号入座”，其在2020年第1期《法学》上撰发“对人工智能法学研究‘伪批判’的回应”（以下简称“伪批判”），指出刘艳红教授系“‘为批判而批判’的‘伪批判’”，认为其既“混淆了‘人工智能’与‘机械自动化’的概念”，又“将弱人工智能时代的特征‘嫁接’到对强智能机器人刑事责任主体地位的探讨中，将强人工智能时代的特征‘嫁接’到对弱人工智能时代刑事风险的探讨中。”同时还“存在‘像人一样思考’和‘机器’含义的冲突以及‘人造牛皮论’与‘法人的人工类人格’内涵的抵牾。”〔4〕
可以发现，上述“反智化批判”与“伪批判”以及其他相关研究的争论的核心集中于一点，就是应否赋予将来强人工智能时代的强智能机器人以刑事责任主体地位。本文首先探讨这一核心问题，然后在人工智能刑事主体地位否定论的立场上，就有关人工智能应用的人工智能侵财犯罪的定性、自动驾驶的归责方案、医疗人工智能的责任分配这三个问题展开具体考察。
二、核心：应否赋予强人工智能机器人刑事责任主体地位
关于应否承认强智能机器人的刑事责任主体地位，学界存在肯定论与否定论两种截然对立的立场。[②]
肯定论认为，在将来的强人工智能时代，应当赋予强智能机器人刑事责任主体地位锚点。根据在于：
其一，从客观上来看，智能机器人与自然人的距离并不遥远。换句话说，智能机器人，特别是强智能机器人，与自然人可能仅存在形体、机理等客观形式上的区别。在人工智能技术达到一定的高度后，智能机器人会在人类设定的程序、安排的计划外依照其自主的、不被操控的意志选择性地实施行为。因此，当智能机器人与自然人一样，能够以自主的意志控制、实施行为时，其就具有辨认和控制能力，即具备刑事责任能力。
其二，将自然人以外的事物作为刑事责任主体具有可行性。单位作为可以承担刑事责任的主体经历了从否定说，即“法人不能构成犯罪”到肯定说的发展历程。单位的刑事责任能力源自单位中自然人意志的延伸。而智能机器人在实施人类设定的程序、安排的计划以外的行为时所展现的自主选择，同样是自然人意志的发展、延伸乃至超越，这种与自然人意志的紧密、超越关系甚至是单位所不能及的。可见，既然与自然人差别很大的单位都可以成为刑事责任主体，智能机器人当然也有资格为其实施的犯罪承担刑事责任。
其三，“智能机器人不存在自由意志”只是一种主观臆测，并不能得到有效证明。在强人工智能时代，智能机器人具备自由意志产生的条件，即充当大脑的程序、算法以及大数据技术辅助下的数据收集本领。而当智能机器人具备这两个条件时，没有人能够绝对性地否定智能机器人存在自由意志的可能性。因此，那种认为“智能机器人不可能产生自由意志”，进而推定智能机器人不具备刑事责任能力，不存在成为刑事责任主体的基础的观点没有凭据，难以被采信。[③]
其四，“自由意志”的概念并非牢不可破，不应混淆“意志”与“自由意志”。“意志”是一种可以通过外在形式表现出来的决策机制，而非“自由意志”般属于形而上的概念。“自由意志”实则是特定时期下一种必要的假设，来自于“个体自由”的主观感觉，〔5〕其客观性与证明力都存在疑问。从罪责理论的角度来看，罪责理论已经呈现出明显的“去形而上学”趋势。〔6〕在这种背景下，同样具有决策机制（基于算法等），即“意志”的人工智能自然也可以实施刑法意义上的行为，承担刑事责任。
其五，自然科学的进步使得人工智能获得主体地位的可能性持续提高。在神经科学等科学技术不断发展的过程中，通过模仿人脑，人工智能可以被赋予人类智识，并由此生成意志和道德。未来，当人工智能获得意识和道德理性，其拥有主体资格就是理所当然的。〔7〕国外有学者指出，如果智能代理获得了自我反省和类似于良知的能力，就不得不考虑它们的人格问题。〔8〕鉴于生物进化速度的缓慢，人工智能的发展很可能突破人类在智识和能力上的限制。因此，肯定人工智能具有主体地位是一种趋势。〔9〕
其六，随着人工智能技术的不断发展，人类对于人工智能的控制力在不断弱化。当人工智能能够以自主意志而非他人意志实施超出人类设定的程序、安排的计划的行为时，即，尽管与人类有互动，但仍是其基于自主选择实施行为时，〔10〕就可以视其为具备刑事责任能力的主体。〔11〕
其七，智能性是权利主体的本质，人工智能与人类在外在形式上的区别不具意义，只有人工智能符合智能性的要求，即明白自己的权利义务，并遵循法则实施行为，才可能被纳入权利主体的范围中。如果科学界对“类人机器人”的预测成真，彼时智能机器人便具备了智能性，也就取得了权利主体的资格。将智能机器人建构为法律上的“人”，有利于处理未来的新型社会关系，包括涉及智能机器人的各种“犯罪”现象与疑难社会问题。〔12〕
可以看出，上述肯定论的逻辑是，在将来的强人工智能时代，智能机器人会在人类设定的程序、安排的计划外依照其自主的、不被操控的意志选择性地实施危害社会的行为。与此同时，智能机器人便自动获得了为刑法所承认的辨认、控制能力，即具备了刑事责任能力，自然应当成为刑事责任主体，承担刑事责任。这可谓环环相扣：强人工智能时代可能到来→智能机器人在人类设定的程序、安排的计划外选择性地实施行为→自由意志→辨认、控制能力→刑事责任能力→刑事责任主体地位→刑事责任。问题是，上述推理犹如多米诺骨牌，并不牢靠。
其一，肯定论的前提始终只是假设。例如肯定论认为，“智能机器人有可能像霍金所预言的那样成为地球上除男人、女人之外有意识、能思维的‘第三类人’”；〔13〕“脱离人类设计和编制程序控制的强人工智能产品有出现的可能”；〔14〕“在人工智能时代，智能机器人有可能具有辨认能力和控制能力”；〔15〕“至少目前人工智能尚未形成意识和道德理性。至于何时能形成，很难有确切答案”。〔16〕肯定论所坚信或者恋恋不忘的所谓“奇点理论”,其实“缺乏科学依据”。〔17〕因而，“纯粹出于‘幻想’的理论探讨如同空中楼阁其根基并不牢靠”。〔18〕若前提不能肯定成立，刑事责任主体地位的结论自然就成了“无源之水，无本之木”。
其二，所谓强智能机器人具有自主意识和意志，只是肯定论者的猜想。肯定论者也只是认为，通过人类的创造，智能机器人具备与人类大脑类似的构造，并进行深入学习，继而可能会产生独立的意志。〔19〕重点在于，这只是一种可能性，任何人都不可能绝对确定在未来的某个时间点智能机器人可以拥有独立的行动意志。〔20〕尽管刘宪权教授认为，“绝对否定智能机器人具有自由意志的论断是非常武断和不可靠的”“这种观点（即否定论——引者注）的误区在于把主观臆断上升为绝对真理”，〔21〕但我们何尝不可以认为“绝对肯定智能机器人具有自由意志的论断是非常武断和不可靠的”“这种观点（即肯定论）的误区在于把主观臆断上升为绝对真理”？而且，人工智能做出超出人类设定的程序、安排的计划的行为，不一定代表其产生了自主意志，也可以解释为发生了机械故障。〔22〕
其三，所谓强智能机器人具有辨认和控制能力，也是只有结论，没有论证。一旦“强智能机器人具有自主意识和意志”这一前提不能证立，后面的结论也就无所依存。从概念上看，人工智能是让机器学习像人一样做事的技术。〔23〕技术与人的概念可谓天差地别，“人工智能没有灵魂，有的甚至没有实体”。〔24〕因此，要拉近二者的距离已经十分困难，想在它们之间划上等号，使其在某些功能上具有同等意义更是难上加难。实际上，人工智能系统的选择行为的能力是算法技术赋予的，属于机械认知而非自由意志的体现。〔25〕如此，无法推定智能机器人具有刑事责任能力，不能想当然地断言智能机器人可以取得刑事责任主体地位。
其四，智能机器人根本不同于作为个人集合体的单位，类比单位犯罪，没有说服力。肯定论的逻辑是，智能机器人的自由意志与人类的意志联系更加密切，且智能机器人的意志存在超越人类意志的可能性。因此，智能机器人的意志的自由程度比单位更强，没有理由否认智能机器人的自由意志。〔26〕换句话说，既然社会并不排斥对于纯粹拟制主体（例如法人）加以处罚，就不应排斥将智能机器人拟制为犯罪主体加以处罚。〔27〕肯定论显然忽视了单位（法人）本身并没有自由意志这一事实。所谓单位的意志，其实是单位中自然人（法人机关）的意志，而法人机关是真实的人，当然具有自由意志。而智能机器人犯罪中并无自然人存在，何谈人的自由意志？所以，用单位作为类比，得出智能机器人也有自由意志，也应拟制为犯罪主体的结论不能成立。
其五，肯定论所设想的处罚智能机器人犯罪的方式根本不具有刑罚的惩罚属性和预防犯罪的效果。刘宪权教授提出为智能机器人犯罪增设三种特别的刑罚措施，即“删除数据”“修改程序”“永久销毁”。〔28〕众所周知，作为刑罚方式，从功能上讲必须具有惩罚的属性，从功利角度讲，必须能够起到一般预防和特殊预防的效果。智能机器人没有痛感，没有道德感，对其实施上述所谓刑罚措施，根本就不可能成为一种“痛苦”，〔29〕也不可能达到预防犯罪的效果。针对智能机器人设计的这些所谓刑种，不过是对智能设备的维修工作，充其量能实现一定的管理功能。将其纳入刑法会致使刑法的性质、功能遭到严重破坏。按照这些手段进行刑罚处罚，将使刑法沦为“机器维修手册”。〔30〕
其六，肯定论充斥着自相矛盾之处。例如，刘宪权教授一方面认为，人工智能的奇点降临后，将进入机器人完全独立、自主进化的时代。在这样的时代中，机器人可能会超越人类，要么机器人与人类共生，要么机器人操纵、压迫、奴役甚至灭绝人类。〔31〕另一方面又认为，可以为强智能机器人立法，给其套上“缰绳”。常言道，“一山不容二虎”。如果真到了“人类已经无法理解机器人的世界”“人类完全被奴役甚至灭绝”的那一天，恐怕就不是人类给机器人立法，而是机器人给人类“立规矩”了。人工智能的“法律主体地位的决定权仍在人类。而不可能自然具备”，人类“不可能先赋予其主体地位，并等到其出现有害活动后，才以讨论其刑事责任的方式来解决”。〔32〕
综上，肯定论所持立场都是只有结论，没有充分有效的论证，前提不存在，相应的结论也就不能成立。因此，否定论更具合理性。尽管人工智能的进步在大众话语中引发了越来越多的兴奋和焦虑，〔33〕但应当坚定地认为“刑法是为了人制定的”，〔34〕我们不应杞人忧天地担心所谓“奇点”的到来，不应通过超前立法赋予其刑事责任主体地位。
三、人工智能刑事主体地位否定论的实践展开
理论的研究不能仅满足于抽象的考察，还应当致力于解决现实问题。目前，关于人工智能刑法的具体问题主要涉及侵财犯罪、自动驾驶、医疗人工智能三个领域。对人工智能是否具有主体地位的探讨影响着侵财犯罪的定性、自动驾驶的风险防范以及医疗人工智能的责任分配。
（一）否定论之于侵财犯罪定性问题的止争
应该说，如今以自动柜员机为代表的人工智能已经广泛应用于人类的各种财务处理活动中。为此，刘宪权教授创造性地提出，ATM机是“机器人”，存在被骗的可能性。理由在于，ATM机具有“识别”功能，意味着ATM机同样可能因为行为人的欺骗行为产生认识错误。由此，当行为人使用这种手段获取财物时，应被认定为信用卡诈骗罪。而当行为人取得财物仅仅是因为机器的单纯的故障，则应当以盗窃罪论处（如许霆案）。〔35〕吴允锋教授也指出，“机器人可以被骗”。线上利用手机银行、第三方支付账户侵财、线下利用ATM机侵财的行为一不符合盗窃罪的基本特征，即主动获取和秘密窃取，二不具备诈骗罪中“处分意思”的构成要件。换言之，这类行为既不在盗窃罪的处罚范围当中，又不能被评价为诈骗罪。因而我国现有立法存在立法空白，司法实践中对于人工智能作为侵财犯罪对象的司法定性存在困境，为此应通过增设诈骗犯罪罪名进行及时回应。〔36〕
笔者持人工智能自由意志否定论的立场，对上述观点不能苟同。“机器人”只能是拟人化的一种称谓，现实中不存在既不是“机器”也不是“人”的所谓机器人。“机器”没有处分意识，“机器不能被骗”可谓全世界的通识。〔37〕德日刑法中的所谓利用计算机诈骗罪，其实不是“诈骗罪”，而是规制盗窃财产性利益的犯罪。〔38〕所谓利用手机银行、支付账户窃取他人绑定的银行卡中的存款，以及捡拾他人银行卡后在自动柜员机上取款等所谓利用人工智能侵占案件，只要不存在自然人的处分行为，就不符合诈骗罪的构成要件。但是，此类行为完全符合盗窃罪的构成要件，以盗窃罪进行处罚符合罪刑法定的要求。上述所谓不符合盗窃罪构成要件的观点，不过是先验地认为“盗窃只能秘密窃取”而得出的错误结论。
我国应当看到，在人工智能时代，越来越多的财务处理工作为人工智能系统所代替，例如超市的自助结账装置、手机银行、支付宝结算系统、淘宝购物退货系统。在这种现实背景下，还坚持“机器不能被骗”“必须存在自然人的处分意思”，以此严格区分盗窃罪与诈骗罪的观点，恐怕已不合时宜。例如，将普通牙膏塞到黑妹牙膏盒子里结账，若是人工扫码结账，“因为存在自然人的处分意思”，所以成立诈骗罪，若在无人执勤的自动结账处扫码结账，则“因为不存在自然人的处分意思”，不符合诈骗罪的“处分意思”要件，而只能成立“不需要处分意思”的盗窃罪。又如，淘宝网上购买名牌运动鞋后，用普通运动鞋假装退货，如果退货系统的后台存在人，则“因为存在自然人的认识错误”而构成诈骗罪，但如果退货完全由电脑系统自动完成，则“因为不存在自然人的认识错误”，而只能构成盗窃罪。这恐怕过于形式化了。
应该说，在德日，之所以强调成立诈骗罪必须有“人的认识错误和处分意思”和“机器不能被骗”，是因为其刑法中未规定财产性利益的盗窃，当对象系财产性利益时，有没有“处分意思”决定是否存在犯罪，所以“兹事体大，不可不察”。但在我国，财产性利益也可以成为盗窃的对象。当对象系财产性利益时，有无“处分意思”关系到法定刑完全一样的盗窃与诈骗（盗窃罪多出了四种特殊盗窃），而非是否成立犯罪的决定性因素。因此，在我国，强调“处分意思”的有无，实际意义很有限。既然如此，因应人工智能时代的要求，我们不应再固守诈骗罪的“处分意思”要件，无需严格区分盗窃与诈骗，而应将盗窃罪看作是夺取型财产犯罪的兜底性犯罪，当“是否具有处分意思”，即盗窃与诈骗难以界分时，可直接以盗窃罪论处。
（二）否定论下自动驾驶的分级化归责方案
所谓自动驾驶问题，就是自动驾驶车辆发生交通事故之后，自动驾驶车辆的制造者、使用者等不同主体之间法律责任的分配问题。实际上，自动驾驶的概念可能存在误导性，因为自动驾驶是存在不同等级的，或者说“自动化”的程度存在差异。〔39〕
在美国，根据美国公路交通安全管理局发布的规定，除去非自动化驾驶，自动驾驶系统可以分为五个等级：系统只负责驾驶的速度、方向等当中的任意一种（“辅助驾驶”）；由系统同时负责驾驶的速度、方向等当中的数个工作，驾驶者负责监控安全（“部分自动化驾驶”）；由系统负责驾驶的速度、方向等全部工作，驾驶者需要在自动驾驶系统难以为继的情况下承担驾驶任务（“附条件自动化驾驶”）；由系统负责驾驶的速度、方向等全部工作，即便驾驶者无法接管驾驶，系统也可以自动继续行驶（“高度自动化驾驶”）；由系统负责驾驶的速度、方向等全部工作，不存在需要驾驶者应答、接管驾驶的情况，乃至不需要乘客（“完全自动化驾驶”）。〔40〕在我国，2018年2月，上海市公安局等部门联合颁布的《上海市智能网联汽车道路测试管理办法（试行）》规定自动驾驶有三个等级：由系统负责全部驾驶工作，锚点驾驶者需要在系统提示时接管驾驶（“有条件自动驾驶”）；由系统负责全部驾驶工作，即便系统出现提示，驾驶者也不必响应，即系统能够自动响应并继续操控车辆安全行驶（“高度自动驾驶”）；由系统负责全部驾驶工作，车上可以没有乘客或者有乘客却不需要具备驾驶能力，因为不论在何种情境下都不需要驾驶者进行操作（“完全自动驾驶”）。〔41〕
笔者赞成上海市对自动驾驶的分类，自动驾驶的责任分配可以按照这一分类施行分级化安排。不过，首先应当明确，无论哪一种自动驾驶，都不应承认自动驾驶系统本身具有刑事责任主体地位而追究其刑事责任。另外，驾驶人员只需在他所能掌握和控制的自动化系统范围内承担责任。〔42〕
对于“有条件自动驾驶”，一般来说，由于驾驶员需要在系统提示时承接驾驶工作，除非自动驾驶汽车和系统设计本身存在严重缺陷，因违反交通运输管理法规发生交通事故的，应由驾驶员承担交通肇事罪刑事责任。“有条件自动驾驶”的归责方案容易被人接受，“高度自动驾驶”和“完全自动驾驶”两种情形则是目前关于自动驾驶刑事责任讨论的集中所在。
虽然学界普遍认为，在全自动驾驶中，“驾驶员”的真实身份其实就是“乘客”，不应承担交通肇事罪的刑事责任，而只可能追究自动驾驶汽车的设计者、制造者的生产、销售伪劣产品犯罪的刑事责任。[④]但问题是，道路交通的参与方（被害人）就应该承受自动驾驶的后果吗？由于90%的交通事故都是人为原因造成的，而自动驾驶技术正是以防撞为目标而编写程序的。〔43〕因此，允许自动驾驶对社会来说利远远大于弊，而且自动驾驶是社会发展的必然趋势。故而自动驾驶可被认为是一种“被允许的危险”。对于交通肇事的被害人而言，更为关心的不是判处肇事者多少年刑罚，而是其已经遭受的人身财产损失能否在物质上得到最大限度的弥补。因此，对于“驾驶员”主观上没有过错，因完全信赖自动驾驶而导致交通事故的，应当考虑通过自动驾驶汽车上路前的强制性保险的缴纳，以及自动驾驶汽车设计、制造本身存在一定缺陷而导致交通事故的应承担一定的产品质量赔偿责任，来弥补被害人所遭受的人身财产损失。
至于“高度自动驾驶汽车”发生交通事故的责任，要看车上的“驾驶员”有无违反注意义务、有无过错，进而决定其应否承担交通肇事罪刑事责任。若是因为自动驾驶汽车设计、制造本身的缺陷导致交通事故的，只能追究设计者和制造者的产品缺陷的刑事责任和民事责任。
（三）医疗人工智能主体否定后的责任分配
自人工智能被引入医疗领域，医疗人工智能成果不断问世。目前，人工智能已经被应用于诊疗、治疗等多个医疗环节，在医疗活动中发挥越来越大的作用。在我国，发展医疗人工智能早已上升到国家战略地位。为平衡法益保护与医疗人工智能健康发展，必须处理好医疗人工智能的法律问题。医疗人工智能的特殊之处在于，其相较于传统的医患关系，增加了与人工智能产品相关的一系列主体，包括医疗人工智能产品的设计者、制造者等。因此，所谓医疗人工智能的法律问题，就是如何平衡医者（包括医务人员、医疗机构）、患者、涉医疗人工智能的主体（包括医疗人工智能产品的设计者、生产者等）之间的利益问题，主要表现为这些主体之间的法律责任分配的问题。〔44〕首先应当明确，医疗人工智能只是辅助人类医疗的工具，与医院的CT等检查设备一样，属于“医疗器材”的范畴，不具有所谓的“自主意志”。因此，医疗人工智能并没有相当的辨认、控制能力，即不具备刑事责任能力，也就不能成为医疗事故罪等刑事犯罪的主体。医生因为相信医疗人工智能而做出了错误诊断造成医疗事故的，承担刑事责任的主体只能是医生，可追究医生医疗事故罪刑事责任。若是医疗人工智能产品本身的缺陷所致，则应追究医疗人工智能产品的设计者、生产者的产品质量责任。
四、总结
人工智能刑法研究的争论焦点在于应否赋予人工智能刑事责任主体地位。肯定论认为，在可能到来的强人工智能时代，智能机器人会在人类设定的程序、安排的计划外依照其自主的、不被操控的意志选择性地实施危害社会的行为，因具有辨认和控制能力，应承认强智能机器人的刑事责任主体地位。这些看起来环环相扣的推理，其实如多米诺骨牌，前提不存在，结论也就不能成立。我们完全没有必要杞人忧天，超前为所谓强智能机器人进行刑事立法，增设新罪名和刑罚种类。
如今人工智能已经广泛应用于财务处理、自动驾驶、医疗等各种领域。我们不应承认“人工智能能够被骗”、人工智能系统本身能够成为刑事责任主体和被追究交通肇事罪、医疗事故罪等刑事责任。在人工智能被广泛应用的今天，考虑到我国盗窃罪与诈骗罪法定刑不存在差异，严格区分盗窃与诈骗，并无实际意义。在“是否具有处分意思”，即盗窃与诈骗难以区分时，应直接以盗窃罪论处。对于“完全自动驾驶”，因为不存在“驾驶员”，或者“驾驶员”因完全信赖自动驾驶系统而导致交通事故的，不应追究自动驾驶使用者的刑事责任。对于被害人的人身财产损失，只能通过保险公司和自动驾驶系统缺陷产品的设计、制造者的产品质量赔偿责任来弥补。医疗人工智能只是医生进行诊疗的辅助工具，属于医疗器材的范畴。医生因为相信医疗人工智能而做出错误诊断造成医疗事故的，应由医生承担医疗事故罪刑事责任。若医疗人工智能产品本身存在缺陷，医疗人工智能产品的设计、制造者应承担产品质量的刑事责任和民事责任。
【参考文献】
{1}{13}刘宪权：《人工智能时代的“内忧”“外患”与刑事责任》，《东方法学》2018年第1期。
{2}{28}刘艳红：《人工智能法学研究的反智化批判》，《东方法学》2019年第5期。
{3}刘宪权：《对人工智能法学研究“伪批判”的回应》，《法学》2020年第1期。
{4}Monika Simmler/Nora Markwalder, Roboter in der Ve-rantwortung?-Zur Neuauflage der Debatte um den funktionalen Schuldbegriff, ZStW129(2017)，S.28.
{5}{26}江溯：《人工智能作为刑事责任主体：基于刑法哲学的证立》，《法制与社会发展》2021年第3期。
{6}{15}彭文华：《自由意志、道德代理与智能代理——兼论人工智能犯罪主体资格之生成》，《法学》2019年第10期。
{7}Sabine Gless, Emily Silverman and Thomas Weigend, “If Robots Cause Harm, Who Is to Blame？ Self-Driving Cars and Criminal Liability, ” New Criminal Law Review, vol.19，no.3(Summer 2016)，p.417.
{8}彭文华：《人工智能的刑法规制》，《现代法学》2019年第5期。
{9}Jacob Turner, Robot Rule: Regulating Artificial Intelli-gence, Cham: Palgrave Macmillan, 2019，pp.16-17.
{10}王燕玲：《人工智能时代的刑法问题与应对思路》，《政治与法律》2019年第1期。
{11}周详：《智能机器人“权利主体论”之提倡》，《法学》2019年第10期。
{12}{18}{25}刘宪权、胡荷佳：《论人工智能时代智能机器人的刑事责任能力》，《法学》2018年第1期。
{14}刘宪权：《人工智能时代我国刑罚体系重构的法理基础》，《法律科学（西北政法大学学报）》2018年第4期。
{16}李本灿：《自然人刑事责任、公司刑事责任与机器人刑事责任》，《当代法学》2020年第3期。
{17}时方：《人工智能刑事主体地位之否定》，《法律科学（西北政法大学学报）》2018年第6期。
{19}{20}刘宪权：《对强智能机器人刑事责任主体地位否定说的回应》，《法学评论》2019年第5期。
{21}{31}皮勇：《论医疗人工智能的刑法问题》，《法律科学（西北政法大学学报）》2021年第1期。
{22}Ndrew Arruda, “An Ethical Obligation to Use Artifi-cial Intelligence? An Examination of the Use of Artificial Intelli-gence in Law and the Model Rules of Professional Responsibili-ty,” American Journal of Trial Advocacy, vol.40，no.3(January 2017)，p.444.
{23}Gabriel Hallevy, “The Criminal Liability of Artificial Intelligence Entities From Science Fiction to Legal Social Con-trol, ” Akron Intellectual Property Journal, vol.4，no.2(December 2010)，pp.200-201.
{24}陈禹衡：《算法优化语境下自动驾驶汽车交通肇事的困境纾解》，《苏州大学学报（法学版）》，2021年第3期。
{27}刘宪权：《人工智能时代刑事责任与刑罚体系的重构》，《政治与法律》2018年第3期。
{29}冀洋：《人工智能时代的刑事责任体系不必重构》，《比较法研究》2019年第4期。
{30}刘宪权：《人工智能时代机器人行为道德伦理与刑法规制》，《比较法研究》2018年第4期。
{32}Luke Goode, “Life, but not as We Know It: A. I.and the Popular Imagination, ” Culture Unbound: Journal of Current Cultural Research, vol.10，no.2(October 2018)，p.186.
{33}Sabine Gle?/Thomas Weigend, Intelligente Agenten und das Strafrecht, ZStW126(2014)，S.566
{34}刘宪权：《人工智能时代的刑事责任演变：昨天、今天、明天》，《法学》2019年第1期。
{35}吴允锋：《人工智能时代侵财犯罪刑法适用的困境与出路》，《法学》2018年第5期。
{36}张明楷：《诈骗犯罪论》，北京：法律出版社，2021年，第117页以下。
{37}张明楷：《外国刑法纲要》，北京：法律出版社，2020年，第561页以下。
{38}Brian A. Browne, “Self-Driving Cars: On the Road to a New Regulatory Era, ” Journal of Law, Technology & the Internet, vol.8，no.1(October 2017)，p.2.
{39}周铭川：《论自动驾驶汽车交通肇事的刑事责任》，《上海交通大学学报（哲学社会科学版）》2019年第1期。
{40}〔德〕弗兰克·彼得·舒斯特：《自动驾驶下生产商的刑事责任》，李倩译，《苏州大学学报（法学版）》2021年第3期。
{41}Paul Gao, Russell Hensley and Andreas Zielke, “A Road Map to the Future for the Auto Industry,” McKinsey Quar-terly, no.4(December 2014)，p.51.
{42}刘建利：《医疗人工智能临床应用的法律挑战及应对》，《东方法学》2019年第5期。
