当前自动驾驶技术并不完善，自动驾驶汽车应用给公共安全带来新威胁，刑法应当在保障自动驾驶汽车安全发展中发挥重要作用。自动驾驶汽车不应被赋予法律主体地位，其操控活动不是驾驶行为。在我国当前立法背景下，驾驶位人员的行为并非都构成交通肇事罪行为，也不是管理过失行为。对生产者追究生产、销售不符合安全标准的产品罪的刑事责任既不合理合法，也不能有效控制自动驾驶汽车交通安全风险，生产者制造紧急路况处置算法的行为不能适用紧急避险制度，也不能按照“允许的风险”处理。应对自动驾驶汽车交通事故，必须根据智慧交通的特点，发展交通刑法理论，构建以生产者全过程责任为中心的新刑事责任体系。

（一）新刑事责任体系应贯彻的原则

建构新刑事责任体系应坚持自动驾驶汽车是人为、人用之物的基本立场，客观应对其引起的新技术安全风险，在充分保障公共安全的前提下促进自动驾驶汽车的发展和应用，应当贯彻以下三原则。

一是科学防范风险原则。自动驾驶汽车不是新的智慧物种，不应被赋予犯罪主体或刑事责任主体的法律地位，也不应将自动驾驶汽车应用风险视作极少发生的“允许的风险”，应当根据自动驾驶汽车安全风险的特点予以有效控制。

二是适度风险责任原则。适度风险责任不是指自动驾驶汽车带来的福利与其招致的风险成比例，自动驾驶汽车应用必须以安全为基础，否则谈不上创造社会福利，是要求在设定自动驾驶汽车相关人员的安全责任时，应当依据其与安全风险形成的关系、风险控制能力、社会地位等进行合理分配。既不过度扩大生产者的产品安全责任，也不放弃对生产者持续提高自动驾驶技术安全的要求，更不能将其责任转嫁给驾驶位人员，否则，只会损害社会、企业和公众等各方的利益。

三是生产者全过程防范风险原则。生产者是自动驾驶汽车安全风险的主要引起者，与自动驾驶汽车应用安全风险保持着事实与法律上的联系，应当对其引起的风险承担安全防范责任。无论是对L3级还是L4、L5级自动驾驶汽车，生产者都是其安全风险的首要防范主体，使之在自动驾驶汽车生产、应用的全过程承担风险防范责任是无可选择的必然结果，这既是保障自动驾驶汽车安全应用的需要，也是自动驾驶汽车产业发展的前提和基础。而且，自动驾驶汽车生产者不同于传统汽车生产者，作为现代技术权力和资本权力的结合体，它不仅能够控制自动驾驶汽车的产品安全质量，还能够直接操控应用中的自动驾驶汽车，其他任何主体包括社会管理部门都不具有这种强大的、直接的安全风险管理能力，使生产者承担全过程安全管理责任与其能力相称。生产者承担全过程风险防范责任，重点是对自动驾驶系统的安全管理，确保算法生产安全和汽车交付后算法应用安全。

（二）构建以生产者全过程刑事责任为中心的新刑事责任体系

构建自动驾驶汽车交通事故犯罪的新刑事责任体系，应当以生产者的全过程责任为中心，L3、L4级智能自动驾驶汽车的驾驶位人员仅在有限情况下承担刑事责任。

1.生产者的全过程刑事责任

生产者的全过程刑事责任包括自动驾驶汽车生产阶段的产品安全责任和应用阶段的安全管理责任，不仅需要设立应用阶段的安全管理责任，生产阶段的产品安全责任也需要进行制度创新。

（1）生产阶段的刑事责任

生产者生产、销售不符合安全标准的自动驾驶汽车导致严重后果的，应当按照生产、销售不符合安全标准的产品罪追究刑事责任，其智能驾驶系统特别是紧急路况算法安全标准则有较多的法律问题要解决。智能驾驶系统安全标准特别是紧急路况处理算法直接关系到公共安全，生产者制作的算法应符合法律认可的安全标准，才能阻却生产行为的违法性。当前各国在制定算法安全标准时遇到较大困难，学者们多运用法益保护、义务冲突和紧急避险等理论探讨算法规则，这些观点没有超出“电车难题”相关哲学和刑法学观点的范围，既无法律依据，也不尽合理。例如，多数人优先保护规则、乘客优先保护规则在实际中很难实行，在可接受的成本范围内，自动驾驶汽车系统难以正确统计可能伤害的人数和严重程度，更难以识别不同年龄、身体残障状态的交通活动人员，并进行适当的处置。因此，这些理论观点不应成为司法实践中判断生产者刑事责任的依据，更不应成为设置算法安全标准的理论依据。

自动驾驶汽车是人工智能时代的新工业产品，对公共交通安全带来新的风险，自动驾驶汽车算法安全标准应当以维护公共安全为宗旨，优先保护公众的生命安全与健康，不应放任生产者随机选择，更不应放纵其制造优先保护乘客而牺牲公众的算法。公共安全优先的算法安全标准应当至少遵守以下规则：（1）不将危险引向公众。当自动驾驶汽车遇到危及车内人员生命财产安全的紧急路况时，不得将危险转移到公共道路上的行人和其他无路权竞争关系的正常行驶车辆。（2）不主动选择牺牲公众。自动驾驶汽车遇到必然会导致公众或车内人员伤亡的紧急路况时，不得为了保护车内人员的生命健康，而主动选择牺牲公众的生命健康。当不可避免会损害不同群体的公众生命健康时，如各车道上都有行人或车辆时，不得进行主动选择，应以尽量避免发生事故为原则，采取尽可能安全的方式在原车道内减速停车。公共安全优先原则应当贯彻到处理各种路况的算法安全的具体标准中，并根据路况的发展变化及时调整和补充。唯有将公共安全置于安全标准的优先地位，才能促使生产者整体提升汽车的安全保障能力，引导自动驾驶汽车产业向“更安全、更便利”的方向健康发展。

生产者在生产和应用自动驾驶汽车算法系统阶段都必须严格遵守以上安全标准，防止自动驾驶系统自主形成紧急路况处置算法或投入应用后自主修改原有算法，否则应当认定为生产不符合安全标准的产品。生产者按照自动驾驶汽车安全标准生产汽车，仅仅能够使其生产行为具有合法性，不排除其对自动驾驶汽车应用安全承担管理责任，包括刑事责任。

（2）应用阶段的刑事责任

生产者拒不履行自动驾驶汽车应用安全管理义务并发生严重后果的，应当承担刑事责任。生产者是安全管理义务的主要承担者，在L4、L5级自动驾驶汽车应用中则是唯一承担者，其义务至少应包括：①对自动驾驶汽车应用安全特别是算法安全保持监控、封闭管理和及时维护。自动驾驶系统使用了新一代人工智能算法程序，生产者应当对其算法应用进行封闭管理，阻止未经合法审查和授权的算法变更，防止其自主学习形成的不符合产品安全标准的算法决策逻辑。此外，生产者应分析、优化各种路况的处置流程，编制新的紧急路况处理方法，在充分的实验并依法进行算法审查的基础上，遵照相关国家标准或行业标准，及时对自动驾驶系统进行升级维护；②监测到自动驾驶汽车运行存在严重危险，或者车内人员启动紧急处置求助按键，应当对自动驾驶汽车远程监控或干预。我国《汽车驾驶自动化分级》标准规定，生产者企业的调度员“在车辆无驾驶员操作的条件下，通过激活驾驶自动化系统以实现车辆调度服务但不执行动态驾驶任务”，如果调度员发现自动驾驶系统不能正常启动紧急路况处理程序，应当及时调用远程安全控制程序，接管或者干预自动驾驶汽车的控制，使其进入安全或避险状态。为了促使生产者切实履行前述安全管理义务，刑法有必要规定生产者拒不履行安全管理义务情节严重的，依法承担刑事责任，以保护公共交通和公众生命财产安全。L3级自动驾驶汽车的驾驶位人员有义务避免自动驾驶汽车引发交通事故，但不排除生产者承担以上安全管理义务。

国家应当设立人工智能算法安全监管机构，对自动驾驶汽车算法安全进行监督管理。在人工智能时代，不安全的算法应用对国家、社会和公众安全构成严重威胁，要使生产者切实履行自动驾驶汽车算法安全管理义务，仅靠事后的刑罚威慑是不够的，国家应当设置算法安全委员会等专门机构负责对算法进行实质性审查，对包括自动驾驶汽车在内的人工智能产品的算法安全进行事前和事中的检测和监督。

2.驾驶位人员的刑事责任

驾驶位人员的刑事责任与自动驾驶汽车的类型有关。L5级自动驾驶汽车不设置驾驶位，不存在驾驶位人员或动态驾驶任务后援用户这个角色，车上人员不对自动驾驶汽车交通事故承担刑事责任。L4级自动驾驶汽车驾驶位人员不承担警觉接管义务，其不接管汽车不承担法律责任。L3、L4级自动驾驶汽车设置了驾驶位，驾驶位人员主动接管后，与驾驶传统汽车没有区别，如果发生严重的交通事故且负主要或全部责任的，应按交通肇事罪追究刑事责任。当我国法律规定L3级自动驾驶汽车的驾驶位人员负有警觉接管汽车的法律义务，其因未履行警觉接管义务而发生严重后果的，将依法承担包括交通肇事罪在内的责任事故犯罪的刑事责任。

从自动驾驶汽车发展趋势和新一代人工智能技术局限性看，前述警觉接管义务立法不是科学、公正的制度安排，原因是：（1）增大了交通安全风险。随着自动驾驶汽车的应用，人类驾驶员更少亲自驾驶汽车处置路况，处置紧急路况的能力降低，大多无力应对自动驾驶汽车引起的紧急状态，导致接管行驶中的汽车发生事故的几率更高；（2）违背增加人类福利的目的。由于要求驾驶位人员全程保持警觉、随时准备接管汽车，在确保安全的前提下，不是减轻而是增加了驾驶位人员的体力和精神压力；（3）不合理地向驾驶位人员转移法律责任。法律强制驾驶位人员接管，中断了自动驾驶汽车与事故之间的直接联系，免除或者大幅度减少了生产者的法律责任，使驾驶位人员背负起本应由生产者承担的安全责任，不合理地加大其法律责任。因此，L3级自动驾驶汽车只适于自动驾驶系统的科学实验和算法训练，不应普及社会应用，L4、L5级自动驾驶汽车应用才是智能交通发展的正确方向。

作者简介：皮勇，同济大学上海国际知识产权学院教授，法学博士。本文系国家社科基金重点项目“新发展理念与总体国家安全观视域下我国网络安全的刑法保障体系研究”（项目号：21AZD082）和教育部规划项目“新发展理念视域下人工智能安全发展的刑法保障研究”（项目号21YJA820017）的阶段性成果，发表于《比较法研究》2022年第1期。

原文链接：论自动驾驶汽车生产者的刑事责任_皮勇.pdf