林志颖车祸安全气囊没弹出来（林志颖车祸引起自动驾驶恐慌）
林志颖车祸安全气囊没弹出来（林志颖车祸引起自动驾驶恐慌）2016年1月，一辆特斯拉轿车在京港澳高速河北邯郸段撞上一辆正在同向车道前方行驶作业的道路清扫车，司机高某不幸身亡。经交警认定，司机高某对追尾事故负主要责任。事后，司机高某的父母将生产商特斯拉公司告到法院，要求其承担产品责任。在审理过程中，法院委托的鉴定机构通过读取特斯拉公司提供的行车数据，确认司机高某当时开启了自动驾驶系统，并直接导致了事故发生。由此，该案成为全球第一例因自动驾驶汽车致人死亡而导致的产品责任诉讼案件。同年5月，在美国佛罗里达州，驾驶员驾驶同款汽车，在开启自动驾驶功能后观看电影，因自动驾驶系统未能识别出突然进入车道的白色车辆，致使发生碰撞事故，驾驶员当场死亡。在此之后，意大利、美国蒙大拿州、加利福尼亚州和我国北京陆续发生了几起因开启自动驾驶(Autopilot)系统而引发的交通事故，并导致了人身财产损失。连续发生的事故，使得消费者对自动驾驶车辆的安全性产生了疑问，也使自动驾
✪ 王乐兵
对外经济贸易大学法学院
【导读】2022年7月22日，明星林志颖低速驾驶某知名新能源汽车发生车祸，引发广泛关注。据媒体报道，该品牌汽车发生类似事故已非第一次；也有评论猜测，此事可能与自动驾驶有关，网络上也出现对自动驾驶乃至新能源汽车产业的恐慌。
事实上，有关自动驾驶汽车的争议已持续多年。其中一个焦点，就是自动驾驶汽车事故的责任认定。本文指出，对自动驾驶汽车缺陷与产品责任认定，在我国当前法律体系中仍属空白、极富争议。作者分析，目前国内外的现实情况是，因自动驾驶汽车的事故发生率低于人工驾驶汽车，作为原告的消费者很难以设计缺陷为由起诉汽车生产者；法院会以驾驶员拥有车辆类型的选择权，却选择可能存在危险性的自动驾驶车辆为由，驳回原告诉讼主张。
作者认为，这种强行将责任推给消费者的做法，经不起推敲。若车辆系统未向用户发出警示和接管请求而发生事故，就应排除用户过失，直接推定产品存在缺陷而成立产品责任。作者进一步主张，宏观层面的行业发展问题，不是产品责任制度的首要考虑目标。那种通过比较传统人工驾驶与自动驾驶的事故数量和经济损失数额，进而推断自动驾驶比人工安全的观点，毫无价值。因为生产者本应使消费者的生命安全得到最大程度的保护，两者不能混为一谈。
本文节选自《清华法学》2020年第2期，原标题为《自动驾驶汽车的缺陷及其产品责任》，篇幅所限，文章有所删节，仅代表作者观点，供诸君参考。
自动驾驶汽车的缺陷及其产品责任
▍引言：全球第一起自动驾驶致驾驶员死亡案
2016年1月，一辆特斯拉轿车在京港澳高速河北邯郸段撞上一辆正在同向车道前方行驶作业的道路清扫车，司机高某不幸身亡。经交警认定，司机高某对追尾事故负主要责任。事后，司机高某的父母将生产商特斯拉公司告到法院，要求其承担产品责任。在审理过程中，法院委托的鉴定机构通过读取特斯拉公司提供的行车数据，确认司机高某当时开启了自动驾驶系统，并直接导致了事故发生。由此，该案成为全球第一例因自动驾驶汽车致人死亡而导致的产品责任诉讼案件。同年5月，在美国佛罗里达州，驾驶员驾驶同款汽车，在开启自动驾驶功能后观看电影，因自动驾驶系统未能识别出突然进入车道的白色车辆，致使发生碰撞事故，驾驶员当场死亡。在此之后，意大利、美国蒙大拿州、加利福尼亚州和我国北京陆续发生了几起因开启自动驾驶(Autopilot)系统而引发的交通事故，并导致了人身财产损失。连续发生的事故，使得消费者对自动驾驶车辆的安全性产生了疑问，也使自动驾驶汽车的产品责任问题浮出水面。
与传统的产品责任案件不同，自动驾驶汽车致人死亡的侵权案件呈现一些新的特征：相比于传统汽车，自动驾驶汽车因其软、硬件的合成而使其制造技术和使用更加复杂，风险因素增加；人工智能驾驶系统使得汽车的控制权和驾驶决策从驾驶员部分甚至全部转移给了驾驶软件；相比于硬件缺陷，自动驾驶汽车的软件和算法缺陷更为隐蔽，但其造成的损害后果却更为严重、更加具有不可预防性。但是，如何认定自动驾驶汽车的缺陷在我国当前法律体系中仍属空白，导致对其生产者适用产品责任极富争议。自动驾驶汽车的产品缺陷应当采用何种标准进行认定？作为人工智能应用的典型代表，自动驾驶汽车的软件和算法缺陷能否适用产品责任？《产品质量法》的修改和民法典“侵权责任编”的制定应当如何回应人工智能对产品责任的影响？当前国内学界对自动驾驶汽车交通事故责任进行了较多研究，并对高度或完全自动驾驶汽车的产品责任问题进行了初步探讨；但对“人机混合”模式下部分自动驾驶汽车的产品责任未予以系统深入的研究。有鉴于此，本文以当前国内外发生的部分自动驾驶汽车致人死亡案件作为切入点，结合《产品质量法》修改和民法典“侵权责任编”的制定，系统分析自动驾驶汽车的产品缺陷及其产品责任的适用问题，为自动驾驶技术的发展提供确定的法律预期，保护消费者的合法权益，亦为立法如何回应人工智能的挑战提供系统的思考视角和经验借鉴。
▍自动驾驶汽车的技术特征与法律定性
在我国当前的法律规范框架下，并无对自动驾驶汽车产品缺陷责任的特殊规定；“民法典侵权责任编草案”基本沿袭了现行《侵权责任法》和《产品质量法》的相关规定，未就其做出更细致的规定。对于传统汽车，其当然属于《产品质量法》规定的“产品”之范畴；主管机关亦颁布了《缺陷汽车产品召回管理规定》等配套规范，旨在确保产品安全、维护消费者合法权益。然而，人工智能和大量软件、程序在自动驾驶汽车上的应用，使其获得了不同于传统汽车的特性，由此产生的问题是人工智能技术在汽车上的应用，是否会改变汽车的“产品”属性及其产品缺陷的认定，从而会影响到其责任的承担？为了避免“人工智能法学研究中的概念附会”问题，本文先对自动驾驶汽车的技术特征与法律性质进行分析，避免对人工智能技术不切实际的空想，以便为其缺陷认定和产品责任分析提供扎实的基础。
（一）自动驾驶汽车的安全性能与其设计本旨
与传统汽车不同的是，自动驾驶汽车主要是通过集成化的、系统性的驾驶取代传统的个性化色彩突出的驾驶习惯，通过大数据和系统化的驾驶行为避免驾驶员的各类错误，实现其防止碰撞和预防交通事故的首要目标。不同于传统汽车，自动驾驶汽车不再强调驾驶车辆的操控性和驾驶乐趣，而是更注重车辆能否将乘客安全地送达目的地这一实用性目标。寓于实用性目标的车辆安全性，理应成为自动驾驶汽车行业发展的根本要求，只有在确保车辆安全使用的前提下，才能谈及其合法性和商业推广，否则，其不仅不能实现其所被期待实现的目标，反而对人类生命健康安全形成巨大威胁。
首先，就其感知系统而言，其可以通过视觉感知(摄像头和视觉传感器)、激光感知(激光雷达)和微波感知(如毫米波雷达)等三种代表性技术完成对驾驶环境的识别和监测，识别道路状况(如坡度、障碍物、坑洞、拐弯或绕道等)、交通状况(路线标志、信号灯、限行限速、拥堵、事故等)、道路上的其他车辆和行人、天气条件等，从而代替驾驶人的感知。因为配备了先进的感知设备，其所能感知的距离更远、对环境的变化更敏感，也不会像人类一样感到疲倦、不会受到光线和雨雾等天气因素的影响，因此，自动驾驶车辆的感知系统相比人类具有优势。但是，从当前的技术发展角度来看，以上三类感知技术各有优点和缺点，如视觉感知容易受到光照和运动速度的影响，因此在强光和高速公路上行驶时，无法进行有效感知，并且其当前仅能用于识别特定目标(如人脸、文字、指纹等)，尚无法胜任复杂环境下的全要素识别任务，这也是为何佛罗里达州自动驾驶事故发生的主要原因；而激光传感器和微波感知毫米波雷达则无法感知无距离差异的平面内目标信息，无法有效应对复杂的城区驾驶环境，因此其无法识别静止物体或低速行驶(如低于30km/小时)的车辆、偏航的车辆、路坑等，而这恰恰是河北邯郸事故的主要原因。由此可见，当前自动驾驶的感知和识别技术，均无法有效的识别所有影响驾驶安全的要素，因此需要融合当前的几种感知技术，并且辅以车辆定位导航技术，以更好地确定车辆的位置、速度、航向等。即使如此，也不能保证对相关物体完全实现有效识别。相对而言，人眼识别更加有效，相关障碍(尤其是不能被机器有效识别的障碍)均可被人眼有效识别并避免事故的发生。一个不能有效识别驾驶障碍的自动驾驶汽车，根本无法做出安全有效的驾驶决策，这一问题将从根本上动摇自动驾驶系统的安全性基础。
其次，就其决策系统而言，因为计算机芯片更加先进，自动驾驶系统的决策系统数据处理能力相比人类明显更为强大，决策反应更为迅速，电脑算法可以综合各类因素，如车辆速度、其他车辆的位置和行为方式、障碍物的位置和轨道灯，通过迅速地评估、比较、选择并最终做出最佳的决策，因此可以有效避免人类的犹豫、惊慌、计算失误等因素导致的错误决策和事故。与此同时，在当前的技术条件下，人工智能也具有明显的缺陷：
（1）其基础算法无法像人类一样富有经验并可以完全理解其所感知到的各类数据；在某些感知挑战赛中，参赛队提供的算法对超市货架上的物品甚至不能达到80%的准确率，因此需要不断地完善电脑算法以便更加准确地侦测、识别和定位各类物体。
（2）人工智能的学习能力需要不断进行训练和培养，但对人工智能深度学习的能力培养很大程度上体现了开发者的知识积累程度和价值观，甚至带有其在现实世界中的歧视和偏见，具有很大的局限性。
如当前的自动驾驶系统对静止物体或低速行驶车辆的识别问题，因为环境中静止的物体很多，受限于识别能力和数据处理能力，车载雷达和电脑无法处理，因此当前的自动驾驶系统被设计为主要识别移动的物体、而无法识别静止或低速移动的物体，这也是为什么当前的自动驾驶系统均要求驾驶者始终保持对车辆的控制。这一问题在“河北邯郸案”中体现的很明显，其感知系统已经识别了这些情况，只是分析和决策系统决定忽略，不采取行动，最终导致事故发生。这一设计虽然大大减轻了机器的学习压力，但也表明了设计者对消费者安全的漠视。此即机器学习过程的不透明所导致的常人难以知晓的“算法黑箱”，但这一安全隐患通常不为普通消费者所知。人工智能的算法缺陷使得消费者对智能机器的控制力下降，因为普通消费者根本不了解其所深藏的算法缺陷，从而使得其行为具有更大程度的不可预测性。
从上述分析可知，自动驾驶系统的感知、识别和决策系统并非完美；受制于当前技术发展的不完备性和成本因素，当前的自动驾驶系统无法有效处理影响驾驶安全的各类因素，甚至某些因素因为经济和效率原因而被设计者所刻意忽略，再加上行业从业人员的刻意误导宣传，自动驾驶汽车的安全隐患被人为掩盖了，严重违背了产品的设计伦理和法律伦理。
（二）自动驾驶汽车与“产品”的界定
对于产品责任法意义上的“产品”，通常系经过加工、制作用于销售的各类有形动产，原则上不动产和无形动产不能作为《产品质量法》规范的产品。从比较法上看，部分国家有将部分不动产、电力以及软件作为产品对待的做法。自动驾驶汽车的一大特征是由软件或程序代替驾驶员做出驾驶决策，并且因为人工智能的发展使其可以基于其算法而具有自主学习和决策能力。随着软件在传统汽车上的应用愈发重要，与软件和电子器件有关的机动车缺陷导致汽车召回的数量日益增加；而自动驾驶汽车上融合了更多复杂技术，其所安装的软件的缺陷将直接影响到汽车功能的发挥和驾驶安全。随着从传统车辆向自动驾驶车辆的转变和车辆智能化程度的提升，事故更多源自产品软件或“算法”缺陷而非驾驶员的错误，因此生产者是否应当承担软件缺陷所导致的产品责任？
首先，对于软件程序等智力产品是否构成“产品”及其生产者是否承担产品责任，我国《产品质量法》《消费者权益保护法》等均未明确规定。从比较法上看，各国产品责任法中的“产品”原则上仅面向各类有形动产；而计算机软件虽然是自动驾驶汽车的重要构成部分，但其并非经过加工的有形产品，故而缺陷理论能否适用于(自动驾驶汽车的)软件或者算法错误存在争议。例如书籍可以被视为产品，但书籍中包含的信息则不能视为产品，因为作者所表达的观点是知识产权所保护的对象。典型的例子诸如包含错误信息的导航软件和地图，因为导航软件的错误指示，导致飞机坠毁；以及与波音737-MAX的“机动特性增强系统(MCAS)”，该软件本来是为了应对因更换发动机所可能导致的飞机失速问题，但因为传感器的错误导致软件错误启动，并最终致使飞机坠毁。在Aetna Cas.& Sur.Co.v.Jeppesen & Co.一案中，法院认为，导航图主要是根据其物理特征而非其所包含的信息内容进行使用，因为“‘降落坐标’是由联邦航空管理局以表格形式规定的，杰普森公司(Jeppesen)获得了联邦航空管理局的表格并将其信息描绘在图标上，此即杰普森公司的产品”，并且驾驶员对导航图的依赖直接导致了事故的发生。但亦有法院拒绝此种推理，其认为杰普森公司的图标不过是将政府降落程序中的文本的再出版，其将政府程序中的文本转化为图标形式，并且表明该图标包含了所有必要信息。得克萨斯州上诉法院在Way v.Boy Scouts of America一案中认为，在事故发生时，导航自身被直接用于飞机的操作，不精确的数据直接导致了飞机事故的发生，就像损坏的罗盘或不精确的高度仪导致飞机坠毁一样。因此，借鉴上述论证逻辑，鉴于自动驾驶软件核心角色，其直接导致了事故的发生，因此自动驾驶软件可以被视为产品进而适用严格责任。
将软件视为产品的第二个理由是，若软件在市场上进行大规模的批量销售，则该软件应当被视为“商业软件”，进而应当被视为产品，因为商业软件具有批量生产和规模化销售、生产者处于控制风险的较好地位和具有分摊产品事故费用的较强能力等特点；当其缺陷导致消费者受到损害时，应当适用严格的产品责任；这一观点也被《美国统一商法典》所采纳。商业软件区别于专门为满足特定消费者(尤其是企业)需求而开发的软件，后者应当被视为服务，因为该软件系根据客户要求而量身定做的，需满足特定的技术要求并须提供培训、维护等配套服务。通过商业软件与服务软件的区分，并将商业软件作为产品对待，可以有效地实现对消费者的保护。从消费者的角度而言，将软件视为产品并对其缺陷适用严格责任将鼓励生产者进行充分的检测以便在该软件投入市场之前阻止可能存在的缺陷，而不是寄希望于消费者在使用过程中发现其存在的漏洞并向其报告。随着软件缺陷所导致的人身损害日益增加，我国《产品质量法》必须考虑是否以及在何种程度上将产品责任适用于软件缺陷，从而实现保护消费者和鼓励技术进步的平衡。
将软件视为产品的第三个理由是，软件构成了特定产品的一部分或者说是“固有软件”，并直接塑造了该产品的核心性能和特征，如安装了自动驾驶软件的汽车。其最典型的特征是内置于该产品之中，成为产品具有特定性能的基础要素或前提。亦因此，消费者并不完全知晓内置于车辆的各类软件。实际上，软件对于车辆安全的重要性在传统车辆中也日益重要，某些品牌车辆内置的程序编码已经超过了飞机，与车辆集成电子部件和软件相关的车辆缺陷是近些年车辆召回的主要原因，如通用在2016年召回了360万辆汽车，原因是其行车电脑会导致气囊和安全带发生故障。作为生产者内置于车辆内的软件，包括产品销售之后下载或更新的软件，其均体现了生产者对产品功能和安全的控制，并对消费者的人身财产安全具有重大影响；相比于传统车辆，自动驾驶车辆涉及更多复杂的技术集成，更容易受到内置软件缺陷的影响；如果因为软件存在缺陷导致产品致人损害，则应当视为该产品自身缺陷所导致的损害、应由生产者或销售者承担严格责任；至于生产者与该软件的提供者或设计者之间因该软件缺陷引发的纠纷，应当由双方根据其既有合同约定进行解决，不应当影响到消费者向生产者主张产品责任。预置于车辆内的软件已经成为车辆的一部分，使其获得了自动驾驶这一功能，彻底改变了车辆的特性，因此，软件缺陷应当被视为产品缺陷，生产者和销售商应当承担相关产品缺陷责任。
综上，自动驾驶技术的发展阶段与其设计所要求的安全目标之间仍然存在较大距离。虽然自动驾驶系统主要体现为机器学习，但自动驾驶软件在车辆上的广泛安装和使用使其成为自动驾驶车辆的固定构成部分，是自动驾驶车辆区别于传统车辆的核心特征之所在，因此，自动驾驶软件所具有的缺陷应当被视为自动驾驶车辆自身的产品缺陷，并非生产者所提供的满足特定消费者需求的“服务”。
▍自动驾驶汽车缺陷的判断
自动驾驶技术的出现，使得驾驶错误的来源从驾驶员(可能存在疲劳驾驶、注意力不集中、性格毛躁冒进、处置紧急路况时的犹豫或随意等错误)转向了设计和制造自动驾驶汽车的生产者。如前所述，在当前的技术条件下，自动驾驶汽车的感知、识别和决策系统等均存在不同程度的技术不成熟情况，从而影响到了驾驶安全。结合前文所述自动驾驶汽车的技术特征，本文在此结合案件实际详细分析自动驾驶汽车的制造缺陷、设计缺陷和警示缺陷及其认定标准。
1. 制造缺陷
制造缺陷主要是指在制造和销售产品的过程中，产品偏离其预期设计的情况，即使生产者在制造和推广产品时已尽到所有可能的注意。对于制造缺陷而言，不管生产者的质量控制是否满足合理性标准，只要存在产品缺陷，其即应当承担严格责任。典型的制造缺陷如物理上有缺陷、产品被损害或未被正确安装。有学者武断地认为“制造缺陷不太可能适用于自动驾驶汽车”，但这种论断与实践存在严重不符。实际上，不管自动驾驶汽车的技术如何先进和复杂，其仍有出现制造缺陷的可能，只不过其制造缺陷的判断相对容易罢了，即：只要发现产品偏离其设计的情形，就可以对其生产者提起制造缺陷之诉，如车辆摄像头、传感器、雷达等感知系统功能障碍或者安装错误，从而导致无法发现周围的物体、行人或车辆进而发生碰撞，这将构成制造缺陷的直接证据。但是，当自动驾驶汽车发生事故、没有直接证据证明存在特定瑕疵时，如果原告能够举证证明其在正常使用期间发生故障，则可推定瑕疵的存在。
如前所述，因为激光雷达、毫米波雷达和摄像头等感知识别方式均存在其短板，故当前的自动驾驶车辆均同时集成安装了上述三类传感设备，从而扬长避短、共同探测各类影响驾驶安全的因素。但是从河北邯郸和佛罗里达发生的事故来看，驾驶人使用了自动驾驶系统掌控车辆后，其雷达和摄像头在其有效识别距离和安全刹车距离内均未识别出前方的风险障碍物(如车道内的垃圾清扫车、拐弯车辆等)，未能在逆光环境下对横穿马路的大货车做出有效识别，导致事故发生，设备的功能障碍表明其存在明显的制造缺陷。
2.设计缺陷
设计缺陷主要是指生产者或销售者对产品导致损害的可预见风险本可以通过采纳合理的替代设计而减少或避免，但因为疏忽没有采纳该替代设计而使产品具有不合理危险。设计缺陷意味着其整个生产线存在缺陷，因此根据该缺陷设计生产出来的同一类产品均具有此类内在的危险或缺陷。与制造缺陷仅仅关注产品自身性能相比，设计缺陷的判断需要综合多种因素对产品设计进行复杂的“消费者期望”或“风险—效用”分析，这些要素包括自动驾驶技术的社会效益和成本，替代设计的技术可得性及其成本等。只有在综合考虑这些因素的基础上，才能够对自动驾驶技术的风险和效用做出相对全面客观的评估，进而判断其是否具有缺陷。但是，对这些因素的考量更关注生产者的行为而非产品的自身性能。
首先，如前所述，从自动驾驶技术的设计初衷和其当前的实际技术发展阶段来看，二者之间存在巨大的鸿沟：其设计目标是通过所有车辆均互联互通实现数据共享，从而使车辆做出最佳的驾驶决策，减少交通事故和人身伤亡；因此，有学者认为自动驾驶汽车的有用性远远超过其所带来的风险和成本，自动驾驶汽车的事故发生率远远低于人工驾驶汽车，目前很难找到自动驾驶技术的替代品，因此，原告很难以设计缺陷为由起诉生产者；但从其技术发展现状来看，不仅自动驾驶车辆因为物联网发展的滞后未能实现车辆之间的数据共享，而且因为自动驾驶车辆和人工驾驶车辆的并存，致使驾驶环境更加复杂，反而增加了自动驾驶的风险，这也是为何当前的事故多发生在自动驾驶车辆和人工驾驶车辆之间的原因。因此，对自动驾驶汽车风险、收益的比较，不能漫无边际地着眼于毫无实证研究支撑的、片面的宏观分析和价值选择，而是应当尊重当前的技术发展状况。
其次，因为技术的不完备性，当前自动驾驶汽车均要求驾驶员始终保持对车辆的控制。由此，有美国学者认为，对于配备2级或3级驾驶辅助系统的车辆所导致的事故，原告不能主张车辆具有设计瑕疵，因为知情的驾驶员具有车辆类型的选择权，消费者选择具有不合理危险的部分自动驾驶车辆，排除了其主张设计缺陷的基础，法院可以驳回此类诉讼主张。
但本文认为，这种强行将责任推给消费者的行为是经不起推敲的。原因是：
（1）从产品设计角度来看，尽管当前的自动驾驶车辆均要求驾驶员将手放在方向盘上，否则自动驾驶系统会提供可视化警告并将车辆逐渐减速，直到车辆检测到手重新放在方向盘上。但从涉案车辆的情况来看，生产者并未对驾驶人可能放弃对车辆的控制的情形进行充分的预估并作出相应的安全预案，如对长时间不控制方向盘的行为没有提供警示，也没有如其使用说明所说的进行减速或停靠操作。而这种“替代设计”并非现行技术不能解决，因此，涉案车辆存在明显的设计缺陷。
（2）就自动驾驶汽车的产品设计而言，不仅包括其外观、功能、整体结构、材料、加工工艺、安全防护设计等，还包括做出驾驶决策的自动驾驶系统所配置的算法和程序。但是，当前的自动驾驶软件系统的设计存在严重的设计安全漏洞或“算法黑箱”问题，即自动驾驶软件的设计者刻意忽略了某些对人身财产安全具有重要影响的要素，故而其算法运行过程中也不再考虑这些安全隐患。当前的自动驾驶汽车之所以不能识别静止物体或低速行驶的车辆，是出于驾驶效率的考虑，即如果将所有的静止物体均视为障碍物而进行刹车或降速的话，则车辆将无法有效行驶，为此其软件程序设计者选择了忽略静止物体和低速行驶物体。这种“弱人工智能”自身的函数设定决定了其内在的设计缺陷，无法有效识别驾驶环境中的风险，这也是为何当前的自动驾驶车辆均要求驾驶员保持对车辆进行控制的原因。
利用“风险—效用”标准认定自动驾驶系统的设计缺陷，不仅要认识到其对人类社会所带来的收益，更应当清醒地认识到其技术局限性以及对人类生命财产安全的巨大威胁。从上述分析来看，其社会效益的评估失于抽象宏观而忽略了微观层面上该技术自身的不成熟性和潜在风险。来自于自动驾驶软件的设计缺陷或“算法黑箱”，使自动驾驶汽车本质上具有不安全性，相比于某些人类驾驶错误的可修正性，自动驾驶软件的设计错误或算法黑箱所造成的损失具有不可避免性。对于其软件设计中的明显漏洞，应当直接认定为设计缺陷；而对于具有深度自主学习能力的人工智能，其算法和决策行为必须能够可解释，否则应当认定其具有设计缺陷。
3.警示缺陷
与设计缺陷紧密相关的是警示缺陷，主要是指产品所导致的可预见的损害风险本可以通过由生产者或销售者提供合理的指导教育(instruction)或警示(warning)而减少或避免，但因为说明或警示不充分致使产品产生不合理的危险。教育或者警示主要指向生产者的行为，而非产品本身，因此对警示缺陷的认定应当根据一般人的理性标准，判断警示是否足够具体和明确，从而使产品的普通消费者知晓相关危险。因此，生产者在提供教育或警示方面的过失对于判断警示缺陷具有决定意义。但是，生产者的警示义务仅限于“预见其正常使用的可能结果或者其能够合理预测的用途”，其没有义务对粗心的消费者就产品明显的内在危险进行教育，也没有义务就销售时无法预见到的危险进行警示。
作为一种新产品，即使其被正确设计，自动驾驶汽车的驾驶性能对某些消费者而言仍是模糊的。比如，“自动驾驶”(Autopilot)这种表述对不同的消费者具有不同的含义，消费者是否能够了解自动驾驶技术的不同分级以及(部分)自动驾驶技术的局限？其是否了解相关操作行为的严重后果？尤其是对于刚刚进入中国市场的自动驾驶车辆而言。从一种驾驶模式向另一种驾驶模式的转变产生了在传统车辆中不存在的安全问题。在自动驾驶和人工驾驶并存的现状下，因为生产者对“自动驾驶”的过度宣传、驾驶人的麻痹大意以及其对自动驾驶的逐步信任而未能实现对车辆的随时接管；车辆持续处于自动驾驶状态将会使驾驶员放松注意力并过度依赖自动驾驶系统，其注意程度甚至不如其驾驶纯粹的人工驾驶车辆时，驾驶环境变得更加复杂，影响驾驶安全的因素因此大量增加而非减少，进一步加剧了自动驾驶的安全风险。因此，自动驾驶技术不仅不能减少交通事故的发生，甚至成为道路风险的新来源。
对于自动驾驶汽车而言，其警示的重点应当放在自动驾驶系统软件或算法上，生产者必须对人工智能做出驾驶决策的原理和方式、其潜在的驾驶风险做出明显地警示并提供相应的指引。对当前的自动驾驶车辆而言，其通常要求“驾驶员始终将手放在启动的机动车上，保持对车辆的控制，随时准备接管车辆”，那么，对于没有将手放在方向盘上对车辆进行控制并因此在事故中伤亡的驾驶员，是否可以向生产者主张警示缺陷责任？还是将全部责任归于没有及时刹车的驾驶员从而使生产者免责？一个有趣的事实是，在出现一系列伤亡事故后，涉案的汽车生产者均将“自动驾驶”改为了“自动驾驶辅助”，虽然其英文表述仍使用“Autopilot”。这从某种程度上印证了其可能存在夸大宣传的嫌疑。对产品进行虚假陈述或夸大宣传的生产者将会催生应予保护的消费者合理期待。因此，对产品安全进行虚假或夸大宣传的生产者应当承担产品(警示)缺陷造成的损害。但是，生产者并未对自动驾驶系统软件的“算法黑箱”进行警示和说明，从而使消费者对人工智能产生了盲目的自信。这恰恰构成了驾驶员放弃控制车辆的主要原因。
设计缺陷和警示缺陷在某些情况下可以相互转化。《美国侵权法重述》(第三版)规定，“说明和警告可能会无效，因为产品使用者可能无法充分获得、不注意，或者可能没有充分的动力去遵循说明或留心警告。”因此，“当可以采取更安全的设计从而避免相关风险时，生产者被要求采取更安全的设计而非采取单纯的警告，以避免此类重大风险。”不采取合理的安全容错设计的生产者，应当承担因此产生的人身损害的侵权责任。因此，生产者不能仅仅警告驾驶员保持“警醒”并承担因驾驶辅助系统导致的驾驶责任，其必须采用针对驾驶辅助系统的容错设计，从而减少驾驶员的错误。尽管自动驾驶汽车的生产者均对驾驶人监控驾驶系统的义务进行了提示，但是此种义务并不能直接等同于法律上的义务。因此，在自动驾驶模式下，若系统未向用户发出警示和接管请求而发生事故，便可排除用户过失，直接推定产品存在缺陷而成立产品责任。
▍更负责任的保护消费者安全
当前，自动驾驶的技术原理和最新进展尚未被大众普遍理解、其安全水平并未经过有效地检验，与之形成鲜明对比的是生产者、销售商、新闻媒体、监管者以及部分研究人员对自动驾驶技术的安全、经济收益和行业发展前景进行了不切实际地宣传和夸大。因此，有必要对其施加严格责任以促使所有利益相关方采取更负责任的行为保护消费者安全。
从驾驶安全角度来讲，自动驾驶技术的采用使得驾驶环境更加复杂、驾驶安全面临更多挑战。人工驾驶汽车之所以事故频发，是因为驾驶员驾驶习惯、个人身体和精神状况、道路状况、天气情况以及诸多偶然因素所导致的驾驶环境的复杂性所造成的。在自动驾驶汽车诞生后，驾驶环境的复杂性并未改观，甚至因为人类驾驶决策与自动驾驶汽车识别能力和算法之间的并存而加剧了驾驶环境的复杂性，因此增加了事故概率和驾驶员伤亡的概率。与无人驾驶技术在飞机、轮船和轨道交通中的应用不同，其在普通机动车领域的应用所面临的技术难度和风险要远远高于前者。与此同时，相比于初级自动驾驶和完全自动驾驶车辆，部分自动驾驶车辆的技术风险要更高，一方面其要求驾驶员时刻保持对车辆的控制，但同时自动驾驶会极大地懈怠驾驶员的精神注意力，使其盲目信任智能软件而在驾驶过程中可能分心做其他事情，从这个角度讲，部分自动驾驶汽车的这种技术要求是违背普通人的驾驶习惯和人性的，极易引发事故。驾驶员对车辆的不完全控制和自动驾驶技术的缺陷叠加在一起，使得事故发生的原因和可归责性更加复杂，但也从另一个侧面表明了对生产者施加严格责任的必要性，以促使其改善设计理念、加快技术更新。受制于数据、确定性、不完全信息、可预测性和适用范围等问题，当前技术条件下的人工智能显然无法实现在日常驾驶环境下的完全自动驾驶，而这与当前某些厂商的宣传是截然相反的。
从当前社会对自动驾驶技术的态度来看，政府、企业和研究者纷纷看好其发展前景。但是，对于自动驾驶汽车的发展前景，普通民众要比监管者谨慎得多。美国自动驾驶协会2016年3月做的一项调查表明，3/4的美国驾驶员在驾驶自动驾驶汽车时感到害怕，只有1/5的受访者信任自动驾驶汽车；而英国的一项调查也表明大多数英国公民在自动驾驶汽车里面感到不舒服，超过3/4的驾驶员仍想控制方向盘。因此，关于自动驾驶汽车的讨论在很大程度上被误导了，关键的问题并不是计算机或人工智能是否完美，而是其是否比人更安全？尤其是当自动驾驶系统存在某些设计缺陷时，人类有没有机会方便地修正此类错误，还是必须以牺牲驾驶员和路人的生命为代价促进生产者进行技术改进？法律制度的设计不能受行业利益的绑架和蛊惑，产品责任制度设计的出发点和最终目标是通过对生产者施加严格责任而促使其提高产品质量、保证消费者人身财产安全，就此而言，宏观层面上行业发展的问题不是产品责任制度的首要考虑目标。因此，那种通过分析传统人工驾驶状态下事故发生率、伤亡人数以及导致的经济损失数额，并与当前自动驾驶汽车所导致的事故数量和损失数额进行比较，并认为自动驾驶汽车总体上比人工驾驶汽车更加安全的观点是毫无价值的。因为严格产品责任关注的是生产者是否为改进产品设计和安全水平尽到了最大努力，从而使消费者的生命安全在交通事故中得到最大程度的保护，两个问题不能混为一谈。
▍ 结论
作为自动驾驶汽车的重要组成部分，其预置的软件(包括算法)应当被视为“产品”，因此，生产者应当就因软件或算法缺陷而导致的损害承担严格责任。当前的人工智能算法的工作原理(概率统计和大数定理)表明，机器学习从本质上完全不同于人类的理性学习，其并不能发现驾驶的本质并据此做出安全的驾驶决策，因此，人工智能技术无法在本质上确保驾驶安全。自动驾驶汽车不因人工智能技术的使用而改变其产品性质，人工智能及深度学习算法的应用，并未使自动驾驶汽车获得所谓的人工智能人格，在当前讨论高度自动驾驶汽车的产品责任甚至自动驾驶汽车的主体性问题纯粹是学者的臆想或者“AI浪漫主义”。当前产业界、学界和监管者对于自动驾驶技术的发展愿景显得过于乐观，忽视了其固有风险，放任未经过安全检验和具有根本安全缺陷的产品在市场上流通，体现了生产者对消费者生命财产安全的漠视。自动驾驶技术的发展必须遵守严格的机器伦理，最大程度体现对消费者生命安全和健康的尊重，如消费者有权获得算法解释、有权退出算法决策。法律制度必须为发展可信赖的人工智能提供激励，使其既符合伦理、也符合法律之规定。因此，自动驾驶汽车的产品缺陷必须含括其算法或软件缺陷，进而适用严格的产品责任，以鼓励生产者关注驾驶安全。
本文节选自《清华法学》2020年第2期，原标题为《自动驾驶汽车的缺陷及其产品责任》，篇幅所限，文章有所删节 。欢迎个人分享，媒体转载请联系版权方。
