自動(dòng)駕駛汽車的倫理、法律與社會(huì)問題研究述評(píng)

　　隨著人工智能廣泛應(yīng)用于各個(gè)領(lǐng)域，自動(dòng)駕駛技術(shù)得到了長(zhǎng)足發(fā)展，自動(dòng)駕駛汽車的商用化也漸成趨勢(shì)，自動(dòng)駕駛的倫理、法律與社會(huì)問題的研究也開始出現(xiàn)。相關(guān)研究關(guān)注的核心問題包括：AI系統(tǒng)“道德算法”預(yù)設(shè)問題;制造商、乘客、行人、監(jiān)管部門、汽車自身的責(zé)任分擔(dān)問題;現(xiàn)行監(jiān)管政策的挑戰(zhàn)應(yīng)對(duì)問題。本文在梳理核心問題的基礎(chǔ)上，主要考察了自動(dòng)駕駛汽車的倫理規(guī)范、法律責(zé)任和監(jiān)管政策三個(gè)方面的研究狀況。

　　《輕型汽車技術(shù)》(月刊)創(chuàng)刊于1973年，由南京汽車集團(tuán)有限公司、江蘇省汽車工程學(xué)會(huì)、南京汽車行業(yè)協(xié)會(huì)主辦。雜志是目前國(guó)內(nèi)唯一的輕型汽車技術(shù)領(lǐng)域的，以從事輕型汽車設(shè)計(jì)制造的工程技術(shù)人員為主要服務(wù)對(duì)象的技術(shù)性刊物，同時(shí)兼顧其它車種及汽車相關(guān)行業(yè)的工程技術(shù)人員。內(nèi)容包括：國(guó)內(nèi)外輕型汽車系列，產(chǎn)品設(shè)計(jì)理論，試驗(yàn)測(cè)試技術(shù)，新工藝、新材料、新技術(shù)，輕型汽車發(fā)展萬向的戰(zhàn)略宏觀分析研究，企業(yè)技術(shù)改造、經(jīng)營(yíng)管理的實(shí)踐與經(jīng)驗(yàn)，市場(chǎng)分析與評(píng)論、技術(shù)經(jīng)濟(jì)信息，汽車使用與維修，國(guó)內(nèi)外汽車動(dòng)態(tài)，汽車文化等等。

　　一、引言

　　2014年12月，嚴(yán)格意義上的自動(dòng)駕駛汽車由美國(guó)谷歌公司研發(fā)成功。汽車通過軟件和傳感器實(shí)現(xiàn)全自動(dòng)駕駛。2015年12月百度公司也完成了其自動(dòng)駕駛汽車的首次路測(cè)。2016年之后，Uber、通用、特斯拉、英特爾及蘋果等企業(yè)先后開始加入自動(dòng)駕駛汽車研發(fā)競(jìng)賽。截止2017年6 月，美國(guó)加州車輛管理局已經(jīng)向36家企業(yè)發(fā)放了自動(dòng)駕駛汽車的路測(cè)牌照。在2017年“兩會(huì)”上，李彥宏發(fā)言指出，世界范圍內(nèi)的主流汽車廠商都已接受一個(gè)基本觀點(diǎn)，即在2021年到2022年之間自動(dòng)駕駛汽車會(huì)實(shí)現(xiàn)商用。

　　近年來，納米技術(shù)、基因編輯技術(shù)等各種新技術(shù)的發(fā)展不斷地對(duì)既有的倫理、法律和社會(huì)規(guī)范提出挑戰(zhàn)。科技在增強(qiáng)人類能力的同時(shí)，也顛覆和改變著社會(huì)傳統(tǒng)的價(jià)值觀念與思維方式。進(jìn)入21世紀(jì)，有關(guān)科技發(fā)展的 ELSI(Ethical,Legal,andSocialImplications)研究開始涌現(xiàn)。自動(dòng)駕駛汽車融合了環(huán)境感知、電子計(jì)算機(jī)、自動(dòng)控制及人工智能等諸多技術(shù)領(lǐng)域，幾乎包含了下一代信息技術(shù)的全部?jī)?nèi)容。隨著自動(dòng)駕駛汽車商用化可能性的浮現(xiàn)，有關(guān)自動(dòng)駕駛的ELSI研究也逐步展開。

　　自 動(dòng)駕駛汽車，尤其是完全無人駕駛汽車的研發(fā)和路測(cè)是最近三年興起的，其應(yīng)用前景、安全性、可接受性和對(duì)現(xiàn)實(shí)交通狀況的影響等方面已有大量新聞報(bào)道，但相關(guān)的ELSI學(xué)術(shù)研究還非常有限。本文通過GoogleScholar、ScienceDirect、Wiley、Jstor、ProQuest、SpringerLink、Taylor&Francis等學(xué)術(shù)檢索系統(tǒng)的主題檢索，并通過挖掘已獲得文獻(xiàn)間的相互引證，發(fā)現(xiàn)：已發(fā)表的學(xué)術(shù)研究成果主要集中在2015年至2017年間，并且主要分布于自動(dòng)駕駛汽車的倫理規(guī)范、法律責(zé)任及政府監(jiān)管三個(gè)方面：

　　第一，自動(dòng)駕駛汽車之所以成為未來交通的優(yōu)先選擇，核心原因在于其顯示出了相比人類駕駛更高的安全性，能夠有效減少交通事故的發(fā)生率和死亡率。然而，如果一輛自動(dòng)駕駛汽車正面臨不可規(guī)避的交通事故，AI系統(tǒng)會(huì)選擇撞向誰?自動(dòng)駕駛汽車不僅把一個(gè)百年歷史的產(chǎn)業(yè)推上了創(chuàng)新的前沿，還迫使人類面對(duì)至關(guān)重要的問題：我們?cè)敢獍讯啻蟮目刂茩?quán)交給機(jī)器?

　　第二，關(guān)于自動(dòng)駕駛汽車的爭(zhēng)議，除了道德規(guī)范之外，法律是其面臨的最大阻力。自動(dòng)駕駛汽車一旦發(fā)生交通事故，勢(shì)必挑戰(zhàn)現(xiàn)行的法律法規(guī)，其中包含了設(shè)計(jì)、制造、用戶多重法律關(guān)系。傳統(tǒng)上，在發(fā)生交通事故后可以按照司機(jī)的操作問題明確相關(guān)法律責(zé)任，但無人駕駛汽車是人工智能在開車，在交通事故中誰來承擔(dān)法律責(zé)任，是車主還是車企，抑或是汽車自身?

　　第三，在道德與法律問題之外，自動(dòng)駕駛汽車的最終上路將對(duì)現(xiàn)有的城市基礎(chǔ)設(shè)施、交通管理方式、環(huán)境排放、汽車業(yè)、物流業(yè)及保險(xiǎn)業(yè)等諸多方面產(chǎn)生重大影響，那么政府在有效監(jiān)管和政策調(diào)控方面將發(fā)揮怎樣的核心作用?

　　由此，本文將聚焦于自動(dòng)駕駛汽車的倫理規(guī)范、法律責(zé)任與監(jiān)管政策三個(gè)方面，總結(jié)當(dāng)前剛剛起步的ELSI學(xué)術(shù)研究成果，闡明當(dāng)前研究的主要理論目標(biāo)和方法，分析自動(dòng)駕駛汽車相關(guān)社會(huì)障礙的未來可能解決路徑，進(jìn)而討論未來對(duì)自動(dòng)駕駛汽車的倫理規(guī)則、立法及政策安排中應(yīng)注重的基本面。需要特別說明的是，大量的新聞報(bào)告和有限的研究文獻(xiàn)對(duì)自動(dòng)駕駛汽車的名稱界定存在差異，所使用的詞匯包括了“autonomous”“self-driving”“driverless”以及“robotic”等形容詞，而對(duì)汽車的描述則主要是“car”與“vehicle”。出于學(xué)術(shù)研究的準(zhǔn)確性的考慮，也有部分作者在文章中提出由于現(xiàn)有用詞的多樣而同等使用以上詞語(yǔ)。在中文報(bào)道中，主要使用的是“無人駕駛汽車”與“自動(dòng)駕駛汽車”兩種稱謂。鑒于全球首個(gè)自動(dòng)駕駛汽車官方政策文件—《聯(lián)邦自動(dòng)駕駛汽車政策》(FederalAutomatedVehiclesPolicy)已于2016年9月20日在美國(guó)出臺(tái)，本文將使用“自動(dòng)駕駛汽車”(automatedvehicles)的概念。

　　二、倫理規(guī)范問題

　　當(dāng)前有關(guān)自動(dòng)駕駛汽車倫理困境的討論主要與道德哲學(xué)中著名的“電車難題”相關(guān)。“電車難題”是由哲學(xué)家PhilippaFoot于1967年提出的著名思想實(shí)驗(yàn)，用以批判功利主義，其基本設(shè)定是：你可以通過變軌使一輛失控的電車撞向一個(gè)人或者不變軌使電車撞向5個(gè)人。在后來的幾十年時(shí)間里，道德哲學(xué)家發(fā)展出了大量變體。而如果一輛自動(dòng)駕駛汽車也面臨類似不可規(guī)避的交通事故，AI系統(tǒng)會(huì)選擇撞向誰?應(yīng)該犧牲車內(nèi)乘客還是路上行人?2015年MitchellWaldrop在《自然》發(fā)表的報(bào)告顯示：如果事故不可避免，多數(shù)人不愿將選擇權(quán)交由機(jī)器。

　　PatrickLin教授是美國(guó)加州州立理工大學(xué)倫理與新興科學(xué)組主任，他同時(shí)受雇于谷歌公司X實(shí)驗(yàn)室自動(dòng)駕駛項(xiàng)目，為自動(dòng)駕駛汽車未來可能產(chǎn)生的倫理問題提供決策咨詢。2016年P(guān)atrickLin就自動(dòng)駕駛汽車的特點(diǎn)，參照電車難題的各種變體，設(shè)計(jì)了相應(yīng)的具體情境以討論自動(dòng)駕駛汽車在可能的事故中面臨的道德困難，比如說面對(duì)在美國(guó)高速公路經(jīng)常出現(xiàn)的野鹿，面對(duì)有不同防護(hù)措施的行人或摩托車、甚至面對(duì)眾多穿過馬路的小孩，自動(dòng)駕駛汽車應(yīng)當(dāng)如何抉擇。此外，他還討論了未來可能的交通事故之外的更廣泛的倫理問題，比如：如果一輛公共的自動(dòng)駕駛汽車，其是否涉及類似的道德困境?自動(dòng)駕駛汽車的發(fā)展是否會(huì)進(jìn)一步縱容酒駕等不道德甚至違法行為?自動(dòng)駕駛汽車的計(jì)算系統(tǒng)一旦被黑客攻page13擊，其駕駛行為所產(chǎn)生的任何偏差應(yīng)由誰承擔(dān)責(zé)任?[2]

　　SvenNyholm與JillesSmids對(duì)此提出了反對(duì)意見，他們認(rèn)為自動(dòng)駕駛汽車所面臨的道德困境并不同于“電車難題”。前者是一種切實(shí)可能發(fā)生的場(chǎng)景，我們必須對(duì)未來的汽車算法提供抉擇依據(jù)。由此，他們?cè)敿?xì)對(duì)比了自動(dòng)駕駛汽車的“事故算法”與電車難題的差別：前者涉及到制造商、車主、監(jiān)管部門等多個(gè)利益主體共同決定如何設(shè)計(jì)“事故算法”，而后者只涉及個(gè)體的道德抉擇，并且前者的道德決策將直接擔(dān)負(fù)事故的道德責(zé)任和法律責(zé)任;前者是一種對(duì)未來可能事件的預(yù)先設(shè)計(jì)或者說應(yīng)急計(jì)劃，而后者是一種當(dāng)下選擇;在認(rèn)知情境方面，前者是在高度不確定性下的風(fēng)險(xiǎn)評(píng)估和決策，后者面對(duì)的是確定的并且已知的事實(shí);而在道德原則方面，后者只涉及是撞向多數(shù)還是少數(shù)(或強(qiáng)者還是弱者)，而前者則涉及到要犧牲車主還是行人，這就不再只是義務(wù)論與功利主義的沖突，還包含了人的自我保護(hù)以及自動(dòng)駕駛汽車對(duì)車主的責(zé)任問題。[3]SvenNyholm與JillesSmids通過反思大量新聞報(bào)告和部分研究中將自動(dòng)駕駛汽車的道德困難與“電車難題”類比的事實(shí)，刻畫出了自動(dòng)駕駛汽車在未來的可能事故中涉及的道德決策的復(fù)雜性、道德和法律責(zé)任的模糊、以及道德原則的相互沖突問題。

　　三、法律責(zé)任問題

　　如果自動(dòng)駕駛汽車在公共道路上致人傷亡、致財(cái)產(chǎn)毀損，法律責(zé)任應(yīng)如何分擔(dān)?2016年5月，一輛特斯拉電動(dòng)車在美國(guó)佛羅里達(dá)州以自動(dòng)駕駛模式行駛時(shí)與一輛橫穿公路的貨車相撞，導(dǎo)致電動(dòng)車主喪生。這是世界范圍內(nèi)曝光的首例自動(dòng)駕駛功能的交通死亡事故。經(jīng)過長(zhǎng)期調(diào)查，2017年1月美國(guó)公路交通安全管理局(NHTSA)公布了調(diào)查報(bào)告，結(jié)果顯示事故原因與特斯拉的自動(dòng)駕駛系統(tǒng)無關(guān)，這也意味著特斯拉公司無需承擔(dān)相應(yīng)法律責(zé)任。這起事件已經(jīng)顯示出了自動(dòng)駕駛汽車所引發(fā)交通事故的法律責(zé)任界定的困難。完全自動(dòng)駕駛汽車實(shí)現(xiàn)商用后，一旦發(fā)生交通事故，勢(shì)必挑戰(zhàn)現(xiàn)行的法律法規(guī)，其中包含了設(shè)計(jì)、制造、用戶的多重法律關(guān)系。

　　德國(guó)學(xué)者AlexanderHevelke等指出，即使自動(dòng)駕駛汽車只能減少部分道路交通的傷亡，政府也有義務(wù)推動(dòng)其發(fā)展，然而一旦完全無人駕駛汽車上路，就必須明確誰對(duì)可能產(chǎn)生的交通事故負(fù)有責(zé)任。文章分別討論了制造商和車主應(yīng)該擔(dān)負(fù)的事故責(zé)任：對(duì)于汽車制造商而言，自動(dòng)駕駛汽車能夠有效拯救生命就足以減少他們對(duì)車輛的事故風(fēng)險(xiǎn)所承擔(dān)的責(zé)任，當(dāng)然其前提是制造商不能知道“明確”的安全隱患存在而將自動(dòng)駕駛汽車推向市場(chǎng);對(duì)于車主而言，如果車主沒有能力及時(shí)接管自動(dòng)駕駛汽車，page14那么其造成的事故車主應(yīng)不承擔(dān)全部責(zé)任。[6]這篇文章雖然給出了事故責(zé)任的明確觀點(diǎn)及其道德理由，但似乎并無助于自動(dòng)駕駛汽車事故風(fēng)險(xiǎn)的責(zé)任分配，政府監(jiān)管部門、制造商、車主、駕駛?cè)思靶腥说戎黧w究竟應(yīng)分別承擔(dān)怎樣的責(zé)任仍有待進(jìn)一步討論。

　　四、監(jiān)管政策問題

　　自動(dòng)駕駛汽車的上路，將挑戰(zhàn)現(xiàn)行交通管理體制，包括了駕駛證制度、汽車保險(xiǎn)體制、處罰制度等。為此，2016年3月聯(lián)合國(guó)重新修訂了《維也納道路交通公約》，允許自動(dòng)駕駛技術(shù)運(yùn)用于交通運(yùn)輸中，為自動(dòng)駕駛的商業(yè)化應(yīng)用清除了障礙。2016年9月20日美國(guó)交通運(yùn)輸部(DOT)公布了全球首個(gè)自動(dòng)駕駛汽車政策文件《聯(lián)邦自動(dòng)駕駛汽車政策》(FederalAutomatedVehiclesPolicy)，用以全面規(guī)制自動(dòng)駕駛汽車的應(yīng)用。然而，由于自動(dòng)駕駛汽車對(duì)現(xiàn)行體制挑戰(zhàn)的復(fù)雜性，包括我國(guó)在內(nèi)的大多數(shù)國(guó)家尚未提出相關(guān)監(jiān)管政策。

　　在政府監(jiān)管方面，部分研究者已經(jīng)分析了自動(dòng)駕駛汽車對(duì)現(xiàn)行監(jiān)管體制的挑戰(zhàn)：MilosMladenovic等提出自動(dòng)駕駛汽車的大規(guī)模應(yīng)用將徹底改變交通控制技術(shù)，而技術(shù)的變革將帶來安全性、可持續(xù)性、隱私保護(hù)和效率等方面的重大改變，文章分別解釋了自動(dòng)駕駛汽車在這幾個(gè)方面對(duì)傳統(tǒng)交通控制技術(shù)的挑戰(zhàn)，并進(jìn)一步描述了未來處理這些問題的可能視角：一方面要在車輛間維持一個(gè)合作的分層級(jí)自組織性，另一方面是根據(jù)page15自動(dòng)駕駛汽車使用者的信用層級(jí)提供一個(gè)可供優(yōu)先選擇的網(wǎng)絡(luò)系統(tǒng)。[16]SaeedBagloee等認(rèn)為自動(dòng)駕駛汽車與現(xiàn)有交通體系的融合關(guān)鍵在于與道路基礎(chǔ)設(shè)施的連接以及與非自動(dòng)汽車的融合問題。文章提出其連接的關(guān)鍵在于汽車導(dǎo)航系統(tǒng)和大數(shù)據(jù)技術(shù)的運(yùn)用，從自動(dòng)駕駛汽車與基礎(chǔ)設(shè)施相結(jié)合的角度出發(fā)，考察了道路容量、交通擁堵、自動(dòng)化程度等維度，提出了一個(gè)自動(dòng)駕駛汽車的導(dǎo)航模型(anavigationmodelfortheAV)，希望幫page15助交通管理部門制定新的交通管理政策。[17]AlanEastman提出自動(dòng)駕駛汽車新技術(shù)的涌現(xiàn)，將首先對(duì)其中的“駕駛?cè)?rdquo;提出挑戰(zhàn)，有調(diào)查已經(jīng)顯示現(xiàn)在的汽車用戶幾乎完全不了解運(yùn)用在新一代汽車中的人工智能系統(tǒng)，盡管其具有良好的安全行駛記錄，但是乘客及行人對(duì)于安全的需求卻遠(yuǎn)遠(yuǎn)超過設(shè)計(jì)者的預(yù)想，即使技術(shù)已經(jīng)較為成熟，但要人類信任自行轉(zhuǎn)動(dòng)的方向盤是極為艱難的，因此文章提出政府部門應(yīng)首先推出新的駕page15駛?cè)伺嘤?xùn)乃至新的駕駛執(zhí)照制度。[18]PeterWagner則針對(duì)自動(dòng)駕駛汽車對(duì)交通效率的改變進(jìn)行了一項(xiàng)細(xì)致的研究，聚焦于自動(dòng)駕駛汽車完全上路后對(duì)現(xiàn)行交通信號(hào)燈系統(tǒng)的影響，設(shè)置了一系列假想場(chǎng)景，提出如果設(shè)計(jì)出完全符合自動(dòng)駕駛汽車特性的交通信號(hào)燈體系將極大的提高道路page15通行效率，當(dāng)然這還涉及到開辟自動(dòng)駕駛汽車的專用道路。

　　五、結(jié)論

　　以上對(duì)自動(dòng)駕駛汽車ELSI研究評(píng)述顯示：

　　關(guān)于倫理規(guī)范問題，當(dāng)前研究主要聚焦于自動(dòng)駕駛汽車可能引發(fā)的交通事故中的道德決策，其中涉及到了道德決策過程本身的多主體參與、場(chǎng)景復(fù)雜性以及預(yù)先“設(shè)定死亡”等問題，而道德決策背后則關(guān)系到如何設(shè)定道德算法的問題。實(shí)際上，我們不能確定機(jī)器通過“深度學(xué)習(xí)”而培養(yǎng)的道德決策能力是否優(yōu)于人類為其預(yù)設(shè)道德算法，就其本質(zhì)而言，鑒于交通事故場(chǎng)景的無限性，預(yù)設(shè)道德算法和機(jī)器自主道德決策都要求自動(dòng)駕駛汽車根據(jù)具體環(huán)境信息進(jìn)行決策，差別僅是自主性的強(qiáng)弱，當(dāng)然更重要的差別在于一條確定的預(yù)設(shè)的道德原則將便于事后追責(zé)，這就涉及到了自動(dòng)駕駛汽車相關(guān)事故的立法問題。

　　關(guān)于法律責(zé)任問題，隨著完全自動(dòng)駕駛汽車的商業(yè)化，在現(xiàn)有的法律規(guī)范下，這一新興交通方式將對(duì)駕駛制度、個(gè)人隱私權(quán)以及交通事故的法律責(zé)任承擔(dān)等方面提出挑戰(zhàn)。現(xiàn)有的少數(shù)學(xué)術(shù)研究集中關(guān)注于可能交通事故的法律責(zé)任分配問題：一旦自動(dòng)駕駛汽車發(fā)生交通事故，與其相關(guān)的汽車制造商、乘客、行人、監(jiān)管部門乃至汽車自身，誰應(yīng)當(dāng)承擔(dān)責(zé)任以及分別應(yīng)當(dāng)承擔(dān)怎樣的責(zé)任。然而，現(xiàn)有相關(guān)的理論或?qū)嵶C研究所得的責(zé)任分配結(jié)論仍然莫衷一是，并且現(xiàn)實(shí)生活中僅有特斯拉所引發(fā)的死亡事故這一個(gè)判定案例，各國(guó)相關(guān)立法過程也還在醞釀階段。因此，對(duì)于自動(dòng)駕駛汽車的道德和法律責(zé)任，制定明確的倫理規(guī)則和法律還遠(yuǎn)不夠，解決問題的第一步或許是發(fā)起一場(chǎng)對(duì)自動(dòng)駕駛汽車事故責(zé)任問題的公開討論，讓參與各方認(rèn)清問題所在。