智能化戰(zhàn)爭(zhēng)的倫理與法律探討

　　摘要：智能化戰(zhàn)爭(zhēng)是目前世界上各國(guó)謀求發(fā)展的新戰(zhàn)爭(zhēng)方式，各國(guó)希望以機(jī)器人代替人類進(jìn)行戰(zhàn)斗或用智能化系統(tǒng)裝備提高戰(zhàn)爭(zhēng)效率的方式取得勝利。常規(guī)戰(zhàn)爭(zhēng)方面已經(jīng)有《國(guó)際人道法》《日內(nèi)瓦公約》等倫理、法律依據(jù)，但是在新興的智能化戰(zhàn)爭(zhēng)中缺乏同樣的法律依據(jù)。因此，論文從智能化戰(zhàn)爭(zhēng)的內(nèi)容、倫理道德、倫理沖突三個(gè)方面論述智能化戰(zhàn)爭(zhēng)倫理的意義和未來智能化戰(zhàn)場(chǎng)倫理應(yīng)當(dāng)涵蓋的內(nèi)容。

　　本文源自新晉商【2020年第06期】《新晉商》雜志，山西出版?zhèn)髅郊瘓F(tuán)主管，山西出版?zhèn)髅郊瘓F(tuán);山西省人民政府參事室(文史館)主辦。于2005年經(jīng)國(guó)家新聞出版總署批準(zhǔn)正式創(chuàng)刊，CN:14-1350/F，本刊在國(guó)內(nèi)外有廣泛的覆蓋面，題材新穎，信息量大、時(shí)效性強(qiáng)的特點(diǎn)，其中主要欄目有：對(duì)話晉商精英、關(guān)注財(cái)富生活為主線等。

　　1 引言

　　目前，隨著人工智能在我國(guó)的飛速發(fā)展，智能化技術(shù)在計(jì)算機(jī)、機(jī)器人、視覺內(nèi)容自動(dòng)識(shí)別等其它技術(shù)領(lǐng)域不斷進(jìn)步。在軍事領(lǐng)域，利用人工智能研發(fā)新軍事武器、進(jìn)行人才選拔、指揮決策等方面的技術(shù)逐漸走向成熟。智能武器的定義是指具有人工智能的武器，通常由信息采集與處理系統(tǒng)、知識(shí)庫(kù)系統(tǒng)、輔助決策系統(tǒng)和任務(wù)執(zhí)行系統(tǒng)等組成。能自行完成偵查、搜索、瞄準(zhǔn)、攻擊目標(biāo)和收集、整理、分析、綜合情報(bào)等軍事任務(wù)[1]。在智能化武器裝備不斷發(fā)展的過程中，我們應(yīng)當(dāng)反思這些年的人工智能的發(fā)展是否符合倫理道德的準(zhǔn)則，智能化武器的應(yīng)用是否合法，并應(yīng)當(dāng)對(duì)未來智能化戰(zhàn)爭(zhēng)的發(fā)展設(shè)立倫理規(guī)范和進(jìn)一步在衛(wèi)勤保障中完善人工智能技術(shù)使用的法律條目。

　　2 智能化戰(zhàn)爭(zhēng)的含義

　　智能化戰(zhàn)爭(zhēng)是以人工智能技術(shù)手段為主要支撐的戰(zhàn)爭(zhēng)，是信息化戰(zhàn)場(chǎng)發(fā)展的必然變革[2]。海灣戰(zhàn)爭(zhēng)中，美軍用高精尖的武器和先進(jìn)的軍事理論造成了自稱“第四軍事強(qiáng)國(guó)”的伊拉克10萬人的傷亡，自己卻只付出了606人的代價(jià)。戰(zhàn)后我們才認(rèn)清了如今國(guó)外作戰(zhàn)樣式發(fā)生了根本性的變化，從此我國(guó)被迫投入了大量軍費(fèi)學(xué)習(xí)美國(guó)的作戰(zhàn)模式和標(biāo)準(zhǔn)，實(shí)行軍隊(duì)改革使軍隊(duì)盡快從實(shí)現(xiàn)機(jī)械化到信息化部隊(duì)的進(jìn)步。目前，伊拉克針對(duì)ISIS的作戰(zhàn)中，大規(guī)模的應(yīng)用的國(guó)產(chǎn)的彩虹-4無人機(jī)執(zhí)行偵察和打擊任務(wù)，體現(xiàn)了現(xiàn)代戰(zhàn)場(chǎng)上智能化系統(tǒng)的成熟應(yīng)用和廣泛前景。美國(guó)國(guó)防創(chuàng)新委員會(huì)主席埃里克·施密特也請(qǐng)求國(guó)防部在人工智能領(lǐng)域開展更多布局，其特別強(qiáng)調(diào)“某些對(duì)手”最新的人工智能國(guó)家戰(zhàn)略將“威脅”到美國(guó)在此領(lǐng)域的領(lǐng)先地位。有一種說法是科技革命引發(fā)戰(zhàn)爭(zhēng)，而在未來要想獲取戰(zhàn)場(chǎng)的制高點(diǎn)、話語權(quán)，就必須擁有先進(jìn)的作戰(zhàn)理論和武器裝備。如今，5G傳輸、量子通信等技術(shù)得到了充分的發(fā)展，基于這些技術(shù)人工智能對(duì)大數(shù)據(jù)的分析和學(xué)習(xí)能力也得到了提升。隨之而來的是新的作戰(zhàn)樣式的變化如軍隊(duì)編成、作戰(zhàn)方式、軍事理論、日常訓(xùn)練的更新?lián)Q代。另如深度學(xué)習(xí)武器裝備、智能作戰(zhàn)機(jī)器人、“蜂群”無人機(jī)作戰(zhàn)的出現(xiàn)也給了我們對(duì)戰(zhàn)爭(zhēng)新的啟示。

　　3 智能化戰(zhàn)爭(zhēng)涉及的倫理法律問題

　　3.1 智能化戰(zhàn)爭(zhēng)需要倫理與法律約束

　　戰(zhàn)爭(zhēng)倫理是指社會(huì)集團(tuán)及其武裝成員在政治交往中，針對(duì)組織化暴力對(duì)抗所遵循的暴力使用的行為規(guī)范體系。學(xué)術(shù)界將戰(zhàn)爭(zhēng)倫理大體分為兩個(gè)方面：一是“指向戰(zhàn)爭(zhēng)的倫理”或“戰(zhàn)爭(zhēng)權(quán)利的倫理”，即有關(guān)戰(zhàn)爭(zhēng)的權(quán)利、戰(zhàn)爭(zhēng)的性質(zhì)、戰(zhàn)爭(zhēng)的責(zé)任的問題;二是“戰(zhàn)爭(zhēng)的行為倫理”，即有關(guān)戰(zhàn)爭(zhēng)中使用的各種手段的規(guī)則問題。歷史上隨著工業(yè)革命的發(fā)展，戰(zhàn)爭(zhēng)的樣式也逐步發(fā)生著改變，戰(zhàn)爭(zhēng)也同樣促進(jìn)著科學(xué)技術(shù)的進(jìn)步。目前，關(guān)于智能化戰(zhàn)爭(zhēng)的倫理道德規(guī)定還很欠缺，戰(zhàn)爭(zhēng)需要倫理道德的存在才能被世人所接受。各國(guó)需要統(tǒng)一倫理準(zhǔn)則，才能判定戰(zhàn)爭(zhēng)行為是否合理。人工智能的倫理終究是工程師、程序師的哲學(xué)修養(yǎng)所決定的。其深層含義是世界各國(guó)政府利用人工智能的技術(shù)完成具體什么樣的任務(wù)。當(dāng)人工智能應(yīng)用于軍事領(lǐng)域就涉及軍事技術(shù)的倫理價(jià)值，它是軍事技術(shù)的客體本身所具有的能滿足軍事技術(shù)主體倫理道德和倫理精神需求的屬性，它反映了軍事技術(shù)主體在進(jìn)行軍事技術(shù)的設(shè)計(jì)、發(fā)明、生產(chǎn)和使用等有關(guān)活動(dòng)時(shí)所持有的價(jià)值理念，倫理取向以及道德規(guī)范。軍事技術(shù)的倫理價(jià)值始于過去，將會(huì)不斷的完善更新適應(yīng)現(xiàn)代化戰(zhàn)爭(zhēng)，滿足國(guó)際社會(huì)的需要。

　　3.2 軍用機(jī)器人引發(fā)的心理情感問題

　　目前，美軍的無人裝備數(shù)量最多，類型最齊全。據(jù)統(tǒng)計(jì)，美軍已有各類無人機(jī)1.13萬架以上，各種地面機(jī)器人1.5萬以上。預(yù)計(jì)到2040年美軍將會(huì)擁有達(dá)到一半以上的機(jī)器人成員。在控制方式上，其現(xiàn)役無人裝備仍主要采用遙控或預(yù)編程自動(dòng)控制方式，不過隨著其算法戰(zhàn)、蜂群、忠誠(chéng)僚機(jī)等項(xiàng)目的持續(xù)深入，預(yù)計(jì)無人裝備的自主性、以集群或編組方式完成任務(wù)、有人-無人協(xié)同等能力都將取得較大突破。軍用機(jī)器人的大量使用，將給現(xiàn)代的戰(zhàn)爭(zhēng)道德帶來巨大沖擊。比如，在戰(zhàn)場(chǎng)上具有自主攻擊能力的智能化武器對(duì)主動(dòng)放下武器或被剝奪武器的敵方人員，如何辨識(shí)對(duì)方的真正意圖并做出正確決定，這是智能化系統(tǒng)難以準(zhǔn)確抉擇的。因此，我們?cè)谑褂萌斯ぶ悄芪淦鬟M(jìn)行戰(zhàn)爭(zhēng)的過程中需要保持謹(jǐn)慎的態(tài)度，不能完全放任人工智能的自主學(xué)習(xí)、自主判斷的能力，以防止出現(xiàn)嚴(yán)重的倫理道德后果，未來在研究智能化武器裝備的同時(shí)要建立有完整的倫理道德委員的監(jiān)督和審核。香港的漢森機(jī)器人技術(shù)公司(Hanson Robotics)開發(fā)的類人機(jī)器人索菲亞，是歷史上首個(gè)獲得公民身份的一臺(tái)機(jī)器人，人類賦予了她“人”的意義，并或多或少地產(chǎn)生了一定的感情。這是智能化機(jī)器進(jìn)入社會(huì)的極特殊一步，未來當(dāng)人工智能發(fā)展到了一定程度，那就必須對(duì)它進(jìn)行倫理約束。這種心理認(rèn)知的現(xiàn)象同樣適用于軍用機(jī)器人擁有人類面孔的情景。機(jī)器人未來可能和人類一起戰(zhàn)斗或者參與后方工作等需要與人類相處交流的機(jī)會(huì)越來越多，人們可能會(huì)對(duì)機(jī)器人出現(xiàn)角色歸屬不清的心理情感問題。這種認(rèn)同感可能是社會(huì)職責(zé)的認(rèn)同，也可能是對(duì)機(jī)器人社會(huì)角色的認(rèn)同。但其中包含著對(duì)傳統(tǒng)倫理道德沖擊以及現(xiàn)代社會(huì)文化的影響。

　　3.3 智能化武器裝備設(shè)計(jì)的倫理與法律問題

　　隨著智能化裝備進(jìn)入部隊(duì)的方方面面，這些武器裝備也將會(huì)被賦予更多的角色。智能化戰(zhàn)爭(zhēng)將會(huì)重新建立人與武器裝備的關(guān)系，隨著深度學(xué)習(xí)技術(shù)的提升，人工智能在不斷的執(zhí)行人類的命令的同時(shí)不斷地綜合各項(xiàng)工作的深層次規(guī)律，從而產(chǎn)生主動(dòng)的執(zhí)行人的意識(shí)，超越人類的決策能力。我們必須清楚地認(rèn)識(shí)到，智能化裝備僅僅只是工具，是為戰(zhàn)爭(zhēng)服務(wù)的，在戰(zhàn)場(chǎng)上我們可以參考智能系統(tǒng)的決策和判斷。但機(jī)器就是機(jī)器，它不存在人類的道德思維能力，我們需要將人類的倫理道德思維運(yùn)行到人工智能的程序里，以減少出現(xiàn)的倫理問題。智能化武器裝備的設(shè)計(jì)必須嚴(yán)格按照交戰(zhàn)規(guī)則和戰(zhàn)爭(zhēng)法則設(shè)定程序。2019年6月17日，國(guó)家新一代人工智能治理專業(yè)委員會(huì)發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出了人工智能的八項(xiàng)原則：和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放合作、敏捷治理。基于委員會(huì)提出的人工智能治理的框架和行動(dòng)指南，我軍未來可以依據(jù)或修改這些原則，作為未來研發(fā)人工智能的準(zhǔn)則，之后不斷完善更新，逐漸形成適應(yīng)我國(guó)倫理道德的規(guī)則。只有使智能化裝備基于如此的約束我們才能保證未來大規(guī)模應(yīng)用智能化武器出現(xiàn)意料之外的問題。再者，應(yīng)用智能化武器裝備要吸取全面的經(jīng)驗(yàn)，動(dòng)員多元化的力量，將科研人員、倫理學(xué)家和廣大人民的意見結(jié)合起來，共同建設(shè)人工智能的倫理。

　　4 智能化戰(zhàn)爭(zhēng)的倫理準(zhǔn)則

　　人工智能是科技的產(chǎn)物，應(yīng)當(dāng)嚴(yán)格遵守科技倫理。科技倫理規(guī)范是觀念和道德的規(guī)范，就是從觀念和道德層面上規(guī)范人們從事科技活動(dòng)的行為準(zhǔn)則，其核心問題是使之不損害人類的生命健康和生存條件(環(huán)境)，保障人類的切身利益，促進(jìn)人類社會(huì)的可持續(xù)發(fā)展[3]。

　　4.1 尊重生命原則

　　生命是人最重要的基礎(chǔ)，沒有生命就沒有人的自然屬性、社會(huì)屬性、精神屬性。作為文明高度發(fā)達(dá)的國(guó)家，我們更應(yīng)當(dāng)關(guān)注人的生命的重要性，我們沒有權(quán)利剝奪人的生命，但在無法控制的事件中，我們更應(yīng)當(dāng)考慮的是倫理的準(zhǔn)則的遵守。其中，最關(guān)鍵的問題就是生與死的問題。軍事技術(shù)的生命倫理價(jià)值就源于人類維持生命、保護(hù)生命的天然需求。而在軍隊(duì)使用智能化武器裝備的初衷一部分就是為了減少己方在戰(zhàn)場(chǎng)上的犧牲，謀求完全替代人類去實(shí)現(xiàn)作戰(zhàn)的目的。為了降低戰(zhàn)爭(zhēng)中死亡數(shù)量從千方百計(jì)追求增加殺傷力到考慮武器“慈化”，即設(shè)法研制非致命武器。如反恐作戰(zhàn)中使用的閃光彈、維穩(wěn)安保使用的電擊槍等。因此，在未來的智能化戰(zhàn)場(chǎng)上，應(yīng)尊重人道主義原則，即盡可能少的人員傷亡下獲得正義戰(zhàn)爭(zhēng)的勝利，一方面取決于設(shè)計(jì)者的初衷，但另一方面主要取決于指揮官的素質(zhì)和駕馭能力。所以在和平時(shí)代我們要加強(qiáng)倫理法則的制定以及積極廣泛地向全軍指戰(zhàn)員宣傳教育倫理道德的含義和內(nèi)容，以確保軍隊(duì)保證打贏的同時(shí)不會(huì)成為“絞肉機(jī)”。

　　4.2 保護(hù)生態(tài)原則

　　隨著人們的生活理念的發(fā)展和對(duì)生態(tài)保護(hù)理念的增強(qiáng)，國(guó)際社會(huì)對(duì)環(huán)境保護(hù)的意識(shí)越來越強(qiáng)。人工智能被大量應(yīng)用于環(huán)境監(jiān)測(cè)、突發(fā)環(huán)境事故處置等種種生態(tài)保護(hù)的領(lǐng)域當(dāng)中。人們?cè)诩芯ρ邪l(fā)人工智能的同時(shí)忽略的研發(fā)過程二氧化碳的排放對(duì)自然的影響，運(yùn)算模型的大小與排放的成本成正比，因此對(duì)環(huán)境造成了不可估量的影響。但根據(jù)馬薩諸塞大學(xué)阿默斯特分校的研究人員對(duì)幾種常見的大型AI模型進(jìn)行了生命周期的評(píng)估。他們發(fā)現(xiàn)這個(gè)過程可以排放超過626，000斤的二氧化碳當(dāng)量。這其中人工智能對(duì)環(huán)境的影響對(duì)生態(tài)影響深遠(yuǎn)，其倫理道德值得深究。隨著大規(guī)模殺傷性武器的發(fā)展，戰(zhàn)爭(zhēng)對(duì)環(huán)境破壞的程度也是隨之加深。生態(tài)環(huán)境的破壞不只是對(duì)森林、草原、湖泊的影響，我們還應(yīng)該關(guān)注動(dòng)物、土地的保護(hù)。在《自然》雜志發(fā)表的一篇論文Warface and wildlife declines in Africa's protected areas 為戰(zhàn)爭(zhēng)對(duì)野生動(dòng)植物造成的影響進(jìn)行了定量分析。莫桑比克內(nèi)戰(zhàn)期間，超過70%的非洲保護(hù)區(qū)受到戰(zhàn)爭(zhēng)的影響。研究說明武裝沖突是非洲珍稀野生動(dòng)物數(shù)量持續(xù)下降的主要因素之一。智能化戰(zhàn)爭(zhēng)交戰(zhàn)過程中，不免會(huì)造成對(duì)動(dòng)植物的損害，相比二戰(zhàn)熱兵器時(shí)代依賴于大范圍火力覆蓋的戰(zhàn)爭(zhēng)方式會(huì)更偏向于精確打擊以減少不必要的損害。實(shí)施精準(zhǔn)打擊既是為了提高效率也可以能對(duì)環(huán)境的損害。未來我們應(yīng)該更多的研發(fā)對(duì)生態(tài)小損害或完全無破壞的武器，減少有害氣體釋放和對(duì)結(jié)構(gòu)復(fù)雜的生態(tài)環(huán)境的影響。針對(duì)以傳統(tǒng)武器對(duì)自然環(huán)境造成的損害，環(huán)保武器的概念應(yīng)運(yùn)而生。環(huán)保武器是指借用“綠色保護(hù)”的概念，對(duì)自然環(huán)境不產(chǎn)生或者少產(chǎn)生污染，有利于環(huán)保和不破壞生態(tài)平衡的武器。而在智能化武器的戰(zhàn)爭(zhēng)中，將環(huán)保武器彈藥裝備在智能化武器上，可充分減少對(duì)環(huán)境的破壞。同時(shí)，智能化武器對(duì)生態(tài)環(huán)境的影響也必須納入倫理評(píng)判的準(zhǔn)則之中。

　　4.3 優(yōu)化生存原則

　　生存是所有生命的基本訴求，沒有生存就沒有文明的存在，也就沒有了倫理的意義。現(xiàn)代社會(huì)人們對(duì)生存環(huán)境的要求越來越高，如網(wǎng)絡(luò)、美食、居住條件、人文環(huán)境等。敘利亞戰(zhàn)爭(zhēng)中，不少千年的名勝古跡被戰(zhàn)爭(zhēng)摧毀，過去繁華的阿勒頗街道如今滿目瘡痍。阿拉伯人中流傳著這樣一個(gè)諺語“人間若有天堂，大馬士革必在其中;天堂若在天空，大馬士革必與之齊名。”如今的大馬士革城區(qū)損毀殆盡，百姓流離失所。如此情況下，未來不管任何一方取得勝利，敘利亞人民如何在這樣一片破碎的土地上求生存、謀發(fā)展，都將是政府和聯(lián)合國(guó)棘手的問題。在這其中帶給我們的啟發(fā)就是如何確保在戰(zhàn)爭(zhēng)過后，能讓當(dāng)?shù)鼐幼∩畹陌傩盏靡跃S持基本生存條件，以防止釜底抽薪的事情發(fā)生。而在智能化戰(zhàn)爭(zhēng)中我們可以在付出非人員傷亡的代價(jià)下確保當(dāng)?shù)厣顥l件，更可以做到對(duì)歷史文明、基礎(chǔ)設(shè)施、賴以生存的土地和收入來源的保障。維持和營(yíng)造國(guó)家在國(guó)際社會(huì)中的良好形象就應(yīng)當(dāng)充分利用智能化的武器裝備、后勤保障和大數(shù)據(jù)分析確保交戰(zhàn)區(qū)的百姓生存環(huán)境的完整以及將來發(fā)展的需要。

　　今天，軍事智能化的程度已經(jīng)成為未來戰(zhàn)爭(zhēng)勝負(fù)的關(guān)鍵要素，智能化武器裝備層出不窮。隨著智能化武器裝備的研發(fā)，帶來的是倫理道德的進(jìn)步滯后于新技術(shù)，聯(lián)合國(guó)曾于2013年討論軍用機(jī)器人的使用問題，要求凍結(jié)這些智能化武器的研發(fā)，并成立討論委員會(huì)。而智能化武器在戰(zhàn)場(chǎng)上的倫理道德，我們應(yīng)當(dāng)從社會(huì)道德評(píng)價(jià)以及道德自我評(píng)價(jià)的方面充分考量軍事行為是否正義。具體而談，一次正義的軍事行為，要符合戰(zhàn)場(chǎng)倫理的約束。評(píng)價(jià)的維度可以從起因、動(dòng)機(jī)、過程、結(jié)局和反思與自我評(píng)價(jià)決定，最終智能化戰(zhàn)爭(zhēng)的結(jié)局要經(jīng)受國(guó)際的認(rèn)同以及全世界的倫理道德評(píng)定。智能化戰(zhàn)場(chǎng)倫理的確立需要經(jīng)過武器裝備功能的實(shí)驗(yàn)和不斷的與社會(huì)磨合。就現(xiàn)在的發(fā)展情況而言，還需要大量的時(shí)間以及國(guó)際社會(huì)的通力合作。德國(guó)屠戮猶太人以確保雅利安人的血統(tǒng)，他們的子孫一直在為先輩的行為所反思和補(bǔ)償。我們沒有權(quán)利讓我們的后代承受世界的批判，中華民族一直以來都渴望和平的相處以及不戰(zhàn)而屈人之兵的理念，合理地運(yùn)用智能化武器將會(huì)為后代設(shè)立一個(gè)完善又先進(jìn)的研發(fā)和使用規(guī)則。所帶來的福祉將會(huì)是功千秋，利萬代。