【摘要】近年來，隨著人工智能技術(shù)迅速發(fā)展并被廣泛應(yīng)用于軍事領(lǐng)域，主要大國都高度重視人工智能在軍事領(lǐng)域的賦能作用，加大戰(zhàn)略投入，力求在大國競(jìng)爭(zhēng)和智能化戰(zhàn)爭(zhēng)中占得先機(jī)。與此同時(shí)，人工智能軍事應(yīng)用可能對(duì)國際和平與安全帶來巨大挑戰(zhàn)，日益引發(fā)國際社會(huì)各界的關(guān)注和熱議，圍繞這一問題的全球治理和討論逐漸深入，已形成一些初步成果。中國積極參與人工智能相關(guān)領(lǐng)域的全球治理，作出了積極貢獻(xiàn)。展望未來，國際社會(huì)應(yīng)繼續(xù)秉持多邊主義，加強(qiáng)對(duì)話合作，采取預(yù)防性措施，規(guī)避人工智能軍事應(yīng)用風(fēng)險(xiǎn)，維護(hù)國際和平與安全。
【關(guān)鍵詞】人工智能 軍事應(yīng)用 全球治理
【中圖分類號(hào)】TP18 【文獻(xiàn)標(biāo)識(shí)碼】A
【DOI】10.16619/j.cnki.rmltxsqy.2021.10.003
近年來，以機(jī)器學(xué)習(xí)為代表的新一代人工智能技術(shù)快速發(fā)展并得到廣泛應(yīng)用，大力促進(jìn)了各國的經(jīng)濟(jì)和社會(huì)發(fā)展水平。與此同時(shí)，人工智能日益被視為大國競(jìng)爭(zhēng)的關(guān)鍵技術(shù)。隨著美國、俄羅斯等國家紛紛出臺(tái)人工智能軍事應(yīng)用相關(guān)戰(zhàn)略及政策，加大無人化和智能化軍事裝備研發(fā)和應(yīng)用步伐，智能化戰(zhàn)爭(zhēng)模式已初現(xiàn)雛形，人工智能軍事應(yīng)用的全球治理引發(fā)了國際社會(huì)持續(xù)和廣泛的關(guān)注，成為影響國際安全的重要議題。
人工智能軍事應(yīng)用簡(jiǎn)述
美國、俄羅斯等國家將人工智能視為戰(zhàn)略競(jìng)爭(zhēng)的關(guān)鍵技術(shù)，高度重視人工智能軍事應(yīng)用領(lǐng)域的技術(shù)發(fā)展和應(yīng)用，從戰(zhàn)略高度不斷加強(qiáng)戰(zhàn)略規(guī)劃和資源投入，力圖在日益復(fù)雜激烈的大國競(jìng)爭(zhēng)中占得先機(jī)，主要表現(xiàn)在三個(gè)方面。
重視戰(zhàn)略規(guī)劃和機(jī)制保障。2019年2月11日，時(shí)任美國總統(tǒng)特朗普簽署《維護(hù)美國在人工智能時(shí)代的領(lǐng)導(dǎo)地位》行政令，強(qiáng)調(diào)維持美國在人工智能領(lǐng)域的領(lǐng)導(dǎo)地位對(duì)維護(hù)美國的經(jīng)濟(jì)和國家安全至關(guān)重要。[1]2019年2月12日，美國國防部發(fā)布《2018國防部人工智能戰(zhàn)略概要：利用人工智能促進(jìn)安全與繁榮》文件[2]，闡述了其對(duì)人工智能軍事應(yīng)用的形勢(shì)評(píng)估、應(yīng)用目標(biāo)、戰(zhàn)略途徑及重點(diǎn)領(lǐng)域，標(biāo)志著美軍人工智能戰(zhàn)略的正式出臺(tái)。美國國防部于2018年7月成立了聯(lián)合人工智能中心（Joint AI Center, JAIC），負(fù)責(zé)協(xié)調(diào)落實(shí)美國防部相關(guān)人工智能戰(zhàn)略和政策，加強(qiáng)與私營部門、學(xué)術(shù)界和軍事盟友的合作，大力推動(dòng)軍事人工智能應(yīng)用技術(shù)研發(fā)和使用。2020年10月，美國白宮發(fā)布《關(guān)鍵與新興技術(shù)國家戰(zhàn)略》[3]，列舉了人工智能、通信和網(wǎng)絡(luò)技術(shù)、數(shù)據(jù)科學(xué)與存儲(chǔ)等關(guān)鍵技術(shù)，指出美國將依靠發(fā)展國家安全創(chuàng)新基礎(chǔ)能力和保護(hù)技術(shù)優(yōu)勢(shì)兩大支柱，以維護(hù)美國在全球關(guān)鍵和新興技術(shù)領(lǐng)域領(lǐng)導(dǎo)地位。
2017年9月，俄羅斯總統(tǒng)普京在一次演講中表示，“人工智能技術(shù)不僅僅是俄羅斯的未來，也是全世界的未來。誰能成為人工智能領(lǐng)域的領(lǐng)導(dǎo)者，誰就將主宰世界”。[4]2019年10月，普京批準(zhǔn)《2030年前俄羅斯國家人工智能發(fā)展戰(zhàn)略》，提出要使“俄羅斯在全球人工智能領(lǐng)域占據(jù)領(lǐng)先地位”和“獲得技術(shù)獨(dú)立和競(jìng)爭(zhēng)力”，標(biāo)志著俄羅斯人工智能戰(zhàn)略的正式出臺(tái)。俄軍方已出臺(tái)《2025年前未來軍用機(jī)器人技術(shù)裝備研發(fā)專項(xiàng)綱要》《未來俄軍用機(jī)器人應(yīng)用構(gòu)想》等與人工智能密切相關(guān)的發(fā)展規(guī)劃。俄羅斯還成立“先期研究基金會(huì)”（the Russian Foundation for Advanced Research Projects）、國家機(jī)器人技術(shù)發(fā)展中心等人工智能相關(guān)研究機(jī)構(gòu)，支持國防領(lǐng)域高科技創(chuàng)新，并重點(diǎn)研究圖像認(rèn)知、模擬人類思維、機(jī)器人等人工智能技術(shù)。[5]
英國于2021年3月發(fā)布《競(jìng)爭(zhēng)時(shí)代的國防》政策文件[6]，明確指出人工智能及其賦能的自主武器能力是國防現(xiàn)代化的關(guān)鍵因素，表示英國將發(fā)布一份雄心勃勃的人工智能戰(zhàn)略，以推動(dòng)相關(guān)領(lǐng)域的國防建設(shè)；將成立一個(gè)新的國防部人工智能中心，以協(xié)調(diào)推進(jìn)研發(fā)和使用這些新興技術(shù)。法國國防部于2019年9月發(fā)布《為國防服務(wù)的人工智能》報(bào)告[7]，標(biāo)志著法國軍事人工智能戰(zhàn)略的出臺(tái)。報(bào)告確定了法國軍方使用人工智能的優(yōu)先領(lǐng)域和路線圖，并將采取建立倫理道德委員會(huì)、發(fā)展可信的人工智能應(yīng)用技術(shù)、出臺(tái)數(shù)據(jù)管理的指導(dǎo)原則等措施。
確保優(yōu)先投資和重點(diǎn)項(xiàng)目。2018年9月，美國國防部表示將在未來五年內(nèi)通過美國國防高級(jí)研究計(jì)劃局（DARPA）投入20億美元，以開發(fā)“新一代人工智能技術(shù)”。DARPA已經(jīng)出臺(tái)了“快速輕量化自主”（Fast Lightweight Autonomy, FLA）、“拒止環(huán)境中的協(xié)同作戰(zhàn)”（Collaborative Operations in Denied Environment, CODE）等人工智能相關(guān)項(xiàng)目，大力推進(jìn)人工智能的研究和軍事應(yīng)用。[8]美國《2020財(cái)年國防授權(quán)法案》給聯(lián)合人工智能中心劃撥了2億美元資金。
俄羅斯在《2018～2025年國家武器發(fā)展綱要》中，將研發(fā)和智能化武器裝備列為重點(diǎn)內(nèi)容，涵蓋無人機(jī)、機(jī)器人、網(wǎng)絡(luò)戰(zhàn)等重點(diǎn)建設(shè)方向。俄國防部在《2025年先進(jìn)軍用機(jī)器人技術(shù)裝備研發(fā)專項(xiàng)綱要》中提出，無人作戰(zhàn)系統(tǒng)在2025年左右將占俄軍武器裝備的30%。[9]
英國在2021年3月發(fā)布的《競(jìng)爭(zhēng)時(shí)代的國防》政策文件中指出，將在未來4年投入6千萬英鎊，發(fā)展可用于未來新武器、人工智能、合成數(shù)字系統(tǒng)、空間技術(shù)等領(lǐng)域的測(cè)評(píng)技術(shù)。2018年3月，法國武裝部隊(duì)部長弗洛倫斯·帕利在人機(jī)合作研究項(xiàng)目啟動(dòng)儀式上宣布，將每年在人工智能領(lǐng)域的支出增加到1億歐元，其中約一半資金將用于研發(fā)未來武器系統(tǒng)，1千萬歐元將用于測(cè)試和整合現(xiàn)有人工智能技術(shù)。[10]
2018年4月，韓國國防部表示將在2019年前投入29億韓元（約合人民幣1724萬元）開發(fā)智能型信息化情報(bào)監(jiān)視偵察系統(tǒng)，運(yùn)用人工智能和大數(shù)據(jù)技術(shù)整合分析間諜衛(wèi)星、偵察機(jī)、無人機(jī)搜集的影像情報(bào)，遠(yuǎn)期目標(biāo)是開發(fā)基于人工智能的指揮控制系統(tǒng)，實(shí)時(shí)研判傳遞戰(zhàn)況。[11]
推動(dòng)武器裝備研發(fā)和應(yīng)用。美國大力推進(jìn)人工智能相關(guān)武器系統(tǒng)的研發(fā)。美推進(jìn)“高級(jí)圖像識(shí)別”項(xiàng)目（“Maven”項(xiàng)目），組建“算法戰(zhàn)跨職能小組”，以減輕美空軍在無人機(jī)視頻數(shù)據(jù)分析領(lǐng)域的人力負(fù)擔(dān)，增強(qiáng)情報(bào)分析和軍事決策能力。2020年12月15日，美國空軍首次將人工智能部署在一架U-2偵察機(jī)上，開創(chuàng)了人工智能首次自主控制軍用系統(tǒng)的先河。[12]2021年2月，美國國防高級(jí)研究計(jì)劃局（DARPA）在“空戰(zhàn)進(jìn)化”（ACE）項(xiàng)目中模擬測(cè)試了人工智能控制戰(zhàn)斗機(jī)之間的空中格斗，計(jì)劃在2021年下半年將空中格斗人工智能算法從模擬過渡到規(guī)模較小的實(shí)際戰(zhàn)斗機(jī)空戰(zhàn)演示中。[13]
俄羅斯研發(fā)了“天王星”系列和“平臺(tái)-M”、“阿爾戈”等型號(hào)的作戰(zhàn)平臺(tái)，可執(zhí)行戰(zhàn)場(chǎng)巡邏、偵察、排雷、近距離火力支援等任務(wù)。同時(shí)啟動(dòng)研發(fā)“波塞冬”核動(dòng)力無人水下航行器，可搭載常規(guī)彈頭或核彈頭，可成為一種全新的戰(zhàn)略威懾手段。2015年12月，俄軍機(jī)器人部隊(duì)支援?dāng)⒗麃喺姵晒フ紭O端組織“伊斯蘭國”控制的拉塔基亞754.5高地，這也是全球范圍內(nèi)成建制機(jī)器人投入實(shí)戰(zhàn)的首個(gè)戰(zhàn)例。[14]
以色列作為人工智能軍事應(yīng)用強(qiáng)國之一，在無人裝備研發(fā)領(lǐng)域居于世界領(lǐng)先地位，其研制的“哈比”（Harby）巡飛彈被認(rèn)為是當(dāng)前為數(shù)不多的“完全自主武器”，能夠探測(cè)、瞄準(zhǔn)和攻擊敵人的雷達(dá)設(shè)施，而無需任何人工監(jiān)督。韓國自主研發(fā)的“SGR-A1”型哨兵機(jī)器人已經(jīng)部署在朝韓邊境的非軍事區(qū)，據(jù)稱，這款哨兵機(jī)器人擁有完全自主模式，理論上可以在沒有人類干預(yù)的情況下自主運(yùn)行，可自主開火射殺目標(biāo)。[15]
人工智能軍事應(yīng)用的深刻影響
從積極方面看，人工智能技術(shù)的軍事應(yīng)用前景廣泛，可以被用于情報(bào)分析、作戰(zhàn)訓(xùn)練、后勤保障、決策支撐、武器設(shè)計(jì)及研發(fā)等諸多領(lǐng)域。例如，人工智能技術(shù)可以提高戰(zhàn)爭(zhēng)決策機(jī)制效率和軍事行動(dòng)速度；可以促進(jìn)新型武器系統(tǒng)更加“自主化”“智能化”“精準(zhǔn)化”，從而減少武裝人員和平民傷亡；可以利用人工智能技術(shù)賦能系統(tǒng)（無人或機(jī)器人系統(tǒng)）承擔(dān)復(fù)雜危險(xiǎn)、重復(fù)單調(diào)的軍事活動(dòng)，節(jié)約人力資源；可以高效分析處理海量數(shù)據(jù)，提高國防后勤保障部門科學(xué)管理水平，等等。
與此同時(shí)，人工智能作為一項(xiàng)雙用途技術(shù)，其軍事應(yīng)用也可能帶來諸多風(fēng)險(xiǎn)和挑戰(zhàn)，主要包括技術(shù)風(fēng)險(xiǎn)、軍事應(yīng)用風(fēng)險(xiǎn)、戰(zhàn)略穩(wěn)定風(fēng)險(xiǎn)、法律倫理風(fēng)險(xiǎn)等。
一是技術(shù)風(fēng)險(xiǎn)。例如，人工智能系統(tǒng)漏洞容易受到攻擊，低質(zhì)量和受污染數(shù)據(jù)可能導(dǎo)致系統(tǒng)的不穩(wěn)定，系統(tǒng)運(yùn)行和演化的不可預(yù)測(cè)性和不可解釋性，人工智能軍事系統(tǒng)的安全性和可靠性，如何制定有效的測(cè)試、評(píng)估、驗(yàn)證標(biāo)準(zhǔn)和程序等。
二是軍事應(yīng)用風(fēng)險(xiǎn)。人工智能軍事應(yīng)用的武器系統(tǒng)快速發(fā)展，以及個(gè)別國家對(duì)他國采取歧視性出口管制政策，有可能會(huì)引發(fā)各國在此領(lǐng)域展開軍備競(jìng)賽，加劇大國之間的緊張關(guān)系。人工智能軍事系統(tǒng)在高風(fēng)險(xiǎn)地區(qū)被部署或使用，有可能造成意外事件或沖突升級(jí)。人工智能軍事技術(shù)及系統(tǒng)（特別是無人武器系統(tǒng)）向非國家實(shí)體擴(kuò)散，有可能被恐怖分子用于恐怖襲擊。
三是戰(zhàn)略穩(wěn)定風(fēng)險(xiǎn)。人工智能技術(shù)被應(yīng)用在外空、網(wǎng)絡(luò)等新疆域，有可能使技術(shù)領(lǐng)先者鞏固其優(yōu)勢(shì)地位，加劇各國面臨的安全威脅，造成大國戰(zhàn)略安全關(guān)系的不穩(wěn)定。人工智能系統(tǒng)如被納入核指揮與控制系統(tǒng)、早期預(yù)警系統(tǒng)中，將對(duì)大國之間的核戰(zhàn)略穩(wěn)定構(gòu)成潛在風(fēng)險(xiǎn)，如果人工智能系統(tǒng)失效或失誤，將可能造成重大核意外事件或決策失誤，甚至引發(fā)核戰(zhàn)爭(zhēng)。
四是法律倫理風(fēng)險(xiǎn)。人工智能武器系統(tǒng)研發(fā)、部署和使用應(yīng)遵循何種國際法義務(wù)？人工智能武器系統(tǒng)（特別是致命性自主武器系統(tǒng)，Lethal Autonomous Weapons Systems, LAWS）如被使用，國際人道法應(yīng)如何適用？是否應(yīng)始終確保人類對(duì)人工智能武器系統(tǒng)的使用權(quán)和決策權(quán)？人工智能武器研發(fā)、部署和使用應(yīng)遵循何種標(biāo)準(zhǔn)和規(guī)范？如果發(fā)生意外事件，是否應(yīng)由人類承擔(dān)相關(guān)責(zé)任？等等。
人工智能軍事應(yīng)用全球治理趨勢(shì)
鑒于人工智能軍事應(yīng)用可能帶來的上述潛在風(fēng)險(xiǎn)和挑戰(zhàn)，近年來，各國政府、產(chǎn)業(yè)界、學(xué)術(shù)界、國際組織等就包括人工智能軍事應(yīng)用在內(nèi)的人工智能治理規(guī)范和原則進(jìn)行了廣泛討論并提出諸多建議，旨在保障人工智能軍事發(fā)展和應(yīng)用符合技術(shù)、法律、倫理等要求，減少人工智能軍事應(yīng)用帶來的潛在安全風(fēng)險(xiǎn)。
聯(lián)合國框架下的多邊努力。2018年5月，聯(lián)合國秘書長古特雷斯發(fā)表了裁軍新議程——《確保我們共同的未來》文件[16]，指出新武器系統(tǒng)及其技術(shù)發(fā)展將給國際安全帶來法律、防擴(kuò)散、安全關(guān)系、道德倫理等多方面挑戰(zhàn)，由于人工智能（例如機(jī)器學(xué)習(xí)）賦能的致命性自主武器系統(tǒng)可能產(chǎn)生不可預(yù)測(cè)和難以解釋的行為，國際社會(huì)應(yīng)對(duì)此類武器系統(tǒng)的研發(fā)和使用采取負(fù)責(zé)任態(tài)度，各國應(yīng)努力在聯(lián)合國框架內(nèi)探討相關(guān)可行的措施，確保人類對(duì)此類武器的控制權(quán)。
自2014年起，聯(lián)合國在《特定常規(guī)武器公約》框架下開啟了“致命性自主武器系統(tǒng)”問題的討論進(jìn)程，是目前聯(lián)合國框架內(nèi)為數(shù)不多的涉及人工智能軍事應(yīng)用具體問題的討論進(jìn)程。自2014年至2016年，分別召開了3次非正式專家會(huì)議。自2017年至2019年，分別召開了5次政府專家組會(huì)議。上述會(huì)議討論了致命性自主武器系統(tǒng)涉及的技術(shù)特征、法律適用、道德倫理、軍事應(yīng)用、安全風(fēng)險(xiǎn)、限制措施等廣泛議題，達(dá)成了重要進(jìn)展。2019年第8次政府專家組會(huì)議協(xié)商一致通過報(bào)告，并由2019年12月《特定常規(guī)武器公約》締約國會(huì)議核準(zhǔn)通過，報(bào)告提出了以下11條規(guī)范致命性自主武器系統(tǒng)的指導(dǎo)原則[17]：
（a）國際人道主義法繼續(xù)完全適用于所有武器系統(tǒng)，包括致命性自主武器系統(tǒng)的可能開發(fā)和使用；
（b）人類仍須對(duì)武器系統(tǒng)的使用決定負(fù)有責(zé)任，因?yàn)椴荒馨沿?zé)任轉(zhuǎn)嫁給機(jī)器，應(yīng)在武器系統(tǒng)的整個(gè)壽命周期里考慮到這一點(diǎn)；
（c）可以采取各種形式、并在武器生命周期的各個(gè)階段實(shí)施的人機(jī)交互，應(yīng)確保對(duì)基于致命性自主武器系統(tǒng)領(lǐng)域的新興技術(shù)的武器系統(tǒng)的潛在使用符合適用的國際法，特別是國際人道法，在確定人機(jī)交互的質(zhì)量和程度時(shí)，應(yīng)考慮一系列因素，包括作戰(zhàn)環(huán)境，以及整個(gè)武器系統(tǒng)的特點(diǎn)和能力；
（d）應(yīng)確保根據(jù)適用的國際法在《特定常規(guī)武器公約》的框架內(nèi)對(duì)發(fā)展、部署和使用任何新武器系統(tǒng)問責(zé)，包括使這類系統(tǒng)在人類指揮和控制的責(zé)任鏈中運(yùn)作；
（e）在研究、發(fā)展、取得或采用新的武器、作戰(zhàn)手段或方法時(shí)，國家有義務(wù)按照國際法確定，該新武器、作戰(zhàn)手段或方法的使用在某些或所有情況下是否為國際法所禁止；
（f）在發(fā)展或取得基于致命性自主武器系統(tǒng)領(lǐng)域新技術(shù)的新武器系統(tǒng)時(shí)，應(yīng)考慮到實(shí)體安保、適當(dāng)?shù)姆菍?shí)體保障（包括針對(duì)黑客攻擊或數(shù)據(jù)欺騙等網(wǎng)絡(luò)安全問題）、落入恐怖主義團(tuán)體手中的風(fēng)險(xiǎn)和擴(kuò)散的風(fēng)險(xiǎn)；
（g）風(fēng)險(xiǎn)評(píng)估和減小風(fēng)險(xiǎn)的措施應(yīng)成為任何武器系統(tǒng)新技術(shù)的設(shè)計(jì)、發(fā)展、測(cè)試和部署周期的組成部分；
（h）致命性自主武器系統(tǒng)領(lǐng)域新技術(shù)的使用應(yīng)考慮到須信守國際人道法和其他適用國際法律義務(wù)；
（i）在擬定可能的政策措施時(shí)，不應(yīng)使致命性自主武器系統(tǒng)領(lǐng)域的新技術(shù)人格化；
（j）在《特定常規(guī)武器公約》范圍內(nèi)討論和采取任何可能的政策措施都不應(yīng)阻礙智能自主技術(shù)的進(jìn)步或和平利用；
（k）《特定常規(guī)武器公約》提供了適當(dāng)?shù)目蚣?，可在《公約》的目標(biāo)和宗旨范圍內(nèi)處理致命性自主武器系統(tǒng)領(lǐng)域新技術(shù)的問題，力求在軍事必要性和人道主義考慮之間求得平衡。
當(dāng)前，雖然各國未就致命性自主武器的定義特征、限制條件、法律審查、規(guī)范路徑等問題達(dá)成詳細(xì)共識(shí)，但上述原則已部分涵蓋致命性自主武器系統(tǒng)涉及的技術(shù)、法律、道德倫理、和平利用等方面內(nèi)容，為各國繼續(xù)展開后續(xù)討論奠定了基礎(chǔ)。
各國對(duì)于致命性自主武器系統(tǒng)的軍控措施主要有三種觀點(diǎn)：有國家主張全面禁止此類武器，有國家主張部分限制此類武器使用，也有國家反對(duì)全面禁止此類武器。與此同時(shí)，奧地利等國主張達(dá)成具有法律約束力的國際文書；法國等國主張分步走，先達(dá)成政治宣言或行為準(zhǔn)則，再達(dá)成法律文書；美國等國則反對(duì)上述主張，主張圍繞現(xiàn)有11條指導(dǎo)原則進(jìn)一步討論。
主要國家和研究機(jī)構(gòu)提出治理原則。作為人工智能軍事應(yīng)用大國，美國軍方非常重視人工智能倫理準(zhǔn)則的制定。2012年11月，美國國防部發(fā)布了一份有關(guān)武器自主性文件《國防部指令3000.09》（武器系統(tǒng)中的自主性）[18]，確定了美軍半自主和自主武器的一些通用原則。2019年10月，美國國防部國防創(chuàng)新委員會(huì)發(fā)布《人工智能準(zhǔn)則：推動(dòng)國防部以符合倫理的方式運(yùn)用人工智能的建議》，提出了國防部運(yùn)用人工智能的五項(xiàng)原則和十二條建議，建議成立國防部層面的人工智能指導(dǎo)委員會(huì)，確保人工智能倫理準(zhǔn)則的正確推行。2020年2月，美國國防部正式發(fā)布規(guī)范人工智能軍事能力發(fā)展的“負(fù)責(zé)的、公平的、可追溯的、可靠的、可治理的”五項(xiàng)原則。[19]
2020年2月，歐盟發(fā)布《人工智能白皮書》[20]，指出歐盟的人工智能發(fā)展基于信任和追求卓越，要推動(dòng)建立卓越的人工智能研發(fā)生態(tài)系統(tǒng)，并建立基于信任的監(jiān)管體系，以保護(hù)歐盟的價(jià)值觀和消費(fèi)者權(quán)益。2020年6月，紅十字國際委員會(huì)在《國際人道法及其在當(dāng)代武裝沖突中面臨的挑戰(zhàn)》報(bào)告中指出[21]，自主武器系統(tǒng)的獨(dú)特特點(diǎn)以及在武裝沖突中對(duì)武力使用或喪失控制的相關(guān)風(fēng)險(xiǎn)表明，為確保遵守國際人道法并維護(hù)人道原則，需要就如何限制其自主性達(dá)成共識(shí)，在武裝沖突中使用這些技術(shù)時(shí)，必須采取以人為本、以人道為準(zhǔn)的方法。
2020年6月和11月，瑞典斯德哥爾摩國際和平研究所發(fā)表題為《人工智能對(duì)戰(zhàn)略穩(wěn)定和核風(fēng)險(xiǎn)的影響》和《負(fù)責(zé)任的人工智能軍事應(yīng)用》報(bào)告[22]，探討了人工智能軍事應(yīng)用對(duì)戰(zhàn)略穩(wěn)定和核風(fēng)險(xiǎn)的影響以及歐盟如何在推動(dòng)負(fù)責(zé)任人工智能軍事應(yīng)用最佳實(shí)踐方面發(fā)揮作用，提出了增強(qiáng)透明度、加強(qiáng)對(duì)話合作、設(shè)立高級(jí)別專家組、積極參與全球治理進(jìn)程等建議。2021年4月，新美國安全中心（CNAS）發(fā)布了美國前國防部副部長羅伯特·沃克撰寫的《具有自主功能的武器系統(tǒng)作戰(zhàn)使用的原則》報(bào)告[23]，提出了使用自主武器系統(tǒng)必須由負(fù)責(zé)任的人類指揮和控制鏈來進(jìn)行指導(dǎo)和監(jiān)督等七項(xiàng)原則，建議美國應(yīng)通過獲取過程、訓(xùn)練、教育、演習(xí)將這些原則制度化。
綜合來看，各方提出的人工智能軍事應(yīng)用治理原則已包括許多共同點(diǎn)，例如，強(qiáng)調(diào)人類監(jiān)督的重要性，確保人工智能軍事系統(tǒng)的安全性和可靠性，加強(qiáng)國際對(duì)話合作的重要性，人工智能軍事應(yīng)用需符合國際法，等等。這些建議為未來相關(guān)全球治理和系統(tǒng)論證提供了有益的思路。
中國的努力和貢獻(xiàn)
中國一直高度重視人工智能技術(shù)發(fā)展和應(yīng)用，積極參與全球人工智能治理并提出重要建議，受到國際社會(huì)關(guān)注。2018年10月，中共中央政治局就人工智能發(fā)展現(xiàn)狀和趨勢(shì)進(jìn)行集體學(xué)習(xí)，習(xí)近平總書記發(fā)表重要講話并指出，“要加強(qiáng)人工智能發(fā)展的潛在風(fēng)險(xiǎn)研判和防范”，要“確保人工智能安全、可靠、可控”。2020年11月21日，習(xí)近平主席在二十國集團(tuán)領(lǐng)導(dǎo)人第十五次峰會(huì)第一階段會(huì)議發(fā)表題為《勠力戰(zhàn)疫 共創(chuàng)未來》的重要講話，指出“中方支持圍繞人工智能加強(qiáng)對(duì)話，倡議適時(shí)召開專題會(huì)議，推動(dòng)落實(shí)G20人工智能原則，引領(lǐng)全球人工智能的健康發(fā)展”。[24]
中國亦重視人工智能治理原則。2019年6月，國家新一代人工智能治理委員會(huì)發(fā)布了《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》[25]，提出“和諧友好，公平公正，包容共享，尊重隱私，安全可控，共擔(dān)責(zé)任，開放協(xié)作，敏捷治理”等八項(xiàng)重要原則，以更好地協(xié)調(diào)人工智能發(fā)展與治理的關(guān)系，確保人工智能安全可控可靠，推動(dòng)經(jīng)濟(jì)、社會(huì)及生態(tài)可持續(xù)發(fā)展，共建人類命運(yùn)共同體。
中國還積極參與人工智能軍事應(yīng)用相關(guān)的多邊軍控進(jìn)程和對(duì)話。中國代表團(tuán)深入?yún)⑴c《特定常規(guī)武器公約》框架下“致命性自主武器系統(tǒng)”討論進(jìn)程，參加了歷次專家組會(huì)議，就技術(shù)定義等問題提出看法或文件。中國在日內(nèi)瓦裁軍談判會(huì)議上多次呼吁盡早建立權(quán)威的科學(xué)發(fā)展審議機(jī)制，對(duì)新興技術(shù)的軍事應(yīng)用前景和風(fēng)險(xiǎn)進(jìn)行評(píng)估，談判制定相關(guān)國際準(zhǔn)則，實(shí)施必要的預(yù)防性限制或禁止，避免國際社會(huì)重蹈“先發(fā)展后裁軍”的覆轍，防止出現(xiàn)新的軍備競(jìng)賽。中國作為聯(lián)合國秘書長新裁軍議程第27項(xiàng)行動(dòng)計(jì)劃“就新興技術(shù)開展對(duì)話”的牽頭國家之一，積極推動(dòng)有關(guān)對(duì)話。2021年5月17日，中國、埃及、肯尼亞、墨西哥、南非、阿聯(lián)酋常駐聯(lián)合國代表團(tuán)在紐約共同舉辦“新興科技對(duì)國際和平與安全的影響”會(huì)議，中國常駐聯(lián)合國代表張軍大使主持會(huì)議，包括安理會(huì)成員在內(nèi)的近40個(gè)國家與會(huì)發(fā)言，各方一致認(rèn)為應(yīng)支持奉行多邊主義，充分利用聯(lián)合國平臺(tái)，加強(qiáng)對(duì)話交流，探討新興科技開發(fā)利用，推進(jìn)新興科技全球治理。此次會(huì)議亦是安理會(huì)首次討論新興科技問題。[26]
中國專家和學(xué)者也積極參與全球治理和對(duì)話進(jìn)程，提出有益的看法和建議。例如，2019年，清華大學(xué)戰(zhàn)略與安全研究中心主任傅瑩曾發(fā)表《人工智能對(duì)國際關(guān)系的影響初析》報(bào)告[27]，提出福祉、安全、共享、和平、法治、合作六項(xiàng)治理原則。2019年起，清華大學(xué)戰(zhàn)略與安全研究中心和美國布魯金斯學(xué)會(huì)聯(lián)合開展了“人工智能與國際安全治理”對(duì)話項(xiàng)目，梳理了人工智能軍事應(yīng)用可能帶來的風(fēng)險(xiǎn)和挑戰(zhàn)，并探討了相關(guān)治理原則。中國軍控與裁軍協(xié)會(huì)亦多次舉辦或派專家參與人工智能軍事應(yīng)用相關(guān)國際研討活動(dòng)。自2019年以來，軍控協(xié)會(huì)與日內(nèi)瓦“人道主義對(duì)話中心”開展了相關(guān)對(duì)話，來自中、美、歐等專家學(xué)者還初步探討了人工智能軍事系統(tǒng)的行為準(zhǔn)則草案，包括設(shè)計(jì)開發(fā)、測(cè)試評(píng)估、部署使用、問責(zé)機(jī)制、建立信任和國際合作等內(nèi)容。
結(jié)語
當(dāng)前，國際社會(huì)都高度關(guān)注人工智能軍事應(yīng)用對(duì)國際和平與安全構(gòu)成的嚴(yán)峻挑戰(zhàn)，盡管各國對(duì)如何應(yīng)對(duì)這些挑戰(zhàn)，特別是減少人工智能軍事應(yīng)用風(fēng)險(xiǎn)，仍然存在不同看法和優(yōu)先事項(xiàng)，但各國理應(yīng)加強(qiáng)這一領(lǐng)域的前瞻性研究和對(duì)話，推動(dòng)相關(guān)全球治理進(jìn)程，維護(hù)各國共同的安全利益，對(duì)此本文提出如下建議。
各國秉持多邊主義，支持聯(lián)合國及其相關(guān)機(jī)構(gòu)在人工智能國際安全問題上的努力；支持《特定常規(guī)武器公約》關(guān)于致命性自主武器系統(tǒng)政府專家組會(huì)議，推動(dòng)各國就處理該問題的原則、方式和法律文書達(dá)成更多共識(shí)；在日內(nèi)瓦裁軍談判會(huì)議等其他多邊軍控平臺(tái)，開展人工智能軍事應(yīng)用及其對(duì)全球戰(zhàn)略穩(wěn)定影響的討論；提高各方對(duì)人工智能與國際安全問題的認(rèn)識(shí)；呼吁避免采取歧視性措施，防止阻礙和平利用人工智能技術(shù)；加強(qiáng)建立透明和信任措施機(jī)制，鼓勵(lì)更多國家分享人工智能戰(zhàn)略、政策、法律框架等信息；鼓勵(lì)各國通過雙邊、多邊及區(qū)域組織開展多層次對(duì)話，召開高級(jí)別會(huì)議，開展國際合作和研究，提出前瞻性政策建議。
相信只要國際社會(huì)繼續(xù)共同努力，就有可能達(dá)成更多共識(shí)，從而推動(dòng)人工智能軍事應(yīng)用的全球治理進(jìn)程不斷深入，推動(dòng)實(shí)現(xiàn)人工智能軍事應(yīng)用遵守《聯(lián)合國憲章》原則及相關(guān)國際法，實(shí)現(xiàn)安全可靠、符合倫理道德、有效監(jiān)管控制等目標(biāo)，使人工智能技術(shù)更好造福人類，促進(jìn)國際和平與安全。
注釋
[1]"Executive Order on Maintaining American Leadership in Artificial Intelligence", February11, 2019, https://www.federalregister.gov/documents/2019/02/14/2019-02544/maintaining-american-leadership-in-artificial-intelligence.
[2]"Summary of the 2018 Department of Defense Artificial Intelligence Strategy Harnessing AI to Advance Our Security and Prosperity", February 12, 2019, https://media.defense.gov/2019/Feb/12/2002088963/-1/-1/1/SUMMARY-OF-DOD-AI-STRATEGY.PDF.
[3]"National Strategy for Critical and Emerging Technology", October 15, 2020, White House, https://trumpwhitehouse.archives.gov/briefings-statements/statement-press-secretary-regarding-national-strategy-critical-emerging-technologies/.
[4]"Whoever Leads in AI Will Rule the World: Putin to Russian Children on Knowledge Day", RT World News, September 1, 2017, https://www.rt.com/news/401731-ai-rule-world-putin/.
[5][8]朱啟超、龍坤：《主要國家人工智能軍事應(yīng)用戰(zhàn)略動(dòng)向及影響》，《2020國際軍備控制與裁軍》，北京：世界知識(shí)出版社，2020年，第137～138、138頁。
[6]"Defense in a competitive age", March 22, 2021, Ministry of Defense, UK, https://www.gov.uk/government/publications/defence-in-a-competitive-age.
[7]"Artificial Intelligence at the Service of Defense", Report of the AI Task Force, French Ministry of the Armed Force(MAF), September, 2019. AI, Strategic Stability and Nuclear Risk, June 2020, SIPRI, p. 61.
[9]李大鵬：《俄羅斯堅(jiān)定推進(jìn)智能化軍隊(duì)轉(zhuǎn)型》，《中國青年報(bào)》，2018年11月22日。
[10]"France to Increase Investment in AI for Future Weapon Systems", Defense News, March 16, 2018, Https://www.defensenews.com/intel-geoint/2018/03/16/france-to-increase-investment-in-ai-for-future-weapon-systems/.
[11]《韓軍將投入29億韓元開發(fā)智能情報(bào)監(jiān)視偵察系統(tǒng)》，新華網(wǎng)，2018年4月4日，http://www.xinhuanet.com/mil/2018-04/04/c_129843619.htm。
[12]《美媒：美軍U-2偵察機(jī)首次迎來AI副駕駛》，參考消息網(wǎng)，2020年12月18日，http://www.cankaoxiaoxi.com/mil/20201218/2427477.shtml。
[13]《DARPA用人工智能控制戰(zhàn)斗機(jī)進(jìn)行編隊(duì)格斗模擬試驗(yàn)》，搜狐網(wǎng)，2021年3月25日，https://www.sohu.com/a/457299174_630614。
[14]李瑋、蘭順正：《俄積極搶占無人作戰(zhàn)制高點(diǎn)》，《解放軍報(bào)》，2020年1月5日，http://www.81.cn/jmywyl/2020-01/05/content_9709934.htm。
[15]［美］保羅·沙瑞爾：《無人軍隊(duì)：自主武器與未來戰(zhàn)爭(zhēng)》，朱啟超、王姝、龍坤譯，北京：世界知識(shí)出版社，2019年，第114～115頁。
[16]Antonio Guterres, "Securing Our Common Future: An Agenda for Disarmament", May 24, 2018, https://www.un.org/disarmament/sg-agenda/en/.
[17]《禁止或限制使用某些可被認(rèn)為具有過分傷害力或?yàn)E殺濫傷作用的常規(guī)武器公約》締約方會(huì)議報(bào)告，2019年11月，11條指導(dǎo)原則載于該報(bào)告附件3中，Https://undocs.org/zh/CCW/MSP/2019/9。
[18]"DoD Directive 3000. 09 (Autonomy in Weapon Systems)", November 21, 2012, https://www.law.upenn.edu/live/files/3404-dod-autonomy-in-weapon-systems-2012.
[19]"DoD adopts five principles of artificial intelligence ethics", February 25, 2020, https://www.defense.gov/Explore/News/Article/Article/2094085/dod-adopts-5-principles-of-artificial-intelligence-ethics/.
[20]"White Paper On Artificial Intelligence - A European Approach to Excellence and Trust", February 19, 2020, European Commission, COM(2020) 65 final, https://ec.europa.eu/info/sites/default/files/commission-white-paper-artificial-intelligence-feb2020_en.pdf.
[21]《國際人道法及其在當(dāng)代武裝沖突中面臨的挑戰(zhàn)》，2020年6月，紅十字國際委員會(huì)，https://www.icrc.org/zh/publication/4427-international-humanitarian-law-and-challenges-contemporary-armed-conflicts。
[22]"Artificial Intelligence, Strategic Stability and Nuclear Risk", June, 2020, SIPRI, https://www.sipri.org/publications/2020/other-publications/artificial-intelligence-strategic-stability-and-nuclear-risk; "Responsible Military Use of Artificial Intelligence: Can the European Union Lead the Way in Developing Best Practice?", November, 2020, SIPRI, https://sipri.org/publications/2020/other-publications/responsible-military-use-artificial-intelligence-can-european-union-lead-way-developing-best.
[23]Robert Work, "Principles for the Combat Employment of Weapon Systems with Autonomous Functionalities", April 28, 2021, Center for a New American Security, https://www.cnas.org/publications/reports/proposed-dod-principles-for-the-combat-employment-of-weapon-systems-with-autonomous-functionalities.
[24]《習(xí)近平出席二十國集團(tuán)領(lǐng)導(dǎo)人第十五次峰會(huì)第一階段會(huì)議并發(fā)表重要講話》，中華人民共和國外交部網(wǎng)站，2020年11月21日，https://www.mfa.gov.cn/web/zyxw/t1834391.shtml。
[25]《發(fā)展負(fù)責(zé)任的人工智能：新一代人工智能治理原則發(fā)布》，中國日?qǐng)?bào)網(wǎng)，2019年6月17日，http://cn.chinadaily.com.cn/a/201906/17/WS5d07441ea3108375f8f2afac.html?from=timeline&isappinstalled=0。
[26]《張軍大使主持召開“新興科技對(duì)國際和平與安全的影響”阿里亞模式會(huì)議》，中國常駐聯(lián)合國代表團(tuán)網(wǎng)站，2021年5月17日，http://chnun.chinamission.org.cn/chn/hyyfy/t1876438.htm。
[27]傅瑩：《人工智能對(duì)國際關(guān)系的影響初析》，《國際戰(zhàn)略與安全研究報(bào)告》，2019年第1期。
The Application of Artificial Intelligence in the Military Field and Global Governance
Li Chijiang
Abstract: In recent years, with the rapid development of artificial intelligence (AI) technology and its wide use in the military field, the major powers have attached great importance to the empowering role of AI in the military field, increased strategic investment, and tried to take the lead in the competition and intelligent war of great powers. At the same time, the application of AI in the military may bring great challenges to international peace and security, which has attracted more and more attention and heated discussion from all walks of life in the international community. The global governance and discussion around this issue have gradually deepened, and some preliminary results have been formed. China has actively participated in global governance in the AI-related fields and made positive contributions. Looking ahead, the international community should continue to uphold multilateralism, strengthen dialogue and cooperation, take preventive measures, avoid the risk of military application of AI and maintain international peace and security.
Keywords: artificial intelligence, military application, global governance
李馳江，中國軍控與裁軍協(xié)會(huì)副會(huì)長兼秘書長。研究方向?yàn)檐妭淇刂啤⒉密?、防擴(kuò)散、人工智能、網(wǎng)絡(luò)安全。主要著作有《國際軍備控制與裁軍》（主編）等。
