人工智能將繼續(xù)改變國(guó)防格局，在帶來(lái)一系列問(wèn)題的同時(shí)，也帶來(lái)了前所未有的機(jī)遇。各國(guó)必須全面了解當(dāng)前和未來(lái)人工智能發(fā)展的潛在挑戰(zhàn)并利用機(jī)會(huì)，確保國(guó)防系統(tǒng)中人工智能的安全性、可靠性和平衡系統(tǒng)的能力，從而提高作戰(zhàn)效率、預(yù)測(cè)準(zhǔn)確性并獲得戰(zhàn)略優(yōu)勢(shì)。
人工智能是一個(gè)廣義術(shù)語(yǔ)，指的是設(shè)計(jì)用于模仿人類智能的計(jì)算機(jī)系統(tǒng)，可以通過(guò)編程來(lái)學(xué)習(xí)、推理、解決問(wèn)題、感知甚至解釋語(yǔ)言。人工智能的兩個(gè)突出子集是機(jī)器學(xué)習(xí)和深度學(xué)習(xí)，機(jī)器學(xué)習(xí)即系統(tǒng)從數(shù)據(jù)中學(xué)習(xí)以提高其性能，深度學(xué)習(xí)是一種以人類大腦為模型的更復(fù)雜的機(jī)器學(xué)習(xí)形式。
人工智能在國(guó)防領(lǐng)域的潛力巨大。它可以簡(jiǎn)化作戰(zhàn)、增強(qiáng)決策、提高軍事任務(wù)的準(zhǔn)確性和有效性。無(wú)人機(jī)和自動(dòng)駕駛車(chē)輛可以執(zhí)行人類無(wú)法完成的危險(xiǎn)任務(wù)。人工智能分析可以通過(guò)預(yù)測(cè)和識(shí)別威脅來(lái)提供戰(zhàn)略優(yōu)勢(shì)。
【資料圖】
1
人工智能在國(guó)防領(lǐng)域的潛力
目前，人工智能和機(jī)器學(xué)習(xí)在以下幾個(gè)領(lǐng)域獲得了關(guān)鍵進(jìn)展，顯示出該技術(shù)對(duì)于重塑軍事和國(guó)防格局的巨大潛力：
自主系統(tǒng)：自主系統(tǒng)的發(fā)展，特別是無(wú)人機(jī)和無(wú)人駕駛車(chē)輛，一直是一個(gè)關(guān)鍵的領(lǐng)域。自主系統(tǒng)可以處理一系列任務(wù)，從偵察任務(wù)到后勤支援，甚至直接參與作戰(zhàn)。可以在危險(xiǎn)環(huán)境中執(zhí)行任務(wù)，減少人類士兵的風(fēng)險(xiǎn)。
預(yù)測(cè)分析：先進(jìn)的人工智能/機(jī)器學(xué)習(xí)模型用于預(yù)測(cè)分析，可以預(yù)測(cè)潛在的威脅或維護(hù)的需求，可以分析大量的數(shù)據(jù)，以發(fā)現(xiàn)人類分析師可能無(wú)法辨別的模式和趨勢(shì)，從而有助于確定防御策略和有效的資源分配。
賽博安全：人工智能和機(jī)器學(xué)習(xí)在對(duì)抗賽博威脅方面至關(guān)重要。這些技術(shù)可以比傳統(tǒng)方法更快地實(shí)時(shí)識(shí)別和響應(yīng)潛在威脅。還可以從每次攻擊中學(xué)習(xí)，不斷提高防御能力。
人工智能也被用于模擬高度逼真的作戰(zhàn)環(huán)境以達(dá)到訓(xùn)練目的。這些虛擬環(huán)境可以復(fù)制各種作戰(zhàn)場(chǎng)景和條件，為士兵提供多樣化和全面的訓(xùn)練體驗(yàn)。
通過(guò)智能化指揮控制系統(tǒng)，人工智能技術(shù)可以幫助處理和解釋現(xiàn)代戰(zhàn)爭(zhēng)中產(chǎn)生的大量數(shù)據(jù)，從而為指揮官提供全面的、接近實(shí)時(shí)的戰(zhàn)場(chǎng)圖像，幫助制定決策和戰(zhàn)略規(guī)劃。
2
人工智能存在的問(wèn)題
上文對(duì)人工智能潛力的研究表明了人工智能對(duì)國(guó)防領(lǐng)域的深遠(yuǎn)影響，也意味著未來(lái)作戰(zhàn)效率、戰(zhàn)略優(yōu)勢(shì)和準(zhǔn)確性的提高。然而，也必須正視這項(xiàng)革命性技術(shù)帶來(lái)的一系列問(wèn)題。必須全面了解潛在挑戰(zhàn)并利用機(jī)會(huì)，同時(shí)確保國(guó)防系統(tǒng)中人工智能的安全性、可靠性和平衡集成系統(tǒng)的能力。在國(guó)防領(lǐng)域采用人工智能值得注意的問(wèn)題如下：
“一致性”（Alignment）指的是確保人工智能系統(tǒng)的目標(biāo)和行動(dòng)與人類的意圖一致。人工智能的復(fù)雜性、獨(dú)立學(xué)習(xí)的能力以及決策過(guò)程中缺乏透明度，都導(dǎo)致了一致性問(wèn)題。不一致的人工智能可能會(huì)導(dǎo)致意想不到的后果，在完成任務(wù)的同時(shí)也會(huì)造成不好的后果，能包括對(duì)軍事行動(dòng)的間接影響，以及國(guó)防后勤的中斷。想要解決這一問(wèn)題，需將明確的人類價(jià)值觀融入編程、持續(xù)監(jiān)控、提高人工智能決策過(guò)程的透明度以及建立糾正行為的反饋機(jī)制。
“能力衰弱”（enfeeblement）指的是擔(dān)心對(duì)人工智能的過(guò)度依賴，隨著時(shí)間的推移，這可能導(dǎo)致人類基本技能的下降。隨著人工智能接管更多任務(wù)，軍事人員在這些任務(wù)上可能會(huì)變得不那么熟練，這可能會(huì)影響作戰(zhàn)準(zhǔn)備。這就需要一種平衡的方法，即使用人工智能來(lái)增強(qiáng)而不是取代人類的能力。定期訓(xùn)練和技能更新對(duì)于保持人類在人工智能輔助軍事任務(wù)中的熟練程度至關(guān)重要。
“被侵蝕的知識(shí)系統(tǒng)”（eroded epistemics），指的是由于過(guò)度依賴人工智能而導(dǎo)致的知識(shí)系統(tǒng)的潛在退化。如果國(guó)防部門(mén)不加批判地接受人工智能系統(tǒng)的輸出，而沒(méi)有充分理解或質(zhì)疑這些輸出是如何產(chǎn)生的，這可能會(huì)導(dǎo)致錯(cuò)誤的戰(zhàn)略和國(guó)家安全決策。為此，需要加強(qiáng)國(guó)防人員的人工智能教育和培訓(xùn)。這不僅包括如何使用人工智能系統(tǒng)的培訓(xùn)，還包括對(duì)其潛在決策過(guò)程的理解。除此之外，培養(yǎng)一種重視批判性思維、將人類直覺(jué)和機(jī)器智能視為互補(bǔ)力量的文化至關(guān)重要，在這種文化中，人們可以挑戰(zhàn)人工智能的輸出。此外，設(shè)計(jì)更透明的系統(tǒng)，為人工智能決策提供可理解的解釋，可以確保更好的審查和理解，有助于防止對(duì)人工智能的“黑箱”感知。
“價(jià)值鎖定”（Value lock-in）指的是人工智能系統(tǒng)放大或鞏固現(xiàn)有價(jià)值觀、信仰或偏見(jiàn)的風(fēng)險(xiǎn)，可能對(duì)國(guó)防行動(dòng)構(gòu)成挑戰(zhàn)。這可能導(dǎo)致基于固有偏見(jiàn)的決策失衡，甚至由于人工智能系統(tǒng)中反映的不同文化或倫理價(jià)值觀而影響國(guó)際合作。
減輕這種風(fēng)險(xiǎn)需要一些必要的措施：首先，對(duì)人工智能系統(tǒng)的偏見(jiàn)進(jìn)行持續(xù)測(cè)試和審計(jì)應(yīng)該作為一個(gè)標(biāo)準(zhǔn)程序。其次，在為人工智能系統(tǒng)設(shè)定目標(biāo)和價(jià)值觀時(shí)融入不同的觀點(diǎn)，讓來(lái)自不同領(lǐng)域的專家參與進(jìn)來(lái)，可以幫助確保價(jià)值觀的平衡。最后，提高人工智能開(kāi)發(fā)的透明度，使人工智能系統(tǒng)的決策過(guò)程和訓(xùn)練數(shù)據(jù)公開(kāi)接受審查，可以幫助識(shí)別和解決潛在的價(jià)值鎖定偏見(jiàn)。
還有一個(gè)與價(jià)值鎖定相關(guān)的問(wèn)題——“偏見(jiàn)”。人工智能系統(tǒng)反映了它們所接受訓(xùn)練的數(shù)據(jù)，可能會(huì)無(wú)意中存在偏見(jiàn)。在國(guó)防方面，這些偏見(jiàn)會(huì)影響關(guān)鍵功能，從指揮、控制、通信、計(jì)算機(jī)、情報(bào)、監(jiān)視與偵察（C4ISR）活動(dòng)到威脅識(shí)別和任務(wù)規(guī)劃。
所有的系統(tǒng)都存在固有偏見(jiàn)，關(guān)鍵在于如何識(shí)別和減少可能影響軍事戰(zhàn)備和能力的偏見(jiàn)。如果缺乏謹(jǐn)慎的管理，偏見(jiàn)會(huì)影響戰(zhàn)略決策，可能會(huì)損害態(tài)勢(shì)感知和其他關(guān)鍵防御功能。針對(duì)這一問(wèn)題提出的解決方案包括使用具有廣泛代表性的訓(xùn)練數(shù)據(jù)，對(duì)人工智能系統(tǒng)中的偏差進(jìn)行持續(xù)審計(jì)，可以實(shí)時(shí)檢測(cè)和糾正。此外，人在回路的關(guān)鍵決策方法增加了額外的審查層，有助于管理和減輕可能影響軍事能力和任務(wù)執(zhí)行的偏見(jiàn)，最終最大限度地提高人工智能對(duì)國(guó)防行動(dòng)的有益貢獻(xiàn)。
人工智能系統(tǒng)被利用進(jìn)行“欺騙”的能力不僅限于“深度偽造”，即通過(guò)數(shù)字處理扭曲現(xiàn)實(shí)的視頻或圖像。一個(gè)擔(dān)憂是人工智能驅(qū)動(dòng)的網(wǎng)絡(luò)欺騙，人工智能可能被用來(lái)發(fā)動(dòng)復(fù)雜的賽博攻擊、掩蓋入侵，甚至制造誘餌目標(biāo)來(lái)轉(zhuǎn)移國(guó)防資源。這種欺騙策略會(huì)削弱威脅檢測(cè)能力，破壞通信渠道，威脅關(guān)鍵任務(wù)系統(tǒng)。
另一個(gè)擔(dān)憂是人工智能可以增強(qiáng)心理行動(dòng)，人工智能可以用來(lái)制造虛假信息活動(dòng)，利用個(gè)人或群體的脆弱性來(lái)影響士氣、造成混亂、破壞對(duì)指揮結(jié)構(gòu)的信任。人工智能還可以用于戰(zhàn)場(chǎng)欺騙。
為了減輕這些威脅，先進(jìn)的基于人工智能的檢測(cè)工具可以幫助識(shí)別和打擊欺騙性的人工智能戰(zhàn)術(shù)。部署可識(shí)別人工智能欺騙模式的機(jī)器學(xué)習(xí)算法，對(duì)于預(yù)先防范賽博攻擊或虛假信息宣傳至關(guān)重要。數(shù)字取證是另一個(gè)關(guān)鍵技術(shù)。對(duì)數(shù)字證據(jù)的嚴(yán)格分析可以發(fā)現(xiàn)人工智能產(chǎn)生的欺騙跡象。在組織方面，提高國(guó)防人員的意識(shí)和應(yīng)變能力至關(guān)重要。定期對(duì)最新的人工智能欺騙策略進(jìn)行培訓(xùn)，可以幫助人員識(shí)別潛在的威脅。對(duì)未經(jīng)證實(shí)的信息保持懷疑態(tài)度，也可以加強(qiáng)對(duì)人工智能引起的心理行動(dòng)的防御。
人工智能的崛起引發(fā)了人們對(duì)失業(yè)的擔(dān)憂。這種轉(zhuǎn)變可能會(huì)擾亂關(guān)鍵任務(wù)，造成社會(huì)經(jīng)濟(jì)影響，影響士氣并減少軍隊(duì)積累的知識(shí)和經(jīng)驗(yàn)。想要減輕這些擔(dān)憂需要制定積極的計(jì)劃，人員的技能提升和再培訓(xùn)計(jì)劃可以為未來(lái)與人工智能集成做好準(zhǔn)備，提高有效管理人工智能系統(tǒng)的能力。
最后，令人擔(dān)心的是人工智能本身的“武器化”，人工智能武器將突破科幻小說(shuō)的限制，成為現(xiàn)實(shí)。人工智能和自主系統(tǒng)的快速發(fā)展使武器編程能夠獨(dú)立選擇和攻擊目標(biāo)，打開(kāi)了潘多拉的盒子。由人工智能驅(qū)動(dòng)的自主武器可能涵蓋所有領(lǐng)域，從具有先進(jìn)瞄準(zhǔn)能力的導(dǎo)彈系統(tǒng)到能夠在最少人為干預(yù)的情況下進(jìn)行監(jiān)視或打擊的自主無(wú)人機(jī)。人工智能還可以用于賽博作戰(zhàn)，以人類無(wú)法比擬的速度為自動(dòng)化攻擊或防御提供動(dòng)力。此外，人工智能可以進(jìn)行廣泛的數(shù)據(jù)收集，幫助識(shí)別威脅和制定戰(zhàn)略決策。
然而，除了人工智能潛在的能力之外，存在的問(wèn)題也令人擔(dān)憂。首先，人工智能自主決策的能力引發(fā)了關(guān)于戰(zhàn)爭(zhēng)問(wèn)責(zé)制的嚴(yán)重倫理、道德和法律問(wèn)題。如果自主武器做出錯(cuò)誤的決定，導(dǎo)致意外的平民傷亡，誰(shuí)來(lái)承擔(dān)責(zé)任？如何確保人工智能武器遵守戰(zhàn)爭(zhēng)規(guī)則和國(guó)際法？雖然這些問(wèn)題至關(guān)重要，但并不是在人工智能武器化時(shí)代所面臨的所有問(wèn)題，還有一個(gè)同樣緊迫的問(wèn)題：在全球人工智能和軍事能力軍備競(jìng)賽中落后的風(fēng)險(xiǎn)。世界各國(guó)都在積極發(fā)展人工智能技術(shù)，以增強(qiáng)軍事能力。跟不上人工智能發(fā)展步伐的國(guó)家會(huì)發(fā)現(xiàn)自己在戰(zhàn)場(chǎng)上處于戰(zhàn)略劣勢(shì)。
3
解決方法
要解決這些復(fù)雜問(wèn)題，必須采取多管齊下的辦法。應(yīng)該考慮嚴(yán)格的國(guó)際監(jiān)管、人工智能武器開(kāi)發(fā)的透明度和健全的問(wèn)責(zé)制度。但除此之外，各國(guó)還應(yīng)該投資自己的人工智能開(kāi)發(fā)，以跟上全球進(jìn)步的步伐。各國(guó)應(yīng)該合作，而不僅僅是競(jìng)爭(zhēng)，為國(guó)防領(lǐng)域使用人工智能建立國(guó)際標(biāo)準(zhǔn)和規(guī)范。
解決這些問(wèn)題需要采取綜合辦法。健全的道德準(zhǔn)則、嚴(yán)格的測(cè)試、透明度和培訓(xùn)至關(guān)重要。必須專注于使用人工智能來(lái)增強(qiáng)人類的能力，而不是取代人類。人工智能治理需要確保與人類價(jià)值觀保持一致，必須對(duì)潛在的欺騙或偏見(jiàn)保持警惕。
盡管存在這些擔(dān)憂，但人工智能在國(guó)防領(lǐng)域的應(yīng)用也帶來(lái)了巨大的機(jī)遇。當(dāng)前的發(fā)展目標(biāo)不應(yīng)該是阻止人工智能的進(jìn)步，而應(yīng)該是深思熟慮地管理人工智能。通過(guò)主動(dòng)承認(rèn)和積極解決這些問(wèn)題，使人工智能在不損害安全、能力、戰(zhàn)備或社會(huì)價(jià)值觀的情況下為國(guó)防做出重大貢獻(xiàn)。
關(guān)鍵詞：
