斯考克羅夫特戰略與安全中心致力於製定可持續的、無黨派的戰略,以應對美國及其盟友和夥伴麵臨的最重要的安全挑戰。該中心支持美國在與盟國、夥伴的合作中發揮領導作用,以及對培養下一代領導人提供指導。

執行摘要

在過去的幾年裏,世界各地的軍隊對發展人工智能(AI)的興趣和投資有所增加,以支持一係列多樣化的國防和國家安全目標。然而,對於什麼是人工智能,它如何影響美國和中國之間的戰略競爭,以及如何為這個部署軍事人工智能的新時代優化國防工業基礎,仍然缺乏普遍的理解。現在已經到了在人工智能方麵見仁見智的時候了,在政策界和技術界之間建立對現代人工智能的共同理解,並在國防部(DoD)和其工業夥伴之間統一觀點和優先事項。因此,本文討論了以下核心問題。

(1)什麼是人工智能,為什麼國家安全政策製定者應該關心?

人工智能的能力有可能為美國國家安全和國防帶來改變遊戲規則的優勢,包括

對人工智能作為威懾和贏得未來戰鬥所必需的關鍵能力,在美國防部內部得到了重視,美國防部在過去五年裏對人工智能進行了顯著的投資。但是,五角大樓以外的政策製定者,以及公眾和正在開發人工智能技術的公司,都需要更好地了解當今人工智能的能力和局限性,並清楚地認識到人工智能對國家安全的積極影響和潛在的破壞性影響。

(2)為什麼人工智能對戰略競爭至關重要?

五角大樓對人工智能的興趣也必須從與中國--以及在較小程度上與俄羅斯--的戰略競爭加劇的角度來看待,人們越來越理解在人工智能和相關新興技術方麵的落後可能會損害美國軍隊自冷戰結束以來所保持的戰略、技術和行動優勢。一些國防領導人甚至認為,美國已經在軍事技術競爭中輸給了中國。

雖然本文不讚同這種宿命論的觀點,但本文認為軍事人工智能競爭的賭注很大,而且時間很短。

(3)美國防部采用人工智能的障礙是什麼?

五角大樓臭名昭著的官僚主義、陳舊的采購和合同製度以及規避風險的組織文化,繼續抑製著美國防部引進外部創新和更快地走向廣泛的人工智能整合和采用的能力。解決這種係統性問題是一個很高的要求。但是,為促進美國防部與商業技術部門和創新初創企業的接觸,已經在進行重要的變革,而且似乎有一種共同的緊迫感,即鞏固這些公私夥伴關係,以確保美國持續的技術和軍事優勢。然而,在統一美國防部及其行業夥伴對人工智能發展最具影響力領域的看法,以及闡明和實施共同的技術標準和測試機製以實現可信賴和負責任的人工智能方麵,仍有許多工作要做。

主要收獲和建議

國防部必須迅速行動起來,從對人工智能重要性的廣泛認可過渡到創建路徑、流程、實踐和原則,以加速采用人工智能技術所帶來的能力。如果沒有有意的、協調的和立即的行動,美國有可能在利用主導未來動能和非動能戰場的製勝技術方麵落後於競爭對手。本報告為美國防部確定了三個行動方案,這些方案可以幫助確保美國軍隊保持其在人工智能領域的全球領先地位,促進更迅速地采用人工智能所需的內部變革,並利用充滿活力和多樣化的美國創新生態係統,包括

本報告是在美國防部采用人工智能努力過程中和全球地緣政治的未來軌跡方麵既合適又充滿不確定性的時候發表的。正在進行的烏克蘭衝突使限製獨裁者控製領土、人口、標準和言論的重要性變得非常明顯,而致力於維護長期國際行為規範的聯盟可以在這一努力中發揮作用。因此,作者敦促美國防部在政府層麵,並在可能的情況下在工業層麵與美國的盟友和可信賴的夥伴進行接觸和整合,以更好地實施本文的三項主要建議。

1 簡介

人工智能為國防政策製定者提供了一個重要的機會。人工智能處理和融合信息的能力,以及將數據提煉為增強決策的能力,可以在一個混亂的、有爭議的環境中撥開 "戰爭的迷霧",在這個環境中,速度是王道。人工智能還可以釋放出新型可損耗和一次性無人係統的可能性,從而增強威懾力。例如,它可以幫助保障美國軍人的生命,為指導衝突地區自主補給卡車的導航軟件提供動力。雖然人類仍然負責對目標做出最終決定,但人工智能算法在幫助情報專業人員識別和追蹤惡意行為者方麵正日益發揮作用,目的是 "縮短殺戮鏈,加快決策速度"。

由於美國所處的更廣泛的地緣戰略背景,特別是與中國的戰略競爭,人工智能的發展和整合也勢在必行。中國人民解放軍(PLA)在人工智能方麵的預算似乎與美國軍隊相當,而且解放軍正在為同樣廣泛的應用和能力開發人工智能技術,包括訓練和模擬、蜂群自主係統和信息操作,以及其他許多方麵,所有這些都可能取代美國的軍事技術優勢。

正如美國國防部長勞埃德-奧斯汀在2021年7月指出的那樣,"中國的領導人已經明確表示,他們打算在2030年之前在人工智能方麵成為全球主導。北京已經談及將人工智能用於一係列任務,從監視到網絡攻擊到自主武器"。美國不能落後於中國或其他競爭對手。

為了加快人工智能的采用,五角大樓必須麵對它的弊端:一個孤立的官僚機構,它阻礙了有效的數據管理努力,並阻礙了大規模利用美國防部數據所需的技術基礎設施;陳舊的采購和合同流程,抑製了國防部引進外部創新和將成功的人工智能技術原型過渡到生產和部署;以及一種規避風險的文化,與已知的促進創新的開放、實驗和容忍失敗的類型不一致。

目前正在進行一些努力來解決其中的一些問題。直接向美國防部副部長報告的首席數據和人工智能官(CDAO)角色最近被宣布,以合並首席數據官辦公室、聯合人工智能中心(JAIC)和國防數字服務(DDS)。這一重組將美國防部的數據和人工智能工作置於一個屋簷下,以消除重疊的權力,原來的這種權力重疊性使得人工智能項目的規劃和執行變得困難。擴大使用替代性收購方法,像國防創新單位(DIU)和空軍的AFWERX正在彌合與商業技術部門的差距,特別是初創企業和非傳統供應商。盡管如此,一些技術領導人認為這些努力還不夠,警告說 "時間不多了"。

隨著美國國防部轉向大規模采用人工智能,本報告試圖提供有關現代人工智能未解決問題的見解,總結中國、俄羅斯在軍事人工智能發展方麵的關鍵進展,並強調整個美國防部一些最引人注目的人工智能使用案例。報告還簡要評估了美國防部與其行業夥伴之間的不協調,這些不協調繼續阻礙五角大樓獲得美國軍隊所需的改變遊戲規則的技術,以阻止對手的侵略並主導未來的戰場。

然而,競爭的緊迫性決不能掩蓋對指導美國軍隊進入人工智能時代的道德準則。因此,報告重申,有必要將美國防部的人工智能道德準則有效地轉化為評估可信度的共同技術標準和評估指標,並加強與國防部的行業合作夥伴--特別是初創企業和非傳統供應商在這些關鍵問題上的合作和協調。

在本報告的最後,為政策製定者和整個國家安全生態係統的其他人工智能利益相關者提出了一些考慮。具體而言,敦促美國防部優先考慮安全、可靠、可信和負責任的人工智能開發和部署,調整國防部和行業之間的人工智能發展的關鍵優先事項,以幫助縮小美國防部的人工智能能力差距,並促進領先的國防技術公司和非傳統供應商之間的協調,以加快國防部的人工智能采用進程。

2 人工智能創新和應用中的軍事競爭

推動美國防部人工智能開發和采用工作的緊迫性在很大程度上源於確保美國及其盟國在軍事技術競爭中超過中國,這種競爭已經主導了兩國之間的關係。俄羅斯的技術能力遠沒有那麼發達,但其侵略行為破壞了全球安全,並威脅到美國和北約的利益。

中國

中國已將對人工智能的投資優先用於國防和國家安全,作為其努力成為 "世界級軍隊"的一部分,並在未來的 "智能化"戰爭中獲得優勢--人工智能(與其他新興技術一起)通過 "網絡化、智能化和自主係統和設備 "更完全地融入軍事係統和行動。

雖然中國人工智能相關活動的全部範圍並不廣為人知,但美國安全與新興技術中心(CSET)在2021年10月對343份與人工智能相關的中國軍事合同的審查估計,解放軍 "每年在人工智能相關的係統和設備上花費超過16億美元"。美國國家人工智能安全委員會(NSCAI)的最終報告評估說,"中國的計劃、資源和進展應該引起所有美國人的關注。它在人工智能的許多應用領域處於全球同等水平,而在一些應用領域是人工智能的領導者"。

CSET的審查和其他開源評估顯示,中國的人工智能發展的重點領域,就像美國的一樣廣泛,包括:

這些領域中的每一個進展都對美國在與中國的軍事技術競爭中保持同步的能力構成了挑戰。然而,值得研究的是,中國在兩個領域的進步能力可能對軍事平衡產生特別有力的影響

(1)整合

首先,人工智能可以通過人為地加強軍事整合和跨域作戰,幫助解放軍彌補作戰準備方麵的差距。許多觀察家指出,解放軍缺乏衝突中的作戰經驗是一個關鍵的弱點。盡管從技術角度來看,中國不斷推進的軍事現代化令人印象深刻,但在過去二十年裏,解放軍的人員都沒有像美國軍隊那樣在高端衝突中接受過火力考驗。解放軍繼續努力從組織和理論的角度提高其"聯合性",這也是剛剛起步,沒有經過測試。

使用人工智能來提高模擬和兵棋推演的質量、保真度和複雜性,是解放軍糾正這一關切領域的一種方式。新美國安全中心2019年的一份報告指出,"對中國軍事戰略家來說,從AlphaGo的勝利中學到的教訓之一是,人工智能可以在一場可以比作兵棋推演的遊戲中創造出優於人類玩家的戰術和策略。"這可以更艱巨地考驗解放軍的決策者,改善指揮決策。事實上,CSET報告發現,在所調查的343份合同中,有百分之六是在模擬和訓練中使用人工智能,包括使用人工智能係統對台灣突發事件進行戰爭演練。

圖:在美國國防部高級研究計劃局(DAPRA)的AlphaDogfight試驗中,一名作戰的F-16飛行員在虛擬現實模擬器中與Heron係統公司開發的冠軍F-16人工智能代理進行飛行。Heron人工智能代理在連續五場鬥狗比賽中擊敗了人類飛行員,結束了試驗。資料來源:DARPA, https://www.darpa.mil/news-events/2020-08-26

注重人工智能整合以減少經驗中的感知漏洞也適用於作戰和戰術訓練。2021年7月,中國出版物《環球時報》報道說,解放軍空軍(PLAAF)已經開始在飛行員的空戰訓練中部署人工智能作為模擬對手,以 "磨練他們的決策和戰鬥技能,對抗快速計算的計算機"。

除了虛擬模擬,中國還旨在利用人工智能來支持飛行員在真實世界飛機上的訓練。在2020年11月播出的中國中央電視台(CCTV)節目中,中國L-15教練機的總設計師張弘指出,訓練飛機上的人工智能可以 "識別每個飛行員在飛行中的不同習慣。通過管理它們,我們將讓飛行員更安全地成長,在未來獲得更多的戰鬥能力"。

值得注意的是,解放軍空軍2021年7月的人工智能與人類的鬥狗類似於美國國防部高級研究計劃局(DARPA)2020年9月的AlphaDogFight挑戰賽,在一係列五次模擬鬥狗中,一個人工智能代理擊敗了人類飛行員。 同樣,美國在2021年9月宣布與訓練和模擬公司Red 6簽訂合同,將該公司的機載戰術增強現實係統(ATARS)--該係統允許飛行員駕駛真實世界的飛機,使用增強現實耳機與人工智能生成的虛擬飛機進行訓練--整合到T-38 "塔隆"訓練器中,並計劃最終在第四代飛機上安裝該係統。由於中國軍隊正在利用人工智能來提高戰備水平,美國防部不能落後。

(2)自主性

中國人工智能發展的第二個重點領域是自主係統,特別是蜂群技術,其中幾個係統將獨立運行或相互配合,以混淆和壓倒對手的防衛係統。中國對發展蜂群技術的興趣和能力已經得到了很好的證明,包括2017年6月創紀錄地發射了118架小型無人機組成的互聯蜂群。

據報道,2020年9月,中國電子信息研究院(CAEIT)從一輛改裝的東風猛士輕型戰術車上發射了200枚固定翼CH901徘徊彈藥群。2022年2月在阿布紮比舉行的2022年無人駕駛展的調查顯示,不僅中國的參展陣容強大--中國航空技術進出口總公司(CATIC)和中國北方工業公司(NORINCO)都有大型展館,而且還將重點放在 "協作"行動和智能蜂群。

圖:2月在阿布紮比舉行的UMEX 2022展會上展示的協作式蜂群無人機的一個例子。

對蜂群的興趣並不限於無人駕駛飛行器(UAVs)。據《環球時報》報道,中國也在發展部署自主無機組人員水麵飛行器(USVs)群的能力,以"攔截、圍攻和驅逐入侵目標"。 2021年11月,中國公司雲洲科技--它在2018年進行了一個由56個USV組成的蜂群的演示--發布了一段視頻,顯示六個USV進行了 "合作對抗",作為將一艘有船員的船隻從中國水域移走的一部分。不難想象,這種合作對抗可以如何針對美國或盟國的海軍船隻,甚至商業船隻進行部署,以發展或維持海上控製。這種能力在灰色地帶的突發事件中尤為強大,在這種情況下,升級的擔憂可能會限製反應的選擇。

俄羅斯

在人工智能的投資和能力方麵,俄羅斯落後於美國和中國。因烏克蘭戰爭而實施的製裁也可能給俄羅斯的科技部門帶來巨大損失。盡管如此,美國國家決策者不應低估俄羅斯以不對稱的方式使用人工智能技術來破壞美國和北約利益的潛力。俄羅斯國防部有許多自主性和人工智能相關的項目,處於不同的開發和實驗階段,涉及軍事機器人、無人係統、蜂群技術、預警和防空係統、ISR、C2、後勤、電子戰和信息操作。

俄羅斯軍事戰略家認為,在未來的戰場上,更大的自主權和人工智能具有巨大的潛力,可以加快信息處理,增強決策,提高態勢感知,並保障俄羅斯軍事人員的生命安全。自主和人工智能係統的發展和使用也在俄羅斯軍事理論的更廣泛背景下進行討論。其理論重點是利用這些技術來擾亂和破壞對手的指揮和控製係統以及通信能力,並利用非軍事手段在戰爭初期建立信息優勢,從俄羅斯的角度來看,這包括與美國和北約等對手的非軍事衝突時期。

俄羅斯人工智能的發展軌跡是不確定的。但是,由於持續的製裁,俄羅斯很可能會在微電子方麵越來越依賴中國,並在與美國的技術競爭中進一步落後。

3 美國在人工智能方麵的軍事進展概述

五角大樓對人工智能的興趣和緊迫性既是由於技術發展的速度加快,也是由於它所能帶來的變革性能力越來越強。事實上,人工智能正準備從根本上改變軍隊思考、準備、執行和維持行動的方式。根據大西洋理事會以前的報告大綱,"五次革命 "框架對人工智能在五個廣泛的能力領域的潛在影響進行了分類,下麵的圖3說明了人工智能可以通過不同的方式增強人類的認知和身體能力,融合網絡和係統以獲得最佳效率和性能,並在信息空間中迎來一個網絡衝突和混亂的新時代,以及其他影響。

圖3:跨越未來軍事能力發展的五個廣泛目標的人工智能優先發展項目概述。

美國防部目前有六百多項與人工智能相關的工作正在進行中,其願景是將人工智能融入國防部任務的每一個要素--從作戰行動到支持和維持功能,再到支撐龐大的國防部企業的商業運作和流程。美國政府問責局(GAO)2022年2月的一份報告發現,國防部正在追求人工智能的作戰能力,主要集中在"(1)通過情報和監視分析識別目標,(2)向戰場上的作戰人員提供建議(如在哪裏移動部隊或哪種武器最適合應對威脅),以及(3)增加無人駕駛係統的自主性。 "國防部的大多數人工智能能力,特別是與作戰有關的努力,仍處於開發階段,尚未與具體的係統接軌或整合。而且,盡管在實驗中取得了明顯的進展,並在作戰行動中部署人工智能能力方麵取得了一些經驗,但在廣泛采用方麵仍然存在著重大挑戰。

2021年9月,空軍第一任首席軟件官尼古拉-沙伊蘭辭職,以抗議官僚主義和文化挑戰,這些挑戰減緩了技術的采用,阻礙了美國防部以足夠快的速度與中國有效競爭。在沙伊蘭看來,20年後,美國及其盟友 "將沒有機會在一個中國擁有巨大人口優勢的世界中競爭。"後來,他補充說,中國基本上已經贏了,他說,"現在,這已經是一筆交易了。"

沙伊蘭關於美國與中國進行無用競爭的評估肯定不是整個美國防部都認同的,但它反映了許多人認為在該部門規避風險和深思熟慮的文化中缺乏緊迫感。

JAIC的負責人Michael Groen中將同意,"在國防部內部,必須發生文化變革。"然而,他也吹捧了美國的創新能力,並強調建立了一個人工智能加速器,並最終確定了一個聯合共同基金會(JCF),用於人工智能的開發、測試和在國防部各實體之間共享人工智能工具。"支持雲的JCF是向前邁出的重要一步,將允許基於共同標準和架構的人工智能開發。這應有助於鼓勵各軍種和國防部各部門之間的共享,並且根據JAIC的說法,確保 "國防部一個人工智能倡議的進展將在整個國防部企業中形成勢頭。"

雖然取得的進展值得讚揚,但仍然存在障礙,這些障礙延緩了人工智能能力的采用,而這種能力對於在不久的將來遏製威脅,以及應對中國在這十年及以後的競爭挑戰至關重要。

下麵的三個案例研究提供了美國防部人工智能工作中出現的技術、官僚主義和采用方麵的進步的例子。這些案例還強調了阻礙美國在與中國以及在較小程度上與俄羅斯的軍事技術競爭加劇的情況下,充分運用其國家創新生態係統的能力的持久性問題。

圖4:聯合人工智能中心(JAIC)的人工智能采用階段。

用例1:JADC2的不可逆轉勢頭、遠大目標和集成挑戰

五角大樓最重要的現代化優先事項之一是聯合全域指揮與控製(JADC2)計劃,該計劃被描述為 "將所有軍種的傳感器連接到一個單一網絡的概念。"根據美國國會研究服務部的說法,"JADC2打算通過從眾多傳感器收集數據,使用人工智能算法處理數據以識別目標,然後推薦最佳武器(包括動能和非動能武器)來對付目標,使指揮官能夠做出更好的決策。 "如果成功的話,JADC2有可能消除各軍種C2網絡之間的孤島,這些孤島以前減緩了整個部隊的相關信息傳輸。因此,產生更全麵的態勢感知,指揮官可以據此做出更好和更快的決定。

2021年12月,有報道稱JADC2跨職能小組(CTF)將成立一個 "AI for C2 "工作組,該工作組將研究如何利用負責任的AI來加強和加速指揮和控製,這加強了負責任的AI對該項目的核心作用。

2022年3月,美國防部發布了其JADC2實施計劃的非保密版本,用參謀長聯席會議主席馬克-米利將軍的話說,此舉代表了實施JADC2 "不可逆轉的勢頭"。

然而,觀察家們強調,在按照保持(或恢複)感知、處理和認知方麵的優勢所需的緊迫時間表實施JADC2方麵,有幾個持續的挑戰。特別是相對於中國而言。

圖5. JADC2的邏輯圖反映了與國防部JADC2實施計劃相關的複雜性和雄心。資料來源:美國國防部。

數據安全和網絡安全、數據管理和共享問題、與盟友的互操作性以及與軍方網絡整合相關的問題,都被認為是認識到JADC2方法的宏偉前景所麵臨的挑戰。一些人還強調,這種包羅萬象的雄心也是一種挑戰。哈德遜研究所的布萊恩-克拉克和丹-帕特認為,"當今威脅的緊迫性和新技術帶來的機遇要求五角大樓領導人將JADC2的重點從美國軍事部門的需求轉向作戰人員的需求。

可以肯定的是,在人工智能開發和整合項目中,不一定要避免宏偉的野心。然而,采用的途徑將需要在難以實現的、官僚主義的、耗時的和昂貴的目標與開發能夠在美國部隊麵臨的更直接的威脅時限內提供能力和優勢的係統之間取得平衡。

用例2:脆弱的人工智能和將人工智能納入目標的道德和安全挑戰

2021年9月,空軍部長弗蘭克-肯德爾宣布,空軍已經 "首次將人工智能算法部署到實際作戰的殺傷鏈中,這表明部署人工智能的時代確實已經到來。"根據肯德爾的說法,將人工智能納入目標定位過程的目的是 "大大減少人工識別目標的人力密集型任務--縮短殺傷鏈並加快決策速度。" 成功使用人工智能支持目標定位是人工智能發展的一個裏程碑,盡管在更全麵地采用人工智能的作用方麵仍然存在道德、安全和技術挑戰。

例如,2021年美國防部的一項測試強調了人工智能的脆弱性問題。根據Defense One的報道,測試中使用的人工智能目標定位在人工智能不得不從不同角度破譯數據的環境中隻有大約25%的時間是準確的,盡管它認為它有90%的時間是準確的,這表明缺乏 "適應一套狹窄的假設之外條件"的能力。"這些結果說明了今天的人工智能技術在安全關鍵環境中的局限性,並加強了在一係列條件下對人工智能進行積極和廣泛的現實世界和數字世界測試和評估的必要性。

人工智能目標定位的道德和安全也可能構成對進一步采用的挑戰,特別是隨著對人工智能算法的信心增加。空軍的行動涉及自動目標識別的輔助作用,協助 "情報專家"--即人類決策者。當然,國防部有一個嚴格的目標定位程序,人工智能的目標定位算法將是其中的一部分,再往前想,自主係統將必須通過這一程序。然而,即使它們是這一程序的一部分,並被設計用來支持人類的決定,高錯誤率加上對人工智能輸出的高度信任,有可能導致不理想或嚴重的結果。

用例3:人工智能在信息領域應用的局限性

與中國和俄羅斯日益激烈的競爭正在信息和網絡領域上演,對美國安全以及美國經濟、社會和政體具有真實、持久和破壞性的影響。

對於網絡和信息行動來說,人工智能技術和技能是未來進攻和防禦行動的核心,突出了人工智能在信息領域的危險性和前景。

人們對智能機器人、合成媒體的威脅越來越關注,例如描述沒有發生過的事件或聲明的逼真視頻或音頻製品,以及能夠創造出令人信服的散文和文本的大型語言模型。雖然虛假信息是一個需要社會和整個政府應對的挑戰,但國防部無疑將在管理和應對這一威脅方麵發揮關鍵作用--由於其在美國政治和社會中的突出地位,其職能作用的性質,以及其持續活動的影響。

人工智能在五角大樓和其他美國政府檢測機器人和合成媒體的努力中處於領先地位。例如,DARPA的MediaForensics(MediFor)項目正在使用人工智能算法來 "自動量化圖像或視頻的完整性"。

然而,鑒於合成媒體通過社交媒體的傳播速度,人們對這種檢測的速度表示擔憂。正如聯合參謀部首席信息官丹尼斯-克拉爾中將所觀察到的,"機器和人工智能贏得其中一些信息運動的速度改變了我們的遊戲......數字化轉型、預測分析、ML、人工智能,它們正在改變遊戲......如果我們不匹配這種速度,我們將使其達到正確的答案,而這種正確的答案將完全不相關。"

4 加快美國防部AI的應用

正如上麵的討論所示,美國防部在成功部署人工智能信息管理和決策支持工具的基礎上,有一係列廣泛的人工智能相關舉措,處於不同的發展和實驗階段。隨著重點轉向整合和擴展,加快這些采用工作對於保持美國在與中國的戰略競爭中的優勢以及有效遏製俄羅斯至關重要。

在這一節中,本文強調了美國防部與其工業夥伴之間關係的一些不協調,這些不協調可能會導致失去創新和有影響力的人工智能項目的機會,擴大使用替代采購方法的積極影響,以及日益緊迫的調整過程和時間表,以確保美國軍隊能夠獲得未來戰爭的高水準技術能力。此外,本節還討論了國防部實施道德人工智能原則的方法,以及與可信和負責任係統的標準和測試有關的問題。

4.1 美國防部和工業界的夥伴關係:統一觀點、流程和時間安排

盡管國防部已經發布了一些高級別文件,概述了人工智能發展和部署的優先領域,但市場滿足,甚至理解這些需求的能力還遠遠不夠。最近,IBM對來自全球國防組織的250名技術領導人進行了調查,揭示了國防技術領導人和國防部如何看待人工智能對組織和任務的價值的一些重要差異。例如,隻有約三分之一的受訪技術領導人表示,他們認為人工智能對軍事後勤、醫療和健康服務以及信息操作和深層假想有重大的潛在價值。當被問及人工智能支持的解決方案對商業和其他非戰鬥應用的潛在價值時,不到三分之一的人提到了維護、采購和人力資源。

這些觀點與國防部在人工智能方麵的目標有些不一致。例如,包括設備維護和采購在內的軍事後勤和維持職能是國防部實施人工智能的首要任務之一。Leidos與退伍軍人事務部的合作也說明了人工智能在醫療和健康服務方麵的潛力。最後,隨著人工智能在虛假信息運動中的使用已經開始,正如上一節的討論所強調的那樣,迫切需要開發技術措施和人工智能支持的工具,以檢測和反擊人工智能驅動的信息行動。

國防部及其行業夥伴基於各自的問題集和任務,有不同的優先事項和激勵措施。但是,對人工智能發展的有價值和關鍵領域的不同觀點可能會導致失去有影響力的人工智能項目的機會。也就是說,即使五角大樓和它的工業夥伴在人工智能方麵意見一致,有效的合作也常常被一個笨拙的官僚機構所阻撓,這個機構常常被傳統的流程、結構和文化束縛。

國防部的預算規劃、采購、收購和簽約流程,總的來說,不是為購買軟件而設計的。這些 這些體製上的障礙,再加上複雜而冗長的軟件開發和合規條例,對小型初創企業和非傳統供應商來說尤其困難,因為他們缺乏資源、人員和事先的知識,無法像國防部的主要部門那樣駕馭這個係統。

國防部清楚地意識到這些挑戰。自2015年以來,國防部長辦公室和各軍種已經建立了幾個實體,如DIU、AFWERX、NavalX和陸軍應用實驗室,與商業技術部門,特別是初創企業和非傳統供應商對接,目的是加速提供同類最佳的技術解決方案。同時,國防部還采取了其他值得注意的措施,以促進使用替代性的采購和合同,這為構建和執行協議提供了比傳統采購更大的靈活性。這些包括 "其他交易授權、中間層采購、快速原型設計和快速投入使用以及軟件采購的專門途徑"。

DIU一直處於使用其中一些替代性采購途徑的前沿,從商業技術部門采購人工智能解決方案。空軍的AFWERX還與空軍研究實驗室和國家安全創新網絡合作,創新地利用小企業創新研究(SBIR)和小企業技術轉讓(STTR)資金,以 "提高項目的效率、有效性和過渡率"。例如,在2021年6月,美國空軍SBIR/STTR人工智能投標日向關於 "可信人工智能,這表明係統是安全、可靠、強大、有能力和有效的 "主題的提案提供了超過1800萬美元。

這些都是朝著正確的方向邁出的步伐,而且確實變得更容易獲得國防部的研究、開發和原型製作資金。然而,及時獲得生產資金仍然是一個重大挑戰。這個 "死亡之穀 "的問題--研究和開發階段與一個既定的、有資金記錄的項目之間的差距--對於非傳統的國防公司尤其嚴重,因為風險資本對初創企業的資助周期與將一個項目納入國防部預算所需的時間之間存在差異。

五角大樓明白,彌合 "死亡之穀 "對於推進和擴大創新至關重要,並在最近啟動了快速國防實驗儲備,以處理這些問題。然而,使預算規劃、采購和簽約流程與私人資本的步伐相一致所需的係統性變化,需要國會采取行動,並可能需要數年時間來實施。在實施這些改革方麵的延誤正在損害國防部獲得尖端技術的能力,而這些技術在未來的戰場上可能是至關重要的。

4.2 建立可信賴和負責任的人工智能係統

確保美國軍隊能夠使用安全可信的人工智能和自主係統,並按照國際人道主義法律使用這些係統,將有助於美國保持其競爭優勢,以對抗俄羅斯等對人工智能的道德使用承諾較少的專製國家。強調值得信賴的人工智能也是至關重要的,因為國防部的大多數人工智能項目都需要人機合作和協作的元素,它們的成功實施在很大程度上取決於操作者對係統的足夠信任和使用。最後,國防部和行業夥伴之間就可信和負責任的人工智能的共享標準和測試要求進行更密切的協調,對於推進國防部人工智能的采用至關重要。

除了國防部現有的武器審查和目標程序,包括自主武器係統的協議,該部門還在尋求解決倫理、法律和政策的模糊性,以及人工智能更具體的風險。2020年2月,五角大樓通過了五項道德原則來指導人工智能的發展和使用,呼籲人工智能是負責任的、公平的、可追溯的、可靠的和可治理的。為了將這些原則付諸實踐,國防部副部長凱瑟琳-希克斯發布了一份備忘錄,指示采取一種 "整體的、綜合的和有原則的方法 "來整合負責任的人工智能(RAI),包括六個原則:管理、作戰人員的信任、產品和采購生命周期、需求驗證、負責任的人工智能生態係統和人工智能勞動力。

同時,2021年11月,DIU發布了其負責任的人工智能指導方針,響應了備忘錄中對 "工具、政策、流程、係統和指導 "的呼籲,將道德的人工智能原則納入該部門的采購政策。這些指導方針是在國防部人工智能項目中操作和實施道德的具體步驟,建立在DIU在預測健康、水下自主、預測性維護和供應鏈分析等領域的人工智能解決方案的經驗上。它們的目的是可操作的、自適應的和有用的,同時確保人工智能供應商、國防部利益相關者和DIU項目經理在人工智能係統生命周期的規劃、開發和部署階段考慮到公平、問責和透明度。

國防部人工智能項目的成功將在很大程度上取決於確保人類發展並保持對其智能機器隊友的適當信任。因此,國防部對可信人工智能的強調越來越多地體現在其一些旗艦人工智能項目中。例如,2020年8月,DARPA的空戰進化(ACE)項目吸引了大量的關注,因為一個人工智能係統在模擬的空中鬥犬比賽中擊敗了空軍的一名頂級F-16戰鬥機飛行員。 ACE的一個關鍵問題是 "如何讓飛行員足夠信任人工智能並使用它",而不是讓人類與機器對決。ACE選擇了鬥狗場景,很大程度上是因為這種類型的空對空戰鬥包含了許多成為戰鬥機飛行員群體中值得信賴的夥伴所必需的基本飛行動作。讓人工智能掌握作為更複雜任務基礎的基本飛行動作,如壓製敵方防空係統或護送友軍飛機。根據ACE項目經理的說法,AlphaDogfight試驗是 "關於增加對人工智能的信任"。

人工智能的發展速度很快,因此很難設計和實施一個足夠靈活的監管結構,以保持相關性,同時又不至於限製性太強而扼殺創新。與國防部合作的公司正在尋求符合國防部人工智能道德原則的人工智能係統的開發、部署、使用和維護的指導方針。這些行業夥伴中的許多人已經采用了他們自己的可信和負責任的人工智能解決方案的框架,強調了安全、安保、穩健、彈性、問責製、透明度、可追溯性、可審計性、可解釋性、公平性和其他相關質量等屬性。

圖:2021年10月19日,在亞利桑那州尤馬試驗場,一名美國陸軍士兵使用戰術機器人控製器來控製遠征模塊化自主車輛,作為準備 "聚合項目 "的練習活動。在 "聚合項目21 "期間,士兵們試驗了使用這種車輛進行半自主偵察和再補給。無論是在戰場上還是在戰場之外,對自主和半自主車輛等人工智能能力的信任對於成功至關重要。

目前,對於什麼是道德或值得信賴的人工智能係統,沒有共同的技術標準,這可能會使非傳統的人工智能供應商難以設定預期,並在官僚機構中穿梭。國防部不直接負責製定標準。相反,2021年國防授權法案(NDAA)擴大了國家標準與技術研究所(NIST)的任務,"包括推進人工智能的合作框架、標準、指導方針,支持開發人工智能係統的風險緩解框架,並支持開發技術標準和指導方針,以促進值得信賴的人工智能係統"。2021年7月,NIST在製定其人工智能風險管理框架時,向利益相關者發出了信息請求,旨在幫助組織 "將可信性考慮納入人工智能產品、服務和係統的設計、開發、使用和評估"。

對這一挑戰沒有簡單的解決方案。但是,讓政府、行業、學術界和民間社會的利益相關者參與進來的合作過程可以幫助防止人工智能的發展走上社交媒體的道路,在社交媒體上,公共政策未能預測到虛假信息和其他惡意活動在這些平台上造成的風險和損失,而且反應緩慢。

與標準相關的是與測試、評估、驗證和確認(TEVV)相關的挑戰。測試和驗證過程是為了 "幫助決策者和操作者了解和管理開發、生產、操作和維持人工智能係統的風險",對於建立對人工智能的信任至關重要。國防部目前的TEVV協議和基礎設施主要是針對主要的國防采購項目,如船舶、飛機或坦克;它是線性的、順序的,而且一旦項目過渡到生產和部署,最終是有限的。然而,對於人工智能係統,"開發從未真正完成,所以測試也是如此。"因此,像人工智能這樣的適應性強、不斷學習的新興技術需要一個更加敏捷和迭代的開發和測試方法,正如NSCAI建議的那樣,"將測試作為需求規範、開發、部署、培訓和維護的持續部分,包括運行時監測操作行為。"

建立在開發、安全和運營(DevSecOps)的商業最佳實踐基礎上的綜合和自動化的開發和測試方法,更適合於人工智能/ML係統。雖然JAIC的聯合基金有可能實現真正的人工智能DevSecOps方法,但在整個國防部擴大這種努力是一個重大挑戰,因為它需要對當前的測試基礎設施進行重大改變,以及更多的資源,如帶寬、計算支持和技術人員。也就是說,如果不開發更適合人工智能的新測試方法,不調整當前的測試基礎設施以支持迭代測試,將阻礙大規模整合和采用可信和負責任的人工智能的努力。

上述關於標準和TEVV的討論概括了現代人工智能係統對現有國防部框架和流程的獨特挑戰,以及商業技術公司和國防部對人工智能開發、部署、使用和維護的不同方法。為了加速人工智能的采用,國防部及其行業夥伴需要在具體的、現實的、與操作相關的標準和性能要求、測試過程和評估指標上更好地保持一致,並納入道德的人工智能原則。一個以可信和負責任的人工智能為導向的國防技術生態係統可以促進最佳做法的相互交流,並降低非傳統供應商和初創公司所麵臨的官僚主義和程序性障礙。

5 主要收獲和建議

充分發揮人工智能推動成本和時間效率的能力,支持人類決策者,並實現自主性,將需要更多的技術進步或開發新的作戰概念。下麵,我們概述了優先努力的三個關鍵領域,以更成功地將人工智能納入整個國防部事業,並確保美國能夠阻止威脅,並保持對其競爭對手和潛在對手的戰略、戰役和戰術優勢。

5.1 優先考慮安全、可靠、受信任和負責任的人工智能開發和部署

與中國日益激烈的戰略競爭,精湛的技術和強有力作戰能力,以及與私營部門快速的技術開發和整合速度的比較,都給國防部帶來了壓力,使其更快地走向人工智能係統的實戰。在人工智能發展中鼓勵更大的風險容忍度,以便在大規模采用人工智能方麵取得進展,這有很多好處。但是,僅僅為了 "超越 "中國而匆忙部署容易受到一係列對手攻擊的人工智能係統,並且很可能在作戰環境中失敗,這將被證明是適得其反。

指導美國軍隊的道德準則反映了對遵守戰爭法則的基本承諾,而此時,一些獨裁國家對人權和人道主義原則很不重視。同時,國防部對新能力的測試和保證采取了嚴格的方法,旨在確保新武器的使用是負責任的和適當的,並盡量減少事故、誤用和濫用係統和能力的風險,因為這可能會產生危險,甚至是災難性的影響。美國與許多盟友和夥伴共享的這些價值觀和原則,在與專製國家競爭時是一種戰略資產,因為它們正在部署人工智能軍事係統。為了鞏固國防部在這個領域的優勢,我們建議采取以下步驟。

圖:人工智能可以極大地重塑未來的戰場。為了實現這一願景,美國防部必須采取關鍵步驟,有效利用人工智能。資料來源:美國陸軍。

i. 加強對道德、安全和負責任的人工智能的重視,將其作為全日空防務夥伴關係的一部分,通過評估成員方法的共同點和差異,確定未來聯合項目和合作的具體機會。

ii. 與 "五眼"、北約和AUKUS夥伴交叉分享和實施聯合道德項目。除了支持互操作性,這將增加視角和經驗的多樣性,並有助於確保人工智能發展工作限製各種形式的偏見。正如本項目所采訪的一位前將軍所指出的,"多樣性是我們確保可靠性的方式。它是必不可少的。"

iii. 擴大與不同能力和地域的盟友和合作夥伴的聯係,包括印度、南非、越南,以探索雙邊和多邊研發工作和技術共享計劃的機會,解決可信和負責任的人工智能的技術屬性。

5.2 調整人工智能發展的關鍵優先事項,加強國防部和工業夥伴之間的協調,以幫助縮小國防部人工智能能力的差距

如果不與廣泛的技術公司建立密切的夥伴關係,國防部將無法實現其在人工智能方麵的雄心壯誌,並與中國通過軍民融合采購技術創新的模式進行有效競爭。這包括與五角大樓有長期聯係的國防工業領導人,處於全球創新前沿的技術巨頭,尋求擴大其政府投資組合的商業技術參與者,以及處於人工智能發展前沿的初創企業。但是,國防部的預算規劃、采購、收購、簽約和合規流程可能需要從根本上進行重組,以有效地與這個充滿活力和多樣化的技術生態係統的整體接觸。

係統性變革是一個緩慢而艱巨的過程。但是,拖延這一過渡有可能使美國軍隊在利用人工智能承諾提供的優勢方麵落後,從作戰速度到決策主導權。同時,以下行動可以幫助改善與行業夥伴的協調,以加快國防部采用人工智能的努力。

5.3 促進領先的國防技術公司和非傳統供應商之間的協調,以加快美國防部人工智能的采用

在中短期內,美國防部將不會建立全新的人工智能係統,而是將人工智能整合到一係列現有的軟件和硬件係統中--從網絡防禦架構到戰鬥機到C2。因此,實施人工智能的進展也將取決於簡化國防部一直在爭取的創新和尖端技術的初創公司和非傳統人工智能供應商與負責將新能力整合到傳統係統的國防部門之間的合作。

NSCAI建議確定 "國防部門與非傳統公司合作的新機會,以便在現有平台上更快地采用人工智能能力。"我們讚同這一建議:改進國防部門與非傳統公司之間的協調可以幫助確保人工智能解決方案是強大的,有彈性的,與作戰相關的,以及引導有前途的原型穿過 "死亡之穀"。

毫無疑問,從概念到實踐可能是很棘手的。本文的研究顯示,在將創新的新技術從實驗室轉移到記錄項目中采用的主要挑戰在哪裏,人們的觀點存在著很大的分歧。初創企業傾向於認為係統集成商抗拒參與,而初創企業可能被認為缺乏對收購過程的理解,以及開發的技術難以整合到記錄項目中,或難以擴大規模。

彌補這一差距將需要政府采取新的方法來解決非傳統供應商對知識產權的擔憂。大多數人不願意放棄敏感技術的所有權,這些技術主要是賣給國防市場以外的客戶。這也將涉及到國防部幫助小企業通過加快網絡認證和運營授權(ATO)過程等步驟來瀏覽聯邦采購流程,以及幫助有興趣的公司為國防部的不同組成部分開發使用案例。這種積極的促進作用將幫助那些通過研究和開發撥款與國防部合作的非傳統供應商更有準備地與係統集成商達成合作。

最重要的是,優化大型係統集成商和小型創新者的利益,將需要國防部在連接小型公司和那些正在運行的項目方麵發揮更積極的對話者作用。目前,國防部在要求公司合作方麵存在一些可以理解的猶豫,主要是擔心觸犯聯邦采購條例(FAR)。但是,正如本項目采訪的一位行業專家所認為的,國防部可以更積極地了解《聯邦采購條例》所允許的內容,並幫助公司建立聯係,特別是為了滿足特定的采購優先權或計劃。

6 結論

在過去的幾年裏,對人工智能的興趣和投資已經獲得了動力。這在國家安全和國防界尤其如此,因為戰略家、政策製定者和行政人員在不斷上升的地緣戰略競爭中尋求決定性的優勢,並為以複雜性、不確定性和最重要的速度為特征的未來操作環境做準備。人工智能現在是美國和中國之間軍事技術競爭的中心,這兩個國家以及世界上其他國家的軍隊都已經在部署人工智能係統,目的是為了主導未來的戰場。

美國不能冒落後於中國的風險--在人工智能的創新方麵,在人工智能的采用方麵,在人工智能全麵融入國防事業方麵,都不能。迫切需要解決一係列技術和官僚程序以及文化問題,迄今為止,這些問題已經抑製了國防部采用人工智能的步伐。具體來說,國防部應優先考慮以下問題。

關於本報告

本報告是在對人工智能的國家安全和國防影響進行為期八個月的研究項目的最終成果。

關於作者

瑪格麗特-科納耶夫(Margarita Konaev)是大西洋理事會斯考克羅夫特戰略與安全中心前沿防禦業務的非常駐高級研究員。此外,她還擔任喬治敦安全與新興技術中心(CSET)的分析副主任和研究員,對人工智能的軍事應用和俄羅斯軍事創新感興趣。她也是新美國安全中心的兼職高級研究員。在此之前,她是西點軍校現代戰爭研究所的非駐地研究員,弗萊徹法律和外交學院的博士後研究員,以及賓夕法尼亞大學佩裏世界之家的博士後研究員。在加入CSET之前,她曾在Gartner公司的營銷和溝通部門擔任高級負責人。

科納耶夫博士對國際安全、武裝衝突、非國家行為者和中東、俄羅斯和歐亞大陸的城市戰爭的研究已經在《戰略研究雜誌》、《全球安全研究雜誌》、《衝突管理與和平科學》、法國國際關係研究所、《原子科學家公報》、《法律戰》、《岩石上的戰爭》、現代戰爭研究所、外交政策研究所以及其他一係列機構和組織發表。她擁有聖母大學的政治學博士學位,喬治敦大學的衝突解決碩士學位,以及布蘭代斯大學的學士學位。

泰特-努爾金(Tate Nurkin)是OTH情報集團的創始人,也是大西洋理事會斯考克羅夫特戰略與安全中心的高級研究員。

在2018年3月建立OTH情報集團之前,努爾金在IHS Markit的簡氏公司工作了12年,擔任各種職務,包括管理簡氏國防、風險和安全谘詢業務。從2013年到他離開,他擔任戰略評估和未來研究(SAFS)中心的創始執行主任,該中心提供有關地緣政治、未來軍事能力和全球國防工業的全球競爭的思想領導和定製分析。

實質上,努爾金的研究和分析特別關注中美競爭、國防技術、未來軍事能力和全球國防工業及其市場問題。他還擅長設計和提供替代性未來分析活動,如情景規劃、紅色團隊和兵棋推演。

他曾在聯合管理服務公司、SAIC的戰略評估中心以及博思艾倫公司的建模、模擬、兵棋推演和分析團隊工作。2014-2018年,他在世界經濟論壇的核安全全球議程委員會和國際安全未來委員會連續任職兩年,該委員會的成立是為了診斷和評估第四次工業革命的安全和防禦影響。

努爾金擁有佐治亞理工學院薩姆-納恩國際事務學院的國際事務科學碩士學位,以及杜克大學的曆史和政治學學士學位。

"> 推薦!【中美俄AI軍用方向】《為國家安全和國防開發人工智能 》中文版,美軍重大AI應用案例及未來發展布局,2022.6大西洋理事會斯考克羅夫特戰略與安全中心 - 專知VIP

斯考克羅夫特戰略與安全中心致力於製定可持續的、無黨派的戰略,以應對美國及其盟友和夥伴麵臨的最重要的安全挑戰。該中心支持美國在與盟國、夥伴的合作中發揮領導作用,以及對培養下一代領導人提供指導。

執行摘要

在過去的幾年裏,世界各地的軍隊對發展人工智能(AI)的興趣和投資有所增加,以支持一係列多樣化的國防和國家安全目標。然而,對於什麼是人工智能,它如何影響美國和中國之間的戰略競爭,以及如何為這個部署軍事人工智能的新時代優化國防工業基礎,仍然缺乏普遍的理解。現在已經到了在人工智能方麵見仁見智的時候了,在政策界和技術界之間建立對現代人工智能的共同理解,並在國防部(DoD)和其工業夥伴之間統一觀點和優先事項。因此,本文討論了以下核心問題。

(1)什麼是人工智能,為什麼國家安全政策製定者應該關心?

人工智能的能力有可能為美國國家安全和國防帶來改變遊戲規則的優勢,包括

  • 大大加快和改善決策。
  • 加強軍事準備和作戰能力。
  • 提高人類的認知和身體能力。
  • 設計、製造和維持軍事係統的新方法。
  • 具有能打破微妙的軍事平衡的新能力。
  • 創造和檢測戰略網絡攻擊、虛假信息運動和影響作戰的能力。

對人工智能作為威懾和贏得未來戰鬥所必需的關鍵能力,在美國防部內部得到了重視,美國防部在過去五年裏對人工智能進行了顯著的投資。但是,五角大樓以外的政策製定者,以及公眾和正在開發人工智能技術的公司,都需要更好地了解當今人工智能的能力和局限性,並清楚地認識到人工智能對國家安全的積極影響和潛在的破壞性影響。

(2)為什麼人工智能對戰略競爭至關重要?

五角大樓對人工智能的興趣也必須從與中國--以及在較小程度上與俄羅斯--的戰略競爭加劇的角度來看待,人們越來越理解在人工智能和相關新興技術方麵的落後可能會損害美國軍隊自冷戰結束以來所保持的戰略、技術和行動優勢。一些國防領導人甚至認為,美國已經在軍事技術競爭中輸給了中國。

雖然本文不讚同這種宿命論的觀點,但本文認為軍事人工智能競爭的賭注很大,而且時間很短。

(3)美國防部采用人工智能的障礙是什麼?

五角大樓臭名昭著的官僚主義、陳舊的采購和合同製度以及規避風險的組織文化,繼續抑製著美國防部引進外部創新和更快地走向廣泛的人工智能整合和采用的能力。解決這種係統性問題是一個很高的要求。但是,為促進美國防部與商業技術部門和創新初創企業的接觸,已經在進行重要的變革,而且似乎有一種共同的緊迫感,即鞏固這些公私夥伴關係,以確保美國持續的技術和軍事優勢。然而,在統一美國防部及其行業夥伴對人工智能發展最具影響力領域的看法,以及闡明和實施共同的技術標準和測試機製以實現可信賴和負責任的人工智能方麵,仍有許多工作要做。

主要收獲和建議

國防部必須迅速行動起來,從對人工智能重要性的廣泛認可過渡到創建路徑、流程、實踐和原則,以加速采用人工智能技術所帶來的能力。如果沒有有意的、協調的和立即的行動,美國有可能在利用主導未來動能和非動能戰場的製勝技術方麵落後於競爭對手。本報告為美國防部確定了三個行動方案,這些方案可以幫助確保美國軍隊保持其在人工智能領域的全球領先地位,促進更迅速地采用人工智能所需的內部變革,並利用充滿活力和多樣化的美國創新生態係統,包括

  • 優先考慮安全、可靠、可信和負責任的人工智能開發和部署
  • 調整人工智能發展的關鍵優先事項,加強美國防部和行業合作夥伴之間的協調,以幫助縮小人工智能能力的差距;以及
  • 促進領先的國防技術公司和非傳統供應商之間的協調,以加快美國防部人工智能的采用

本報告是在美國防部采用人工智能努力過程中和全球地緣政治的未來軌跡方麵既合適又充滿不確定性的時候發表的。正在進行的烏克蘭衝突使限製獨裁者控製領土、人口、標準和言論的重要性變得非常明顯,而致力於維護長期國際行為規範的聯盟可以在這一努力中發揮作用。因此,作者敦促美國防部在政府層麵,並在可能的情況下在工業層麵與美國的盟友和可信賴的夥伴進行接觸和整合,以更好地實施本文的三項主要建議。

1 簡介

人工智能為國防政策製定者提供了一個重要的機會。人工智能處理和融合信息的能力,以及將數據提煉為增強決策的能力,可以在一個混亂的、有爭議的環境中撥開 "戰爭的迷霧",在這個環境中,速度是王道。人工智能還可以釋放出新型可損耗和一次性無人係統的可能性,從而增強威懾力。例如,它可以幫助保障美國軍人的生命,為指導衝突地區自主補給卡車的導航軟件提供動力。雖然人類仍然負責對目標做出最終決定,但人工智能算法在幫助情報專業人員識別和追蹤惡意行為者方麵正日益發揮作用,目的是 "縮短殺戮鏈,加快決策速度"。

由於美國所處的更廣泛的地緣戰略背景,特別是與中國的戰略競爭,人工智能的發展和整合也勢在必行。中國人民解放軍(PLA)在人工智能方麵的預算似乎與美國軍隊相當,而且解放軍正在為同樣廣泛的應用和能力開發人工智能技術,包括訓練和模擬、蜂群自主係統和信息操作,以及其他許多方麵,所有這些都可能取代美國的軍事技術優勢。

正如美國國防部長勞埃德-奧斯汀在2021年7月指出的那樣,"中國的領導人已經明確表示,他們打算在2030年之前在人工智能方麵成為全球主導。北京已經談及將人工智能用於一係列任務,從監視到網絡攻擊到自主武器"。美國不能落後於中國或其他競爭對手。

為了加快人工智能的采用,五角大樓必須麵對它的弊端:一個孤立的官僚機構,它阻礙了有效的數據管理努力,並阻礙了大規模利用美國防部數據所需的技術基礎設施;陳舊的采購和合同流程,抑製了國防部引進外部創新和將成功的人工智能技術原型過渡到生產和部署;以及一種規避風險的文化,與已知的促進創新的開放、實驗和容忍失敗的類型不一致。

目前正在進行一些努力來解決其中的一些問題。直接向美國防部副部長報告的首席數據和人工智能官(CDAO)角色最近被宣布,以合並首席數據官辦公室、聯合人工智能中心(JAIC)和國防數字服務(DDS)。這一重組將美國防部的數據和人工智能工作置於一個屋簷下,以消除重疊的權力,原來的這種權力重疊性使得人工智能項目的規劃和執行變得困難。擴大使用替代性收購方法,像國防創新單位(DIU)和空軍的AFWERX正在彌合與商業技術部門的差距,特別是初創企業和非傳統供應商。盡管如此,一些技術領導人認為這些努力還不夠,警告說 "時間不多了"。

隨著美國國防部轉向大規模采用人工智能,本報告試圖提供有關現代人工智能未解決問題的見解,總結中國、俄羅斯在軍事人工智能發展方麵的關鍵進展,並強調整個美國防部一些最引人注目的人工智能使用案例。報告還簡要評估了美國防部與其行業夥伴之間的不協調,這些不協調繼續阻礙五角大樓獲得美國軍隊所需的改變遊戲規則的技術,以阻止對手的侵略並主導未來的戰場。

然而,競爭的緊迫性決不能掩蓋對指導美國軍隊進入人工智能時代的道德準則。因此,報告重申,有必要將美國防部的人工智能道德準則有效地轉化為評估可信度的共同技術標準和評估指標,並加強與國防部的行業合作夥伴--特別是初創企業和非傳統供應商在這些關鍵問題上的合作和協調。

在本報告的最後,為政策製定者和整個國家安全生態係統的其他人工智能利益相關者提出了一些考慮。具體而言,敦促美國防部優先考慮安全、可靠、可信和負責任的人工智能開發和部署,調整國防部和行業之間的人工智能發展的關鍵優先事項,以幫助縮小美國防部的人工智能能力差距,並促進領先的國防技術公司和非傳統供應商之間的協調,以加快國防部的人工智能采用進程。

2 人工智能創新和應用中的軍事競爭

推動美國防部人工智能開發和采用工作的緊迫性在很大程度上源於確保美國及其盟國在軍事技術競爭中超過中國,這種競爭已經主導了兩國之間的關係。俄羅斯的技術能力遠沒有那麼發達,但其侵略行為破壞了全球安全,並威脅到美國和北約的利益。

中國

中國已將對人工智能的投資優先用於國防和國家安全,作為其努力成為 "世界級軍隊"的一部分,並在未來的 "智能化"戰爭中獲得優勢--人工智能(與其他新興技術一起)通過 "網絡化、智能化和自主係統和設備 "更完全地融入軍事係統和行動。

雖然中國人工智能相關活動的全部範圍並不廣為人知,但美國安全與新興技術中心(CSET)在2021年10月對343份與人工智能相關的中國軍事合同的審查估計,解放軍 "每年在人工智能相關的係統和設備上花費超過16億美元"。美國國家人工智能安全委員會(NSCAI)的最終報告評估說,"中國的計劃、資源和進展應該引起所有美國人的關注。它在人工智能的許多應用領域處於全球同等水平,而在一些應用領域是人工智能的領導者"。

CSET的審查和其他開源評估顯示,中國的人工智能發展的重點領域,就像美國的一樣廣泛,包括:

  • 智能和自動駕駛汽車,特別關注蜂群技術。
  • 情報、監視和偵查(ISR)。
  • 預測性維護和後勤。
  • 信息、網絡和電子戰。
  • 模擬和訓練(包括兵棋推演)。
  • 指揮和控製(C2);以及
  • 自動目標識別。

這些領域中的每一個進展都對美國在與中國的軍事技術競爭中保持同步的能力構成了挑戰。然而,值得研究的是,中國在兩個領域的進步能力可能對軍事平衡產生特別有力的影響

(1)整合

首先,人工智能可以通過人為地加強軍事整合和跨域作戰,幫助解放軍彌補作戰準備方麵的差距。許多觀察家指出,解放軍缺乏衝突中的作戰經驗是一個關鍵的弱點。盡管從技術角度來看,中國不斷推進的軍事現代化令人印象深刻,但在過去二十年裏,解放軍的人員都沒有像美國軍隊那樣在高端衝突中接受過火力考驗。解放軍繼續努力從組織和理論的角度提高其"聯合性",這也是剛剛起步,沒有經過測試。

使用人工智能來提高模擬和兵棋推演的質量、保真度和複雜性,是解放軍糾正這一關切領域的一種方式。新美國安全中心2019年的一份報告指出,"對中國軍事戰略家來說,從AlphaGo的勝利中學到的教訓之一是,人工智能可以在一場可以比作兵棋推演的遊戲中創造出優於人類玩家的戰術和策略。"這可以更艱巨地考驗解放軍的決策者,改善指揮決策。事實上,CSET報告發現,在所調查的343份合同中,有百分之六是在模擬和訓練中使用人工智能,包括使用人工智能係統對台灣突發事件進行戰爭演練。

圖:在美國國防部高級研究計劃局(DAPRA)的AlphaDogfight試驗中,一名作戰的F-16飛行員在虛擬現實模擬器中與Heron係統公司開發的冠軍F-16人工智能代理進行飛行。Heron人工智能代理在連續五場鬥狗比賽中擊敗了人類飛行員,結束了試驗。資料來源:DARPA,https://www.darpa.mil/news-events/2020-08-26

注重人工智能整合以減少經驗中的感知漏洞也適用於作戰和戰術訓練。2021年7月,中國出版物《環球時報》報道說,解放軍空軍(PLAAF)已經開始在飛行員的空戰訓練中部署人工智能作為模擬對手,以 "磨練他們的決策和戰鬥技能,對抗快速計算的計算機"。

除了虛擬模擬,中國還旨在利用人工智能來支持飛行員在真實世界飛機上的訓練。在2020年11月播出的中國中央電視台(CCTV)節目中,中國L-15教練機的總設計師張弘指出,訓練飛機上的人工智能可以 "識別每個飛行員在飛行中的不同習慣。通過管理它們,我們將讓飛行員更安全地成長,在未來獲得更多的戰鬥能力"。

值得注意的是,解放軍空軍2021年7月的人工智能與人類的鬥狗類似於美國國防部高級研究計劃局(DARPA)2020年9月的AlphaDogFight挑戰賽,在一係列五次模擬鬥狗中,一個人工智能代理擊敗了人類飛行員。 同樣,美國在2021年9月宣布與訓練和模擬公司Red 6簽訂合同,將該公司的機載戰術增強現實係統(ATARS)--該係統允許飛行員駕駛真實世界的飛機,使用增強現實耳機與人工智能生成的虛擬飛機進行訓練--整合到T-38 "塔隆"訓練器中,並計劃最終在第四代飛機上安裝該係統。由於中國軍隊正在利用人工智能來提高戰備水平,美國防部不能落後。

(2)自主性

中國人工智能發展的第二個重點領域是自主係統,特別是蜂群技術,其中幾個係統將獨立運行或相互配合,以混淆和壓倒對手的防衛係統。中國對發展蜂群技術的興趣和能力已經得到了很好的證明,包括2017年6月創紀錄地發射了118架小型無人機組成的互聯蜂群。

據報道,2020年9月,中國電子信息研究院(CAEIT)從一輛改裝的東風猛士輕型戰術車上發射了200枚固定翼CH901徘徊彈藥群。2022年2月在阿布紮比舉行的2022年無人駕駛展的調查顯示,不僅中國的參展陣容強大--中國航空技術進出口總公司(CATIC)和中國北方工業公司(NORINCO)都有大型展館,而且還將重點放在 "協作"行動和智能蜂群。

圖:2月在阿布紮比舉行的UMEX 2022展會上展示的協作式蜂群無人機的一個例子。

對蜂群的興趣並不限於無人駕駛飛行器(UAVs)。據《環球時報》報道,中國也在發展部署自主無機組人員水麵飛行器(USVs)群的能力,以"攔截、圍攻和驅逐入侵目標"。 2021年11月,中國公司雲洲科技--它在2018年進行了一個由56個USV組成的蜂群的演示--發布了一段視頻,顯示六個USV進行了 "合作對抗",作為將一艘有船員的船隻從中國水域移走的一部分。不難想象,這種合作對抗可以如何針對美國或盟國的海軍船隻,甚至商業船隻進行部署,以發展或維持海上控製。這種能力在灰色地帶的突發事件中尤為強大,在這種情況下,升級的擔憂可能會限製反應的選擇。

俄羅斯

在人工智能的投資和能力方麵,俄羅斯落後於美國和中國。因烏克蘭戰爭而實施的製裁也可能給俄羅斯的科技部門帶來巨大損失。盡管如此,美國國家決策者不應低估俄羅斯以不對稱的方式使用人工智能技術來破壞美國和北約利益的潛力。俄羅斯國防部有許多自主性和人工智能相關的項目,處於不同的開發和實驗階段,涉及軍事機器人、無人係統、蜂群技術、預警和防空係統、ISR、C2、後勤、電子戰和信息操作。

俄羅斯軍事戰略家認為,在未來的戰場上,更大的自主權和人工智能具有巨大的潛力,可以加快信息處理,增強決策,提高態勢感知,並保障俄羅斯軍事人員的生命安全。自主和人工智能係統的發展和使用也在俄羅斯軍事理論的更廣泛背景下進行討論。其理論重點是利用這些技術來擾亂和破壞對手的指揮和控製係統以及通信能力,並利用非軍事手段在戰爭初期建立信息優勢,從俄羅斯的角度來看,這包括與美國和北約等對手的非軍事衝突時期。

俄羅斯人工智能的發展軌跡是不確定的。但是,由於持續的製裁,俄羅斯很可能會在微電子方麵越來越依賴中國,並在與美國的技術競爭中進一步落後。

3 美國在人工智能方麵的軍事進展概述

五角大樓對人工智能的興趣和緊迫性既是由於技術發展的速度加快,也是由於它所能帶來的變革性能力越來越強。事實上,人工智能正準備從根本上改變軍隊思考、準備、執行和維持行動的方式。根據大西洋理事會以前的報告大綱,"五次革命 "框架對人工智能在五個廣泛的能力領域的潛在影響進行了分類,下麵的圖3說明了人工智能可以通過不同的方式增強人類的認知和身體能力,融合網絡和係統以獲得最佳效率和性能,並在信息空間中迎來一個網絡衝突和混亂的新時代,以及其他影響。

圖3:跨越未來軍事能力發展的五個廣泛目標的人工智能優先發展項目概述。

  • 邁向完美的態勢感知:感知、處理和認知

  • 即將到來的設計時代:製造、供應鏈和物流

  • 超能力平台和人員:人機性能增強

  • 連接性、致命性和靈活性:通信、導航、目標定位和打擊

  • 監控、操縱和武器化:網絡和信息作戰

美國防部目前有六百多項與人工智能相關的工作正在進行中,其願景是將人工智能融入國防部任務的每一個要素--從作戰行動到支持和維持功能,再到支撐龐大的國防部企業的商業運作和流程。美國政府問責局(GAO)2022年2月的一份報告發現,國防部正在追求人工智能的作戰能力,主要集中在"(1)通過情報和監視分析識別目標,(2)向戰場上的作戰人員提供建議(如在哪裏移動部隊或哪種武器最適合應對威脅),以及(3)增加無人駕駛係統的自主性。 "國防部的大多數人工智能能力,特別是與作戰有關的努力,仍處於開發階段,尚未與具體的係統接軌或整合。而且,盡管在實驗中取得了明顯的進展,並在作戰行動中部署人工智能能力方麵取得了一些經驗,但在廣泛采用方麵仍然存在著重大挑戰。

2021年9月,空軍第一任首席軟件官尼古拉-沙伊蘭辭職,以抗議官僚主義和文化挑戰,這些挑戰減緩了技術的采用,阻礙了美國防部以足夠快的速度與中國有效競爭。在沙伊蘭看來,20年後,美國及其盟友 "將沒有機會在一個中國擁有巨大人口優勢的世界中競爭。"後來,他補充說,中國基本上已經贏了,他說,"現在,這已經是一筆交易了。"

沙伊蘭關於美國與中國進行無用競爭的評估肯定不是整個美國防部都認同的,但它反映了許多人認為在該部門規避風險和深思熟慮的文化中缺乏緊迫感。

JAIC的負責人Michael Groen中將同意,"在國防部內部,必須發生文化變革。"然而,他也吹捧了美國的創新能力,並強調建立了一個人工智能加速器,並最終確定了一個聯合共同基金會(JCF),用於人工智能的開發、測試和在國防部各實體之間共享人工智能工具。"支持雲的JCF是向前邁出的重要一步,將允許基於共同標準和架構的人工智能開發。這應有助於鼓勵各軍種和國防部各部門之間的共享,並且根據JAIC的說法,確保 "國防部一個人工智能倡議的進展將在整個國防部企業中形成勢頭。"

雖然取得的進展值得讚揚,但仍然存在障礙,這些障礙延緩了人工智能能力的采用,而這種能力對於在不久的將來遏製威脅,以及應對中國在這十年及以後的競爭挑戰至關重要。

下麵的三個案例研究提供了美國防部人工智能工作中出現的技術、官僚主義和采用方麵的進步的例子。這些案例還強調了阻礙美國在與中國以及在較小程度上與俄羅斯的軍事技術競爭加劇的情況下,充分運用其國家創新生態係統的能力的持久性問題。

圖4:聯合人工智能中心(JAIC)的人工智能采用階段。

用例1:JADC2的不可逆轉勢頭、遠大目標和集成挑戰

五角大樓最重要的現代化優先事項之一是聯合全域指揮與控製(JADC2)計劃,該計劃被描述為 "將所有軍種的傳感器連接到一個單一網絡的概念。"根據美國國會研究服務部的說法,"JADC2打算通過從眾多傳感器收集數據,使用人工智能算法處理數據以識別目標,然後推薦最佳武器(包括動能和非動能武器)來對付目標,使指揮官能夠做出更好的決策。 "如果成功的話,JADC2有可能消除各軍種C2網絡之間的孤島,這些孤島以前減緩了整個部隊的相關信息傳輸。因此,產生更全麵的態勢感知,指揮官可以據此做出更好和更快的決定。

2021年12月,有報道稱JADC2跨職能小組(CTF)將成立一個 "AI for C2 "工作組,該工作組將研究如何利用負責任的AI來加強和加速指揮和控製,這加強了負責任的AI對該項目的核心作用。

2022年3月,美國防部發布了其JADC2實施計劃的非保密版本,用參謀長聯席會議主席馬克-米利將軍的話說,此舉代表了實施JADC2 "不可逆轉的勢頭"。

然而,觀察家們強調,在按照保持(或恢複)感知、處理和認知方麵的優勢所需的緊迫時間表實施JADC2方麵,有幾個持續的挑戰。特別是相對於中國而言。

圖5. JADC2的邏輯圖反映了與國防部JADC2實施計劃相關的複雜性和雄心。資料來源:美國國防部。

數據安全和網絡安全、數據管理和共享問題、與盟友的互操作性以及與軍方網絡整合相關的問題,都被認為是認識到JADC2方法的宏偉前景所麵臨的挑戰。一些人還強調,這種包羅萬象的雄心也是一種挑戰。哈德遜研究所的布萊恩-克拉克和丹-帕特認為,"當今威脅的緊迫性和新技術帶來的機遇要求五角大樓領導人將JADC2的重點從美國軍事部門的需求轉向作戰人員的需求。

可以肯定的是,在人工智能開發和整合項目中,不一定要避免宏偉的野心。然而,采用的途徑將需要在難以實現的、官僚主義的、耗時的和昂貴的目標與開發能夠在美國部隊麵臨的更直接的威脅時限內提供能力和優勢的係統之間取得平衡。

用例2:脆弱的人工智能和將人工智能納入目標的道德和安全挑戰

2021年9月,空軍部長弗蘭克-肯德爾宣布,空軍已經 "首次將人工智能算法部署到實際作戰的殺傷鏈中,這表明部署人工智能的時代確實已經到來。"根據肯德爾的說法,將人工智能納入目標定位過程的目的是 "大大減少人工識別目標的人力密集型任務--縮短殺傷鏈並加快決策速度。" 成功使用人工智能支持目標定位是人工智能發展的一個裏程碑,盡管在更全麵地采用人工智能的作用方麵仍然存在道德、安全和技術挑戰。

例如,2021年美國防部的一項測試強調了人工智能的脆弱性問題。根據Defense One的報道,測試中使用的人工智能目標定位在人工智能不得不從不同角度破譯數據的環境中隻有大約25%的時間是準確的,盡管它認為它有90%的時間是準確的,這表明缺乏 "適應一套狹窄的假設之外條件"的能力。"這些結果說明了今天的人工智能技術在安全關鍵環境中的局限性,並加強了在一係列條件下對人工智能進行積極和廣泛的現實世界和數字世界測試和評估的必要性。

人工智能目標定位的道德和安全也可能構成對進一步采用的挑戰,特別是隨著對人工智能算法的信心增加。空軍的行動涉及自動目標識別的輔助作用,協助 "情報專家"--即人類決策者。當然,國防部有一個嚴格的目標定位程序,人工智能的目標定位算法將是其中的一部分,再往前想,自主係統將必須通過這一程序。然而,即使它們是這一程序的一部分,並被設計用來支持人類的決定,高錯誤率加上對人工智能輸出的高度信任,有可能導致不理想或嚴重的結果。

用例3:人工智能在信息領域應用的局限性

與中國和俄羅斯日益激烈的競爭正在信息和網絡領域上演,對美國安全以及美國經濟、社會和政體具有真實、持久和破壞性的影響。

對於網絡和信息行動來說,人工智能技術和技能是未來進攻和防禦行動的核心,突出了人工智能在信息領域的危險性和前景。

人們對智能機器人、合成媒體的威脅越來越關注,例如描述沒有發生過的事件或聲明的逼真視頻或音頻製品,以及能夠創造出令人信服的散文和文本的大型語言模型。雖然虛假信息是一個需要社會和整個政府應對的挑戰,但國防部無疑將在管理和應對這一威脅方麵發揮關鍵作用--由於其在美國政治和社會中的突出地位,其職能作用的性質,以及其持續活動的影響。

人工智能在五角大樓和其他美國政府檢測機器人和合成媒體的努力中處於領先地位。例如,DARPA的MediaForensics(MediFor)項目正在使用人工智能算法來 "自動量化圖像或視頻的完整性"。

然而,鑒於合成媒體通過社交媒體的傳播速度,人們對這種檢測的速度表示擔憂。正如聯合參謀部首席信息官丹尼斯-克拉爾中將所觀察到的,"機器和人工智能贏得其中一些信息運動的速度改變了我們的遊戲......數字化轉型、預測分析、ML、人工智能,它們正在改變遊戲......如果我們不匹配這種速度,我們將使其達到正確的答案,而這種正確的答案將完全不相關。"

4 加快美國防部AI的應用

正如上麵的討論所示,美國防部在成功部署人工智能信息管理和決策支持工具的基礎上,有一係列廣泛的人工智能相關舉措,處於不同的發展和實驗階段。隨著重點轉向整合和擴展,加快這些采用工作對於保持美國在與中國的戰略競爭中的優勢以及有效遏製俄羅斯至關重要。

在這一節中,本文強調了美國防部與其工業夥伴之間關係的一些不協調,這些不協調可能會導致失去創新和有影響力的人工智能項目的機會,擴大使用替代采購方法的積極影響,以及日益緊迫的調整過程和時間表,以確保美國軍隊能夠獲得未來戰爭的高水準技術能力。此外,本節還討論了國防部實施道德人工智能原則的方法,以及與可信和負責任係統的標準和測試有關的問題。

4.1 美國防部和工業界的夥伴關係:統一觀點、流程和時間安排

盡管國防部已經發布了一些高級別文件,概述了人工智能發展和部署的優先領域,但市場滿足,甚至理解這些需求的能力還遠遠不夠。最近,IBM對來自全球國防組織的250名技術領導人進行了調查,揭示了國防技術領導人和國防部如何看待人工智能對組織和任務的價值的一些重要差異。例如,隻有約三分之一的受訪技術領導人表示,他們認為人工智能對軍事後勤、醫療和健康服務以及信息操作和深層假想有重大的潛在價值。當被問及人工智能支持的解決方案對商業和其他非戰鬥應用的潛在價值時,不到三分之一的人提到了維護、采購和人力資源。

這些觀點與國防部在人工智能方麵的目標有些不一致。例如,包括設備維護和采購在內的軍事後勤和維持職能是國防部實施人工智能的首要任務之一。Leidos與退伍軍人事務部的合作也說明了人工智能在醫療和健康服務方麵的潛力。最後,隨著人工智能在虛假信息運動中的使用已經開始,正如上一節的討論所強調的那樣,迫切需要開發技術措施和人工智能支持的工具,以檢測和反擊人工智能驅動的信息行動。

國防部及其行業夥伴基於各自的問題集和任務,有不同的優先事項和激勵措施。但是,對人工智能發展的有價值和關鍵領域的不同觀點可能會導致失去有影響力的人工智能項目的機會。也就是說,即使五角大樓和它的工業夥伴在人工智能方麵意見一致,有效的合作也常常被一個笨拙的官僚機構所阻撓,這個機構常常被傳統的流程、結構和文化束縛。

國防部的預算規劃、采購、收購和簽約流程,總的來說,不是為購買軟件而設計的。這些 這些體製上的障礙,再加上複雜而冗長的軟件開發和合規條例,對小型初創企業和非傳統供應商來說尤其困難,因為他們缺乏資源、人員和事先的知識,無法像國防部的主要部門那樣駕馭這個係統。

國防部清楚地意識到這些挑戰。自2015年以來,國防部長辦公室和各軍種已經建立了幾個實體,如DIU、AFWERX、NavalX和陸軍應用實驗室,與商業技術部門,特別是初創企業和非傳統供應商對接,目的是加速提供同類最佳的技術解決方案。同時,國防部還采取了其他值得注意的措施,以促進使用替代性的采購和合同,這為構建和執行協議提供了比傳統采購更大的靈活性。這些包括 "其他交易授權、中間層采購、快速原型設計和快速投入使用以及軟件采購的專門途徑"。

DIU一直處於使用其中一些替代性采購途徑的前沿,從商業技術部門采購人工智能解決方案。空軍的AFWERX還與空軍研究實驗室和國家安全創新網絡合作,創新地利用小企業創新研究(SBIR)和小企業技術轉讓(STTR)資金,以 "提高項目的效率、有效性和過渡率"。例如,在2021年6月,美國空軍SBIR/STTR人工智能投標日向關於 "可信人工智能,這表明係統是安全、可靠、強大、有能力和有效的 "主題的提案提供了超過1800萬美元。

這些都是朝著正確的方向邁出的步伐,而且確實變得更容易獲得國防部的研究、開發和原型製作資金。然而,及時獲得生產資金仍然是一個重大挑戰。這個 "死亡之穀 "的問題--研究和開發階段與一個既定的、有資金記錄的項目之間的差距--對於非傳統的國防公司尤其嚴重,因為風險資本對初創企業的資助周期與將一個項目納入國防部預算所需的時間之間存在差異。

五角大樓明白,彌合 "死亡之穀 "對於推進和擴大創新至關重要,並在最近啟動了快速國防實驗儲備,以處理這些問題。然而,使預算規劃、采購和簽約流程與私人資本的步伐相一致所需的係統性變化,需要國會采取行動,並可能需要數年時間來實施。在實施這些改革方麵的延誤正在損害國防部獲得尖端技術的能力,而這些技術在未來的戰場上可能是至關重要的。

4.2 建立可信賴和負責任的人工智能係統

確保美國軍隊能夠使用安全可信的人工智能和自主係統,並按照國際人道主義法律使用這些係統,將有助於美國保持其競爭優勢,以對抗俄羅斯等對人工智能的道德使用承諾較少的專製國家。強調值得信賴的人工智能也是至關重要的,因為國防部的大多數人工智能項目都需要人機合作和協作的元素,它們的成功實施在很大程度上取決於操作者對係統的足夠信任和使用。最後,國防部和行業夥伴之間就可信和負責任的人工智能的共享標準和測試要求進行更密切的協調,對於推進國防部人工智能的采用至關重要。

除了國防部現有的武器審查和目標程序,包括自主武器係統的協議,該部門還在尋求解決倫理、法律和政策的模糊性,以及人工智能更具體的風險。2020年2月,五角大樓通過了五項道德原則來指導人工智能的發展和使用,呼籲人工智能是負責任的、公平的、可追溯的、可靠的和可治理的。為了將這些原則付諸實踐,國防部副部長凱瑟琳-希克斯發布了一份備忘錄,指示采取一種 "整體的、綜合的和有原則的方法 "來整合負責任的人工智能(RAI),包括六個原則:管理、作戰人員的信任、產品和采購生命周期、需求驗證、負責任的人工智能生態係統和人工智能勞動力。

同時,2021年11月,DIU發布了其負責任的人工智能指導方針,響應了備忘錄中對 "工具、政策、流程、係統和指導 "的呼籲,將道德的人工智能原則納入該部門的采購政策。這些指導方針是在國防部人工智能項目中操作和實施道德的具體步驟,建立在DIU在預測健康、水下自主、預測性維護和供應鏈分析等領域的人工智能解決方案的經驗上。它們的目的是可操作的、自適應的和有用的,同時確保人工智能供應商、國防部利益相關者和DIU項目經理在人工智能係統生命周期的規劃、開發和部署階段考慮到公平、問責和透明度。

國防部人工智能項目的成功將在很大程度上取決於確保人類發展並保持對其智能機器隊友的適當信任。因此,國防部對可信人工智能的強調越來越多地體現在其一些旗艦人工智能項目中。例如,2020年8月,DARPA的空戰進化(ACE)項目吸引了大量的關注,因為一個人工智能係統在模擬的空中鬥犬比賽中擊敗了空軍的一名頂級F-16戰鬥機飛行員。 ACE的一個關鍵問題是 "如何讓飛行員足夠信任人工智能並使用它",而不是讓人類與機器對決。ACE選擇了鬥狗場景,很大程度上是因為這種類型的空對空戰鬥包含了許多成為戰鬥機飛行員群體中值得信賴的夥伴所必需的基本飛行動作。讓人工智能掌握作為更複雜任務基礎的基本飛行動作,如壓製敵方防空係統或護送友軍飛機。根據ACE項目經理的說法,AlphaDogfight試驗是 "關於增加對人工智能的信任"。

人工智能的發展速度很快,因此很難設計和實施一個足夠靈活的監管結構,以保持相關性,同時又不至於限製性太強而扼殺創新。與國防部合作的公司正在尋求符合國防部人工智能道德原則的人工智能係統的開發、部署、使用和維護的指導方針。這些行業夥伴中的許多人已經采用了他們自己的可信和負責任的人工智能解決方案的框架,強調了安全、安保、穩健、彈性、問責製、透明度、可追溯性、可審計性、可解釋性、公平性和其他相關質量等屬性。

圖:2021年10月19日,在亞利桑那州尤馬試驗場,一名美國陸軍士兵使用戰術機器人控製器來控製遠征模塊化自主車輛,作為準備 "聚合項目 "的練習活動。在 "聚合項目21 "期間,士兵們試驗了使用這種車輛進行半自主偵察和再補給。無論是在戰場上還是在戰場之外,對自主和半自主車輛等人工智能能力的信任對於成功至關重要。

目前,對於什麼是道德或值得信賴的人工智能係統,沒有共同的技術標準,這可能會使非傳統的人工智能供應商難以設定預期,並在官僚機構中穿梭。國防部不直接負責製定標準。相反,2021年國防授權法案(NDAA)擴大了國家標準與技術研究所(NIST)的任務,"包括推進人工智能的合作框架、標準、指導方針,支持開發人工智能係統的風險緩解框架,並支持開發技術標準和指導方針,以促進值得信賴的人工智能係統"。2021年7月,NIST在製定其人工智能風險管理框架時,向利益相關者發出了信息請求,旨在幫助組織 "將可信性考慮納入人工智能產品、服務和係統的設計、開發、使用和評估"。

對這一挑戰沒有簡單的解決方案。但是,讓政府、行業、學術界和民間社會的利益相關者參與進來的合作過程可以幫助防止人工智能的發展走上社交媒體的道路,在社交媒體上,公共政策未能預測到虛假信息和其他惡意活動在這些平台上造成的風險和損失,而且反應緩慢。

與標準相關的是與測試、評估、驗證和確認(TEVV)相關的挑戰。測試和驗證過程是為了 "幫助決策者和操作者了解和管理開發、生產、操作和維持人工智能係統的風險",對於建立對人工智能的信任至關重要。國防部目前的TEVV協議和基礎設施主要是針對主要的國防采購項目,如船舶、飛機或坦克;它是線性的、順序的,而且一旦項目過渡到生產和部署,最終是有限的。然而,對於人工智能係統,"開發從未真正完成,所以測試也是如此。"因此,像人工智能這樣的適應性強、不斷學習的新興技術需要一個更加敏捷和迭代的開發和測試方法,正如NSCAI建議的那樣,"將測試作為需求規範、開發、部署、培訓和維護的持續部分,包括運行時監測操作行為。"

建立在開發、安全和運營(DevSecOps)的商業最佳實踐基礎上的綜合和自動化的開發和測試方法,更適合於人工智能/ML係統。雖然JAIC的聯合基金有可能實現真正的人工智能DevSecOps方法,但在整個國防部擴大這種努力是一個重大挑戰,因為它需要對當前的測試基礎設施進行重大改變,以及更多的資源,如帶寬、計算支持和技術人員。也就是說,如果不開發更適合人工智能的新測試方法,不調整當前的測試基礎設施以支持迭代測試,將阻礙大規模整合和采用可信和負責任的人工智能的努力。

上述關於標準和TEVV的討論概括了現代人工智能係統對現有國防部框架和流程的獨特挑戰,以及商業技術公司和國防部對人工智能開發、部署、使用和維護的不同方法。為了加速人工智能的采用,國防部及其行業夥伴需要在具體的、現實的、與操作相關的標準和性能要求、測試過程和評估指標上更好地保持一致,並納入道德的人工智能原則。一個以可信和負責任的人工智能為導向的國防技術生態係統可以促進最佳做法的相互交流,並降低非傳統供應商和初創公司所麵臨的官僚主義和程序性障礙。

5 主要收獲和建議

充分發揮人工智能推動成本和時間效率的能力,支持人類決策者,並實現自主性,將需要更多的技術進步或開發新的作戰概念。下麵,我們概述了優先努力的三個關鍵領域,以更成功地將人工智能納入整個國防部事業,並確保美國能夠阻止威脅,並保持對其競爭對手和潛在對手的戰略、戰役和戰術優勢。

5.1 優先考慮安全、可靠、受信任和負責任的人工智能開發和部署

與中國日益激烈的戰略競爭,精湛的技術和強有力作戰能力,以及與私營部門快速的技術開發和整合速度的比較,都給國防部帶來了壓力,使其更快地走向人工智能係統的實戰。在人工智能發展中鼓勵更大的風險容忍度,以便在大規模采用人工智能方麵取得進展,這有很多好處。但是,僅僅為了 "超越 "中國而匆忙部署容易受到一係列對手攻擊的人工智能係統,並且很可能在作戰環境中失敗,這將被證明是適得其反。

指導美國軍隊的道德準則反映了對遵守戰爭法則的基本承諾,而此時,一些獨裁國家對人權和人道主義原則很不重視。同時,國防部對新能力的測試和保證采取了嚴格的方法,旨在確保新武器的使用是負責任的和適當的,並盡量減少事故、誤用和濫用係統和能力的風險,因為這可能會產生危險,甚至是災難性的影響。美國與許多盟友和夥伴共享的這些價值觀和原則,在與專製國家競爭時是一種戰略資產,因為它們正在部署人工智能軍事係統。為了鞏固國防部在這個領域的優勢,我們建議采取以下步驟。

  • 美國防部應將DIU的“負責任的人工智能指南”納入相關的提案請求、招標和其他材料中,要求承包商展示他們的人工智能產品和解決方案是如何實施國防部的人工智能道德原則。這將設定一套共同和明確的期望,幫助非傳統的人工智能供應商和初創公司在五角大樓的提案過程中遊刃有餘。最近有國防部為項目製定收購類別的先例,要求工業界調整其開發過程,以滿足不斷變化的國防部標準。例如,在2020年9月,美國空軍為所有采購工作製定了e係列采購指定,要求供應商使用數字工程實踐--而不是原型--作為他們激勵行業接受數字工程的一部分。

  • 美國防部的行業合作夥伴,特別是非傳統的人工智能供應商,應積極與NIST合作,因為該機構繼續努力製定標準和指導方針,以促進可信賴的人工智能係統,以確保他們的觀點為後續框架提供信息。

  • 本文提到的有效采用人工智能的挑戰包括人工智能的脆弱性和對手旨在破壞人工智能算法的網絡攻擊可能性。克服這些挑戰將需要國防部繼續致力於提高國防部人工智能係統測試和評估的速度、種類和能力,以確保這些係統在更廣泛的不同環境下發揮預期功能。其中一些測試需要在真實世界的環境中進行,但基於模型的模擬的進步可以使人工智能係統的性能在數字/虛擬世界中得到越來越多的驗證,減少與這種測試相關的成本和時間。

圖:人工智能可以極大地重塑未來的戰場。為了實現這一願景,美國防部必須采取關鍵步驟,有效利用人工智能。資料來源:美國陸軍。

  • 此外,美國防部還應該利用國防部研究與工程副部長(USDR&E)的測試實踐和優先事項,以確保計劃和部署的人工智能係統能夠抵禦對手的攻擊,包括數據汙染和算法損壞。

  • 美國防部應利用盟友和外國合作夥伴來開發、部署和采用可信的人工智能。這種性質的參與對於協調人工智能發展和使用的共同規範至關重要,這些規範遏製並對抗中國和俄羅斯的獨裁技術模式。擴大現有合作模式和建立新的夥伴關係的途徑可以包括以下內容:

i. 加強對道德、安全和負責任的人工智能的重視,將其作為全日空防務夥伴關係的一部分,通過評估成員方法的共同點和差異,確定未來聯合項目和合作的具體機會。

ii. 與 "五眼"、北約和AUKUS夥伴交叉分享和實施聯合道德項目。除了支持互操作性,這將增加視角和經驗的多樣性,並有助於確保人工智能發展工作限製各種形式的偏見。正如本項目所采訪的一位前將軍所指出的,"多樣性是我們確保可靠性的方式。它是必不可少的。"

iii. 擴大與不同能力和地域的盟友和合作夥伴的聯係,包括印度、南非、越南,以探索雙邊和多邊研發工作和技術共享計劃的機會,解決可信和負責任的人工智能的技術屬性。

5.2 調整人工智能發展的關鍵優先事項,加強國防部和工業夥伴之間的協調,以幫助縮小國防部人工智能能力的差距

如果不與廣泛的技術公司建立密切的夥伴關係,國防部將無法實現其在人工智能方麵的雄心壯誌,並與中國通過軍民融合采購技術創新的模式進行有效競爭。這包括與五角大樓有長期聯係的國防工業領導人,處於全球創新前沿的技術巨頭,尋求擴大其政府投資組合的商業技術參與者,以及處於人工智能發展前沿的初創企業。但是,國防部的預算規劃、采購、收購、簽約和合規流程可能需要從根本上進行重組,以有效地與這個充滿活力和多樣化的技術生態係統的整體接觸。

係統性變革是一個緩慢而艱巨的過程。但是,拖延這一過渡有可能使美國軍隊在利用人工智能承諾提供的優勢方麵落後,從作戰速度到決策主導權。同時,以下行動可以幫助改善與行業夥伴的協調,以加快國防部采用人工智能的努力。

  • 國防部應評估其溝通和外聯戰略,以澄清和精簡圍繞該部門在人工智能方麵的優先事項的信息。

  • 國防部應與技術公司合作,重新審查他們對某些類別的人工智能解決方案的潛在價值的評估,包括但不限於後勤、醫療和健康服務以及信息操作。

  • 國防部應實施NSCAI的建議,加快對采購專業人員的培訓,使其了解采購和簽約的全部可用選擇,並激勵他們使用人工智能和數字技術。" 此外,這種采購人員培訓舉措應確保采購專業人員充分了解國防部的人工智能倫理原則以及可信和負責任的人工智能的技術層麵。國防部的道德準則可以作為這種培訓的基礎。

5.3 促進領先的國防技術公司和非傳統供應商之間的協調,以加快美國防部人工智能的采用

在中短期內,美國防部將不會建立全新的人工智能係統,而是將人工智能整合到一係列現有的軟件和硬件係統中--從網絡防禦架構到戰鬥機到C2。因此,實施人工智能的進展也將取決於簡化國防部一直在爭取的創新和尖端技術的初創公司和非傳統人工智能供應商與負責將新能力整合到傳統係統的國防部門之間的合作。

NSCAI建議確定 "國防部門與非傳統公司合作的新機會,以便在現有平台上更快地采用人工智能能力。"我們讚同這一建議:改進國防部門與非傳統公司之間的協調可以幫助確保人工智能解決方案是強大的,有彈性的,與作戰相關的,以及引導有前途的原型穿過 "死亡之穀"。

毫無疑問,從概念到實踐可能是很棘手的。本文的研究顯示,在將創新的新技術從實驗室轉移到記錄項目中采用的主要挑戰在哪裏,人們的觀點存在著很大的分歧。初創企業傾向於認為係統集成商抗拒參與,而初創企業可能被認為缺乏對收購過程的理解,以及開發的技術難以整合到記錄項目中,或難以擴大規模。

彌補這一差距將需要政府采取新的方法來解決非傳統供應商對知識產權的擔憂。大多數人不願意放棄敏感技術的所有權,這些技術主要是賣給國防市場以外的客戶。這也將涉及到國防部幫助小企業通過加快網絡認證和運營授權(ATO)過程等步驟來瀏覽聯邦采購流程,以及幫助有興趣的公司為國防部的不同組成部分開發使用案例。這種積極的促進作用將幫助那些通過研究和開發撥款與國防部合作的非傳統供應商更有準備地與係統集成商達成合作。

最重要的是,優化大型係統集成商和小型創新者的利益,將需要國防部在連接小型公司和那些正在運行的項目方麵發揮更積極的對話者作用。目前,國防部在要求公司合作方麵存在一些可以理解的猶豫,主要是擔心觸犯聯邦采購條例(FAR)。但是,正如本項目采訪的一位行業專家所認為的,國防部可以更積極地了解《聯邦采購條例》所允許的內容,並幫助公司建立聯係,特別是為了滿足特定的采購優先權或計劃。

6 結論

在過去的幾年裏,對人工智能的興趣和投資已經獲得了動力。這在國家安全和國防界尤其如此,因為戰略家、政策製定者和行政人員在不斷上升的地緣戰略競爭中尋求決定性的優勢,並為以複雜性、不確定性和最重要的速度為特征的未來操作環境做準備。人工智能現在是美國和中國之間軍事技術競爭的中心,這兩個國家以及世界上其他國家的軍隊都已經在部署人工智能係統,目的是為了主導未來的戰場。

美國不能冒落後於中國的風險--在人工智能的創新方麵,在人工智能的采用方麵,在人工智能全麵融入國防事業方麵,都不能。迫切需要解決一係列技術和官僚程序以及文化問題,迄今為止,這些問題已經抑製了國防部采用人工智能的步伐。具體來說,國防部應優先考慮以下問題。

  • 建立對人工智能的信任:國防部的人工智能努力主要集中在增強人類理解、決策和效能的技術上,而不是取代人類。因此,在人類和他們的智能機器隊友之間建立信任和信心是成功開發和部署軍事人工智能的一個關鍵方麵。

  • 製定和實施可信和負責任的人工智能標準:目前,對於什麼是可信和負責任的人工智能,還沒有共同的標準或係統性能要求。因此,五角大樓及其行業夥伴必須與NIST等機構合作,製定和實施與作戰相關的標準、測試流程和評估指標,其中包括道德的、可信賴的和負責任的人工智能原則。這將有助於將成功的人工智能研究原型推進到可投入生產的解決方案中。

  • 促進美國創新生態係統和國防工業基地的優化。將尖端的人工智能技術引入國防部還需要五角大樓減少國防部采購過程中經常出現的官僚主義挑戰,特別是對於那些在傳統國防工業基地之外的創新公司。開發新的手段來支持和激勵這些公司的參與,並促進領先的國防技術公司與初創公司和非傳統供應商之間的行業內夥伴關係將是至關重要的。

  • 吸引盟友和合作夥伴。正如本文開頭所述,烏克蘭戰爭加強了盟友和合作夥伴在執行地緣政治規範和標準方麵的重要性。未來人工智能的發展和采用也可能是如此。國防部不僅將受益於工業界和國家安全界的合作,還將受益於與盟友和外國夥伴的合作,以確保建立和頒布規範和標準,從而實現可信、負責和可互操作的人工智能開發和部署。

關於本報告

本報告是在對人工智能的國家安全和國防影響進行為期八個月的研究項目的最終成果。

關於作者

瑪格麗特-科納耶夫(Margarita Konaev)是大西洋理事會斯考克羅夫特戰略與安全中心前沿防禦業務的非常駐高級研究員。此外,她還擔任喬治敦安全與新興技術中心(CSET)的分析副主任和研究員,對人工智能的軍事應用和俄羅斯軍事創新感興趣。她也是新美國安全中心的兼職高級研究員。在此之前,她是西點軍校現代戰爭研究所的非駐地研究員,弗萊徹法律和外交學院的博士後研究員,以及賓夕法尼亞大學佩裏世界之家的博士後研究員。在加入CSET之前,她曾在Gartner公司的營銷和溝通部門擔任高級負責人。

科納耶夫博士對國際安全、武裝衝突、非國家行為者和中東、俄羅斯和歐亞大陸的城市戰爭的研究已經在《戰略研究雜誌》、《全球安全研究雜誌》、《衝突管理與和平科學》、法國國際關係研究所、《原子科學家公報》、《法律戰》、《岩石上的戰爭》、現代戰爭研究所、外交政策研究所以及其他一係列機構和組織發表。她擁有聖母大學的政治學博士學位,喬治敦大學的衝突解決碩士學位,以及布蘭代斯大學的學士學位。

泰特-努爾金(Tate Nurkin)是OTH情報集團的創始人,也是大西洋理事會斯考克羅夫特戰略與安全中心的高級研究員。

在2018年3月建立OTH情報集團之前,努爾金在IHS Markit的簡氏公司工作了12年,擔任各種職務,包括管理簡氏國防、風險和安全谘詢業務。從2013年到他離開,他擔任戰略評估和未來研究(SAFS)中心的創始執行主任,該中心提供有關地緣政治、未來軍事能力和全球國防工業的全球競爭的思想領導和定製分析。

實質上,努爾金的研究和分析特別關注中美競爭、國防技術、未來軍事能力和全球國防工業及其市場問題。他還擅長設計和提供替代性未來分析活動,如情景規劃、紅色團隊和兵棋推演。

他曾在聯合管理服務公司、SAIC的戰略評估中心以及博思艾倫公司的建模、模擬、兵棋推演和分析團隊工作。2014-2018年,他在世界經濟論壇的核安全全球議程委員會和國際安全未來委員會連續任職兩年,該委員會的成立是為了診斷和評估第四次工業革命的安全和防禦影響。

努爾金擁有佐治亞理工學院薩姆-納恩國際事務學院的國際事務科學碩士學位,以及杜克大學的曆史和政治學學士學位。

成為VIP會員查看完整內容
32
70

相關內容

人工智能在軍事中可用於多項任務,例如目標識別、大數據處理、作戰係統、網絡安全、物流運輸、戰爭醫療、威脅和安全監測以及戰鬥模擬和訓練。
【AI】英國國防部《國防人工智能戰略》摘要
專知會員服務
27+閱讀 · 6月22日
【AI+軍事】最新22頁PPT,解讀人工智能軍事應用
專知會員服務
92+閱讀 · 3月14日
國家自然科學基金
5+閱讀 · 2016年12月31日
國家自然科學基金
0+閱讀 · 2014年12月31日
國家自然科學基金
0+閱讀 · 2014年12月31日
國家自然科學基金
0+閱讀 · 2013年12月31日
國家自然科學基金
1+閱讀 · 2013年12月31日
國家自然科學基金
0+閱讀 · 2012年12月31日
國家自然科學基金
0+閱讀 · 2011年12月31日
國家自然科學基金
0+閱讀 · 2009年12月31日
國家自然科學基金
1+閱讀 · 2008年12月31日
A Survey on Edge Intelligence
Arxiv
38+閱讀 · 2020年3月26日
On Feature Normalization and Data Augmentation
Arxiv
13+閱讀 · 2020年2月25日
Arxiv
25+閱讀 · 2018年1月24日
VIP會員
相關VIP內容
相關基金
國家自然科學基金
5+閱讀 · 2016年12月31日
國家自然科學基金
0+閱讀 · 2014年12月31日
國家自然科學基金
0+閱讀 · 2014年12月31日
國家自然科學基金
0+閱讀 · 2013年12月31日
國家自然科學基金
1+閱讀 · 2013年12月31日
國家自然科學基金
0+閱讀 · 2012年12月31日
國家自然科學基金
0+閱讀 · 2011年12月31日
國家自然科學基金
0+閱讀 · 2009年12月31日
國家自然科學基金
1+閱讀 · 2008年12月31日