美軍 AI 報告差點導致對中國船隻的登艦行動

有報導指出，某份由人工智能（AI）協助製作的軍事報告，幾乎導致一艘中國船隻被美軍登 boarded。該任務在啟動前不久被取消，因為該報告經過詳細審查，發現可能存在“假陽性”的情況。據 CNN 首次報導，一位軍事分析師發現有關一艘前往中東的中國船隻的貨物清單存在令人擔憂的資訊。該匿名分析師隨後利用 AI 幫助分析和詮釋這些資訊。在結合了機密和公開來源的資訊後，AI 推斷該船隻可能運載核武器的組件。

這並不是新鮮事，AI 偶爾會出現幻覺。然而，更令人擔憂的是接下來發生的事情。

報告的發放與檢查失敗

該分析師隨後利用 AI 將其結論整理成一份傳統的軍事情報報告，而未對其結論的有效性進行二次或三次檢查。這份報告隨後通過常規渠道分發，顯然引發了足夠的警報，計劃進行潛在的攔截行動。根據 CNN 的報導，其消息來源透露，武裝人員正在準備登船，飛機已經起飛。在行動發生之前，有人對基礎情報進行了審查，發現貨物的識別是錯誤的。如果行動真的進行，可能會造成非常嚴重的後果。

因此，從更大的角度看，這並不是 AI 失敗導致的軍事失誤，而是發放前驗證失敗的結果。但這究竟是如何發生的呢？

AI 幻覺與權威洗白問題

根據 CNN 報導，AI 幻覺是一個已知問題，但當其包含真實資訊時，可能更難以檢測。在這種情況下，涉及一艘真實的船隻、真實的貨物清單、時間表等。下一個問題可以稱之為“權威洗白”。相關分析師能夠將可疑的 AI 輸出轉化為一份合格的報告進行流傳。任何收到該報告的人自然會假設其內容的有效性並據此行動。另外一個問題，也許是更大的問題，是美國目前並未對此類情況建立統一的多服務驗證標準。

不同單位使用不同的模型，並擁有各自的內部政策和程序來使用它們。

有趣的是，這一事件也似乎顯示出“人類在循環中”概念的重大失敗。在整個過程中技術上確實有人的參與，但根據 CNN 的報導，這一錯誤仍然傳播得相當遠。雖然這次事件被及時發現，但美國軍事情報分析師需要保持警覺，以防未來出現“假陽性”情況。這一點尤其重要，因為美國軍事力量希望更加依賴 AI 來幫助更快做出更好的決策。然而，正如此次事件所強調的，若壓縮檢查及再次檢查的時間，快速行動或許並不是一個好主意。

“AI 在打擊目標方面的應用確實在上升，但目前沒有實際指導，如何在循環中引入人類以防止平民傷亡或友軍誤傷，”一位熟悉軍方當前政策的消息來源告訴 CNN。“AI 使你能更快得到一個糟糕的想法，”一位匿名消息來源向他們表示。

美軍需重視 AI 驗證標準

此次事件突顯了美軍在使用 AI 進行軍事分析時的潛在風險。雖然 AI 能加速情報處理，但若缺乏有效的驗證機制，可能導致嚴重的誤判。尤其是在涉及國家安全的情況下，必須對 AI 的輸出進行多重檢查，以防止因假陽性而引發的軍事行動。隨著 AI 在軍事領域的應用日益增加，建立統一的驗證標準和流程顯得尤為重要，以確保決策的準確性與安全性。