- Open Secure AI Alliance 專注於開發開放防禦工具以應對網絡威脅。
- Hugging Face 的安全事件顯示開放模型在防禦中的優勢。
- 聯盟強調開放系統可提高防禦者對敏感數據的控制權。
- 企業和政府應投資於共享基礎設施以加強安全性。
NVIDIA、Microsoft、SpaceX 及其他主要科技和網絡安全公司攜手成立開放安全人工智能聯盟（Open Secure AI Alliance），該聯盟專注於開發開放工具，以防禦軟件、人工智能代理及關鍵基礎設施面對網絡威脅。該聯盟匯聚了雲計算、網絡安全、企業軟件、開源基金會及人工智能研究等領域的知名企業，其創始夥伴包括 NVIDIA、Adobe、Cadence、Capital One、Cisco、Cloudera、Cloudflare、Cognition、CrowdStrike、Databricks、
Dell Technologies、DoorDash、Elastic、HPE、Hugging Face、IBM、LangChain、Linux 基金會、Microsoft、NAVER、NetApp、Nous Research、OpenClaw、Palantir、Palo Alto Networks、Red Hat、Reflection AI、Salesforce、SAP、ServiceNow、Siemens、SK Telecom、Snowflake、SpaceXAI、Synopsys、Thinking
Machines Lab 及 TrendAI。
開放模型的防禦優勢
NVIDIA 在一份新聞公告中表示，該聯盟將致力於開發和分享開放技術、技術手段及工具，以保障軟件和代理，隨著人工智能的廣泛部署，該公司將為該倡議提供開放模型、模型權重、數據及代理驅動研究。值得注意的是，Google、OpenAI 和 Anthropic 明顯缺席於創始夥伴名單中，特別是 OpenAI 的缺席，因為該聯盟專注於開放防禦工具，而 Hugging Face 最近的安全事件中，該公司表示在封閉的人工智能工具無法支持其取證分析的情況下，轉向了開放權重模型。
聯盟指出，網絡安全是開放模型能顯著提供優勢的領域之一。與封閉系統不同，開放模型和工具可以被檢查、調整，並在組織自己的基礎設施上部署，這使得防禦者對敏感數據和安全運作擁有更大的控制權。該小組表示，最近的 Hugging Face 事件證明瞭防禦者需要訪問先進開放系統的原因。根據公告，Hugging Face 在其基礎設施上使用了一個開放權重的 GLM 5.2 模型，分析了超過 17,000 次操作，並在封閉的人工智能工具無法區分攻擊者和防禦者的情況下，成功遏制了入侵。
該事件展示了一個實際的真理：當防禦者無法檢查、調整和在自己的基礎設施上運行先進人工智能時，他們的應對能力在速度至關重要的時刻受到限制。聯盟表示，企業和政府需要能夠在多供應商生態系統中運作的開放防禦工具，以減少對單一供應商的依賴，並避免潛在的單點故障。它同時承認，開放模型可能會被濫用，包括在網絡攻擊或嘗試移除保護措施中。然而，該小組辯稱，這些風險在開放和封閉系統中皆然。
該聯盟強調，正確的應對方式不是拒絕防禦者對有能力的開放系統的訪問，而是結合開放性與強有力的保障措施、清晰的惡意濫用規則、嚴格的評估以及快速的補救措施。
聯盟專注於支持人工智能代理的更廣泛系統，而不僅僅是模型本身。它表示，有效的安全需要涵蓋身份、權限、代理驅動、護欄、日誌記錄和評估等控制措施。NVIDIA 的新開源項目 NVIDIA Labs Object-Oriented Agent（NOOA）將為該倡議貢獻。該框架旨在幫助代理驅動與模型的協作，使代理行為的測試、追蹤、審計和治理變得更容易。其他成員也正在安全堆棧中貢獻技術。
HPE 正在貢獻 SPIFFE/SPIRE，該系統提供零信任身份標準以驗證代理和服務。Hugging Face 已經向 PyTorch 基金會提供其 Safetensors 格式以存儲模型權重，而 IBM 和 Red Hat 正在為開源軟件供應鏈開發數位簽名補丁。Microsoft 則貢獻其 MDASH 多模型代理掃描工具，該工具利用專門的代理發現、辯論及驗證可被利用的漏洞。
SpaceXAI 亦已將 Grok Build 終端編碼代理開源，並表示計劃開源 Grok 模型系列的權重。
政策制定者的角色
聯盟呼籲政策制定者將開放模型、代理驅動及安全工具視為防禦資產。它警告稱，對開放邊界系統的全面限制可能會削弱網絡防禦，並增加對少數封閉供應商的依賴。開放安全人工智能聯盟表示，企業和政府應該在共享基礎設施上進行投資，例如數據集、評估框架、攻擊模擬器和紅隊工具，以加強安全性，隨著人工智能代理的廣泛部署，這些投資將變得愈加重要。
開放安全人工智能的未來挑戰與機遇
隨著人工智能技術的快速發展，網絡安全問題愈加凸顯。Open Secure AI Alliance 的成立標誌著科技巨頭們對於開放防禦工具的重視，這不僅能提升防禦能力，還能減少對單一供應商的依賴。然而，開放模型的潛在濫用風險也不容忽視，這需要政策制定者和業界共同努力，制定相應的規範和保障措施，才能在促進創新的同時，確保安全性。