Google 發佈 Gemini 4 Carbon 人工智能模型 具備 88.2% 識別軟件漏洞能力

·作者 Henderson·Engineering
Google 發佈 Gemini 4 Carbon 人工智能模型 具備 88.2% 識別軟件漏洞能力
重點
  • Google 推出 Gemini 4 Carbon 模型,專注於識別軟件漏洞及生成安全補丁。
  • Carbon 在 SEC-bench Pro 測試中獲得 88.2% 的識別能力分數。
  • 該模型在生成安全代碼的成功率上超過 Argon 的兩倍。
  • Google 計劃擴大 Carbon 的可用性,並引入額外的安全措施。

Google 宣佈推出新的人工智能模型 Gemini 4 Carbon,旨在識別軟件漏洞、生成安全補丁,以及處理需要數天才能完成的複雜工程任務。該模型在 SEC-bench Pro 上獲得了 88.2% 的分數,這是一個測試人工智能系統識別現實軟件漏洞能力的網絡安全基準。此外,Carbon 在 CWE-bench 上的修復安全缺陷得分為 71%,而在 ExploitGym 上則為 54.8%,這表明其驗證漏洞是否可被利用的能力。

Google 指出,這些結果使 Carbon 在所有三個網絡安全基準中超越了競爭對手的模型。這一宣佈距離 Gemini 4 Argon 的推出僅兩週,後者是 Google 之前的前沿模型。Carbon 在該發布的基礎上,在編碼、推理、網絡安全及自主任務執行方面進行了改進。

Carbon 模型的性能優勢

與傳統的人工智能助手不同,Carbon 是設計用於執行涉及多個步驟、工具和決策的擴展工作流程。Google 表示,其內部團隊觀察到該模型在複雜的工程問題上運行了數天,包括識別軟件錯誤的原因以及在大型代碼庫中開發補丁。然而,這些擴展操作的報告由 Google 提供,尚未經過獨立驗證。

Carbon 的網絡安全能力涵蓋三個主要階段:查找漏洞、確定這些漏洞是否構成真正的風險,以及開發修復方案。在 SEC-bench Pro 上,該模型的得分達到 88.2%,而其 54.8% 的 ExploitGym 得分反映了其通過控制性利用測試驗證安全漏洞的能力。Carbon 在 CWE-bench 上的 71% 結果則衡量了其生成可用補丁以解決基礎軟件弱點的表現。

Google 亦報告 Carbon 在內部測試中生成安全代碼的成功率是 Argon 的兩倍以上。

Chrome 團隊發現,Carbon 在生成高質量安全補丁方面的表現超過了一個競爭前沿模型的十倍,Google 並未具體指出該競爭模型的名稱。除了網絡安全外,Carbon 在版本 5.0 的人工分析智能指數上排名第一,得分為 59。它的 WebDev Arena 得分也提高了 89 Elo 分,達到 1,768,並在排行榜上位列第四。Google 表示,這些改進延伸至科學任務、多模態理解和全棧網頁開發。

安全措施與可用性計劃

Google 還引入了額外的安全措施,旨在減少在長期人工智能工作流程中出現的不可靠行為。在內部測試中,Carbon 的不支持聲明減少了約一半,與 Argon 相比,高嚴重性不對齊警報在涉及 Google 團隊的實時編碼環境中減少了近 80%。該公司還報告,在 Gray Swan 的間接提示注入基準中,Carbon 的攻擊成功率為 0%,而 Argon 則為 0.7%。

這些結果反映了在特定測試條件下的性能,並不證明該模型對操控免疫。

Google 最初將 Carbon 限制在一小部分網絡安全防禦者中,其他值得信賴的合作夥伴將通過其 Fairwind 計劃獲得訪問權。該公司還參與了美國政府自願的預發布模型測試過程。儘管 Google 尚未宣佈具體的發布日期,但計劃為開發者、企業和消費者提供更廣泛的可用性。Carbon 將與 Argon 一樣,採用每百萬個輸入標記 US$2 (約 HK$15)和每百萬個輸出標記 US$10 (約 HK$78)的入門定價。

快取的輸入標記將獲得 95% 的折扣。分階段的推出反映了先進網絡安全人工智能的雙重用途特性,該技術可以幫助防禦者識別弱點,但也可能提供可能被濫用的能力。

項目規格
SEC-bench Pro 得分88.2%
CWE-bench 得分71%
ExploitGym 得分54.8%
WebDev Arena 得分1,768

Carbon 模型的市場潛力與挑戰

Google 的 Gemini 4 Carbon 模型在網絡安全領域的推出,顯示出其在識別漏洞和生成補丁方面的強大能力,這對於提升軟件安全性至關重要。隨著人工智能技術的發展,Carbon 的高效性能可能會吸引更多企業和開發者的關注。然而,該模型的性能數據尚未經過獨立驗證,這可能影響其市場接受度。此外,Google 針對潛在的濫用風險,實施了額外的安全措施,這反映出對於負責任使用人工智能的重視。

H
關於作者
Henderson