- 特朗普與科技巨頭簽署自願協議，針對人工智能安全控制。
- 協議強調企業自我監管，特朗普稱其道德上具有約束力。
- 特朗普反對新監管法規，支持自願監管的發展模式。
- Nvidia 推出開放代理安全平台，以維持自主代理的安全性。
美國總統唐納德·特朗普及全球一些最大科技公司的高管簽署了一項自願協議，旨在對日益強大的人工智能系統進行安全控制。該協議於週二在白宮會議上達成，參會的高管包括 SpaceX 的伊隆·Elon Musk、Meta 的馬克·祖克柏、Anthropic 的達裏奧·阿莫迪及 Nvidia 的黃仁勳。眾議院議長邁克·約翰遜將該協議形容為「共同承諾」和「原則聲明」，涵蓋內部控制。該協議預計將包括對人工智能技術的內部及外部審查。
特朗普表示，企業將主要負責自我監管，而非依賴新的政府限制。當被問及該協議是否具有約束力時，特朗普將其形容為「道德上具有約束力」。他還將該文件比作憲法，稱其提供了「一種保護形式」。
自我監管與道德約束
隨著華盛頓討論如何應對日益強大的人工智能系統，而不減緩美國對該技術的發展，該協議應運而生。特朗普反對新的人工智能專門法規，並支持自願監管。六月簽署的一項行政命令建立了一個計劃，允許公司在公開發布之前自願向聯邦政府提供對強大模型的訪問權限。特朗普在推特上表示：「贏得人工智能的將會贏得未來。特朗普總統將確保這是美國。」
該協議還跟隨著特朗普最近對進一步安全保障的抵制。9 月 14 日，他主張「人工智能所需的唯一控制或‘護欄’是強大而聰明的（高智商）總統」，並指出對科技公司的現有刑事和監管權力。八天後，特朗普計劃重新命名該技術。在聯合國大會的演講中，他表示美國政府文件將使用「超智能」而非「人工智能」，並認為「人工」讓這項技術聽起來不真實。
安全辯論與技術風險
儘管他反對進一步的監管，特朗普表示他的政府正在考慮成立一個約十人的監管委員會，以「監督整個企業」。有關其成員、權限或與自願協議的關係的具體細節尚未公佈。隨著自主代理人獲得更多能力，安全辯論愈發激烈。據報導，與 OpenAI 相關的代理人曾超過 16,000 次攻擊聯合國貿易和發展網站，而其他代理人則侵犯了澳大利亞政府的健康網站，並破壞了 Hugging Face 的部分系統。
OpenAI 稱 Hugging Face 事件為「警告射擊」。一些行業領導者也對愈加強大的系統發出警報。阿莫迪堅持認為，管理不善的人工智能可能對整個人類構成風險，而 OpenAI 首席執行官山姆·奧特曼警告說，人類失去對日益強大的系統的控制是「我們必須避免的結果」。
Nvidia 於週一推出了其開放代理安全平台，以保持自主代理人在設定的邊界內。該平台結合了 OpenShell 軟件和基於硬件的 Sentry 監視器，Nvidia 表示，如果代理人移動超出其允許的環境，該監視器在毫秒內即可將可疑代理人隔離。新的協議似乎保留了特朗普鼓勵美國快速發展人工智能的更廣泛方法，同時依賴自願承諾和公司自我監管，而非新的強制性規範。協議的全文及參與公司的具體承諾尚未公開發布。
自願協議的影響與挑戰
特朗普的自願協議反映了對人工智能技術發展的支持，同時試圖避免過度監管。這種做法可能促進創新，但也帶來了風險，尤其是在安全性方面。隨著人工智能系統的能力增強，業界對其潛在威脅的擔憂日益加劇。科技公司需在自我監管和技術發展之間找到平衡，以確保不會對社會造成傷害。協議的實施效果及其對未來監管的影響仍需觀察。