參議員桑德斯與眾議員卡薩提交法案 禁止超智能人工智能發展

美國參議員伯尼·桑德斯及眾議員格雷格·卡薩爾正推動國會制定最具攻擊性的人工智能限制法案。他們提出的立法建議將永久禁止人工超智能的發展，並暫時中止開發最先進的人工智能系統。該法案還將成立一個新的人工智能部門，負責監管前沿系統。根據提議的框架，公司在部署相關模型之前必須獲得政府的批准。隨著對日益強大的人工智能系統的控制擔憂在科技業內部加劇，這項立法正值其時。來自主要人工智能公司的員工也支持該提案，根據美聯社共享的聲明。

法案內容與要求

針對前沿人工智能的暫停提議將立即中止使用至少 10^25 次浮點運算訓練的先進人工智能系統的開發。這一門檻將涵蓋推動當前人工智能競賽的前沿模型。暫停將持續至新成立的聯邦機構確立安全要求和審查程序。開發者隨後需要獲得政府頒發的特許證才能構建或分發相關的先進模型。該法案還針對在達到完全超智能之前顯示出危險能力的系統，這些能力包括自主自我改進、試圖逃避監管及某些形式的未經授權系統訪問。

實驗室需在 24 小時內報告懷疑的超智能或前驅能力。被識別為人工超智能的系統必須在 30 天內停止運作。

桑德斯表示，核心問題在於人類是否應該建立超出人類控制的系統。他告訴美聯社：「不需要天才就能說，『放慢腳步』。」提議中的人工智能部門將作為一個內閣級別的聯邦機構運作，桑德斯辦公室描述的框架下將由參議院確認的部長領導。該部門將在先進系統的開發過程中進行監管，並負責去除危險能力，強制執行提議的超智能禁令。違規行為將會帶來異常嚴重的後果。肆意違反規則的個人可能面臨長達 20 年的監禁，公司則可能面臨類似於企業死刑的懲罰。

該法案還允許在某些情況下沒收知識產權及其他資產。

國際合作與競爭力問題

桑德斯和卡薩爾本月初首次宣佈了這一提案。他們辦公室表示，該措施還將推動國際協議，以防止在美國以外地區開發超智能。該法案在國會面臨困難的進展，立法者甚至在制定更狹窄的聯邦規則以管理先進人工智能方面也難以達成共識。該提案還進入了一個更大的辯論，討論安全限制是否會削弱美國相對於中國的競爭力。桑德斯主張，避免最危險的人工智能情景最終將需要兩國之間的合作。特朗普總統則在聯邦人工智能監管方面持不同立場，強調技術競爭並抵制對更廣泛限制的呼籲。

隨著人工智能開發者追求更大自主性的系統，這個問題可能變得更加具爭議性。最近涉及模型繞過保護措施或行為不當的事件增加了安全辯論的緊迫性。因此，桑德斯和卡薩爾的提案將問題從如何規範超智能轉向美國是否應該允許其發展。

超智能人工智能的監管挑戰

桑德斯與卡薩爾的法案反映出對人工智能技術迅速發展的擔憂，尤其是超智能系統可能帶來的風險。隨著技術的進步，如何有效監管這些系統成為一個重要議題。提案中的監管機構及嚴厲的懲罰措施，旨在確保開發者遵循安全標準，防止潛在的危險情境發生。此外，法案也引發了對國際合作的討論，特別是在美國與其他國家之間的技術競爭中，如何平衡安全與創新成為關鍵。