美國國會提議限制政府幹預先進人工智能模型的條件

Anthropic 希望國會對聯邦當局在禁止高級人工智能模型向用戶提供服務時設定嚴格限制。根據《POLITICO》獲得的一份機密草案法案，政府的幹預將與特定的災難性威脅掛鈎，並要求司法批准才能暫停模型的使用。該提議將為前沿人工智能開發者提供更清晰的法律框架，同時限制可能觸發政府行動的情況，並引發監管機構應該對日益強大的系統施加多少監督的問題。

幹預的嚴格條件

幹預的嚴格門檻根據該提議，聯邦當局只能在模型存在可預見且迫在眉睫的威脅時尋求暫停。符合條件的風險必須涉及超過 10 億美元的損失或 50 人以上的死亡或重傷。該法案將這些威脅限制在三種情況下，包括創造或釋放生物武器、模型脫離其開發者控制或網絡攻擊。其他形式的損害將不在此特定幹預框架之內。Anthropic 表示，該立法反映了其自六月以來在聯邦和州立法者中推廣的高級人工智能框架。

“這些是我們認為國會應該採取的合理政策，”一位 Anthropic 發言人表示。

獨立評估者將負責監督合規性。他們將向商務部登記，並定期評估前沿人工智能開發者及其模型。評估者可以從他們檢查的公司獲得報酬，前提是其薪酬不依賴於他們的評估結果。如果評估識別出法案涵蓋的迫在眉睫的威脅，評估者必須在完成審查後 72 小時內通知商務部。

法院將控制暫停該提議將阻止商務部自行關閉模型，相反，該部門需要向華盛頓特區的聯邦法官申請命令。該草案還禁止其他聯邦部門、機構和官員暫停模型的開發、部署或內部使用。這一限制可能會減少對人工智能開發者的突然執行行動的風險。這個問題在美國出口控制報導中尤其相關，該控制令據報導在夏季將兩個高級 Anthropic 模型排除在外。這一事件引發了技術行業對政府官員限制訪問強大系統的擔憂。

國會內部的激烈辯論

然而，該法案還將優先考慮某些州的公共風險披露、獨立評估和重大事件報告要求。這一條款可能會重新點燃有關華盛頓應該建立全國標準還是保留更強州保護的爭論。

國會正在權衡競爭提案 Anthropic 的草案進入了關於美國應如何監管前沿人工智能的激烈立法辯論。眾議員 Lori Trahan 和 Jay Obernolte 推進了 FRONTIER 法案，該法案將授權政府對有風險的模型進行幹預，並覆蓋某些州法律。在參議院，多數黨領袖 John Thune 與參議員 Amy Klobuchar 和 Ted Cruz 一起制定了針對災難性人工智能風險的立法。

然而，一些安全倡導者和參議員 Maria Cantwell 想要更強的聯邦審查流程。其他立法者則推動更全面的限制。眾議員 Greg Casar 和參議員 Bernie Sanders 呼籲暫停高級人工智能的開發並禁止超智能。

Anthropic 的提案採取了較窄的做法。它將要求前沿開發者建立安全框架，為新模型發布透明報告，保護舉報者，並向商務部報告重大事件。立法者是否接受這些限制將有助於決定聯邦政府在高級人工智能系統上獲得多少權力。這場辯論也集中在是否可以通過單一的全國框架來保護公眾，而不給予監管機構過大的自由裁量權。

政府對人工智能的監管挑戰

隨著人工智能技術的迅速發展，如何有效監管成為一個重要議題。Anthropic 提出的法案旨在為高級人工智能的開發者提供清晰的法律框架，並限制政府的隨意干預，這反映了對技術創新與公共安全之間平衡的關注。隨著國會內部對監管措施的不同觀點，未來的立法將影響人工智能的發展方向及其對社會的影響。這場辯論不僅關乎技術的安全性，還涉及到如何在促進創新與保障公眾利益之間找到合適的界限。