前 Anthropic 研究員警告未受控的 AI 競賽可能對人類構成前所未有的威脅

前 Anthropic 研究員 Jacob Coxon 因安全顧慮辭去其預訓練人工智能模型的職位，聲稱未經監管的企業競爭發展人工智能對人類構成前所未有的威脅。這位 27 歲的預訓練研究員的戲劇性辭職在社交媒體平台 X 上發出挑釁的警告，立即引發科技界的關注。Coxon 表示，目前沒有任何人類活動比無休止的企業競賽來建造「自我改進超智能」更能威脅文明。他在 X 上寫道：「那些建造人工智能的人真心相信，它可能在十年內殺死我們所有人。

這不是一場市場營銷的噱頭。事實上，許多高管和資深研究員在媒體上會用聽起來合理的措辭來表達，但我聽到同樣的人私下表達恐懼。沒有其他人類活動能構成如此高水平的危險。」

Coxon 在推文中寫道：「我今天從 Anthropic 辭職。我在 OpenAI 和 Anthropic 進行預訓練研究已有三年。這兩家公司都沒有負責任地行事。他們正在全力追求自我改進的超智能，並拿我們的生命來冒險。」

呼籲暫時禁止能力提升

他認為，企業競爭使實驗室陷入一場自負的競賽，迫使它們首先建造危險系統。為了打破這一勢頭，他呼籲同行發聲，並要求暫時禁止能力提升，以促進國際協調和安全控制。他在推文中補充說：「我感覺我們並未朝著防止全球競賽的方向前進，這可能需要如暫時禁止提高模型能力等代價高昂的措施。」

行業內的安全顧慮

根據 Gizmodo 的報導，Anthropic 的首席執行官 Dario Amodei 與他的前員工分享類似的人工智能安全顧慮，因而在行業中被標籤為「末日論者」，他的長篇部落格文章也證實了這一點。這種共同的生存焦慮突顯出一個引人注目的矛盾：一位頂尖人工智能公司負責人對他正在全力推進的技術懷有深深的恐懼。

企業競爭與人工智能安全的矛盾

Coxon 的辭職及其警告反映了當前人工智能領域的緊迫性與危險性。隨著企業競爭的加劇，開發者可能忽視安全考量，專注於技術的快速推進。這種情況不僅引發了業內人士的恐懼，也促使一些領導者呼籲進行更負責任的行為，如暫時禁止能力提升，以減少潛在風險。這一矛盾的存在，顯示了創新與安全之間的張力，對未來的技術發展提出了重要挑戰。