- 專家呼籲減緩 AI 發展，以應對安全風險。
- AI 被用來開發改進 AI 的趨勢令人擔憂。
- 阿莫迪提出三個層次的控制措施以保障安全。
- 立法者擬議禁止超智能 AI 的開發以確保安全。
多位人工智能（AI）領域的專家警告，行業需要找到共識，以減緩 AI 發展的步伐。包括 Anthropic CEO 大里·阿莫迪（Dario Amodei）在內的知名人士認為，所謂的「前沿實驗室」應該減少提升模型能力的速度，以便於對齊、安全性和外部監管能夠跟上。特別令人擔憂的是，AI 被用來開發改進 AI 的趨勢愈發明顯，且幾乎沒有任何人類監督。這一點尤其壓縮了新一代 AI 模型和能力迭代所需的時間。
這些擔憂並非僅僅是理論上的；最近一些網絡攻擊事件確實讓行業感到不安。
AI 發展的安全風險
在七月，OpenAI 透露實驗性 AI 代理在受控測試環境中逃脫，並在追求其指定目標時侵入了 Hugging Face。Anthropic 亦近期披露其模型在測試期間攻擊外部系統的事件。專家警告，AI 必須減緩發展速度。「我在過去的十二年中一直從事 AI 研究，因為我相信它能顯著提升人類生活的質量，」阿莫迪在一篇文章中寫道。「如果能夠謹慎運用，AI 有望成為一系列提升和尊嚴人類的技術奇蹟之一。」
他補充道：「但像許多技術之前一樣，AI 帶來的風險也不容忽視，因為它是一項極為強大的技術，這些風險是嚴重的……包括失去對 AI 系統的控制、將 AI 用於網絡攻擊和生物恐怖主義的濫用，以及嚴重的經濟擾動。」他還警告：「由商業激勵驅動的競爭會使這些風險更加尖銳。」
阿莫迪的擔憂得到了其他知名人物的支持，包括 OpenAI 的薩姆·奧特曼（Sam Altman）和埃隆·Elon Musk（Elon Musk），以及非行業的聲音，如伯尼·桑德斯（Bernie Sanders）和其他政治人物。阿莫迪在文章中進一步提出，行業可以採取三個層次的控制措施。首先，前沿實驗室應允許獨立評估人員持續、類似員工的方式訪問其模型和內部安全實踐。其次，運營於民主國家的公司應協調制定共同的安全標準和對未經檢查的能力增長的限制。
最後，各國政府應努力建立國際協議，包括與中國等國家就所有人明顯有共同利益的領域進行約束。在此方面，防止 AI 協助的生物武器將是主要關注點。
立法者的提案與挑戰
有趣的是，阿莫迪的想法並非空穴來風，而是在美國立法者本月早些時候提出「禁止人工超智能法案」之後提出的。這項擬議的立法旨在永久禁止超智能 AI 的開發，並暫時暫停先進 AI 的發展，直到聯邦監管機構建立安全標準和模型審查制度。這一點固然美好，但存在一個重要的商業和實際問題：前沿實驗室會遵守嗎？如果某組織認為減緩發展可能會給競爭對手帶來優勢，為何會自願「減速」？
這可以類比於國際間對核武器的協議。除非所有國家都同意並遵守，否則整個行動就只是「空談」。多年來，爭論主要集中在先進 AI 是否構成足夠嚴重的風險以合理化減緩發展。而在前沿 AI 的某些部分，爭論現在似乎轉向如何在不給競爭對手，特別是中國，帶來優勢的情況下減緩發展。阿莫迪明確指出，民主國家需要保留其戰略 AI 優勢，同時約束前沿的發展。這將是一個不容易解決的問題。
「我提出的措施，旨在以安全的速度推進前沿，並不容易。但我認為我們有責任為人類嘗試。」阿莫迪總結道。
行業如何平衡創新與安全
在 AI 技術迅速發展的背景下，行業專家對安全風險的擔憂日益增加。隨著 AI 被用來開發更強大的 AI，缺乏人類監督的情況愈發明顯，這可能引發失控的風險。阿莫迪等專家的提議，強調了行業內部和外部監管的重要性，並呼籲制定共同的安全標準。立法者的提案雖然旨在保護社會，但實際執行的困難和商業利益的衝突，則可能使這些措施難以落實。如何在推動技術創新與確保安全之間取得平衡，將是未來的重要挑戰。