- Anthropic 與 METR 合作進行獨立評估，增強安全實踐。
- 隨著模型能力增強，安全防範和風險評估需求上升。
- METR 將負責評估風險報告並公開結果，增強透明度。
- Anthropic 計劃設置三個訪問級別以提升評估者權限。
Anthropic 官方宣布，已開始與非營利機構 METR 合作，為其人工智能模型提供員工級別的訪問權限，以進行更強有力的獨立評估。這一舉措是該公司上個月承諾加強模型及安全實踐的獨立第三方評估的一部分。
隨著模型的能力不斷增強，對於安全防範措施和風險評估的要求也隨之提高。Anthropic 表示，他們希望對所做的決策負責，但無法公開分享所有與安全工作相關的信息，因為某些信息可能會被惡意行為者利用，或是商業上敏感的數據。
「我們希望縮小評估者對前沿人工智能公司系統的理解與公司自身理解之間的差距。」
METR 負責風險評估
METR 將負責評估 Anthropic 的風險報告，並公開其風險評估結果。Anthropic 已經與 METR 合作進行了多次風險報告的審查，並計劃進一步加強與其他評估機構的合作，包括 SecureBio 和 Accenture。
「我們的目標是確保我們的合作夥伴能夠保護機密信息，並具備評估我們模型所需的資源和專業知識。」
Anthropic 計劃為評估者設置三個訪問級別，隨著合作的深入，將逐步提升對評估者的信息訪問權限。第一級的評估者將進行狹義的風險調查，而第二級的評估者則可以在不需公司批准的情況下發表結果。METR 的合作屬於第三級，享有類似員工的訪問權限。
「我們相信每個前沿人工智能公司都應該採取類似的嵌入式評估措施。」
加強透明度與責任感
這一系列措施標誌著 Anthropic 在人工智能安全監管方面邁出了重要一步，旨在加強對其模型的透明度和責任感。
資料來源：Anthropic 官方公告
Anthropic 的安全監管新措施
Anthropic 與 METR 的合作顯示出該公司對人工智能安全的重視，尤其在模型能力提升的背景下，對風險評估的需求愈加迫切。透過設置不同的訪問級別，Anthropic 不僅能確保機密信息的保護，還能逐步提升外部評估者的參與程度，這對於增強模型的透明度和責任感至關重要。這一系列措施也可能成為其他人工智能公司的參考，促進整個行業在安全監管方面的進步。