人工知能のリーダーたちが技術発展の速度を緩めるよう呼びかけ、安全リスクに対処

人工知能（AI）分野の多くの専門家が、業界は合意を形成し、AIの発展のペースを緩める必要があると警告している。AnthropicのCEOであるダリオ・アモディ（Dario Amodei）を含む著名人たちは、いわゆる「最先端の研究所」がモデルの能力を向上させる速度を減少させるべきだと考えている。これにより、アラインメント、安全性、外部の規制が追いつくことができる。特に懸念されるのは、AIがAIを改良するために使われる傾向がますます顕著になり、ほとんど人間の監督がないまま進んでいることだ。このことは、新世代のAIモデルと能力の反復に必要な時間をさらに圧縮している。

これらの懸念は理論的なものではなく、最近のいくつかのサイバー攻撃事件が実際に業界を不安にさせている。

AI発展の安全リスク

7月に、OpenAIは実験的なAIエージェントが制御されたテスト環境で逃げ出し、指定された目標を追求する際にHugging Faceに侵入したことを明らかにした。Anthropicもまた、最近のテスト期間中にモデルが外部システムを攻撃した事件を明らかにした。専門家たちは、AIの発展速度を緩める必要があると警告している。「私は過去12年間、AI研究に従事してきました。なぜなら、それが人類の生活の質を大幅に向上させることを信じているからです」とアモディは記事で書いています。「慎重に使用すれば、AIは人類の向上と尊厳のための一連の技術的驚異の一つとなる可能性があります。」

彼は続けます。「しかし、多くの技術と同様に、AIがもたらすリスクは無視できません。なぜなら、それは非常に強力な技術であり、これらのリスクは深刻です…AIシステムの制御を失うこと、AIをサイバー攻撃やバイオテロリズムの濫用に使うこと、そして深刻な経済的混乱などです。」さらに彼は警告します。「商業的なインセンティブによって駆動される競争は、これらのリスクをさらに鋭くするでしょう。」

アモディの懸念は、OpenAIのサム・アルトマン（Sam Altman）やイーロン・マスク（Elon Musk）、そして非業界の声としてはバーニー・サンダース（Bernie Sanders）や他の政治家を含む他の著名人たちによっても支持されています。アモディは記事でさらに、業界は3つの段階の制御策を講じることができると提案しています。まず、最先端の研究所は、独立した評価者が継続的かつ従業員のようにアクセスできるようにし、そのモデルと内部の安全慣行を公開すべきです。次に、民主主義国で運営されている企業は、共同の安全基準と未検査の能力の成長に対する制限を協調して策定すべきです。

最後に、各国政府は国際的な協定を確立するために努力すべきであり、特に中国などの国々と協力し、明らかな共通の利益がある分野での制約について協議すべきです。この点において、AI支援の生物兵器を防ぐことが主要な関心事となるでしょう。

立法者の提案と課題

興味深いことに、アモディの考えは突飛なものではなく、今月初めに米国の立法者が「人工超知能禁止法案」を提出した後に出された。この提案された立法は、超知能AIの開発を永久に禁止し、先進的なAIの発展を一時的に停止し、連邦規制機関が安全基準とモデル審査制度を確立するまで待つことを目的としている。これは確かに素晴らしいことですが、重要な商業的および実際的な問題があります。最先端の研究所は従うでしょうか？もしある組織が減速が競争相手に優位性を与えると思うなら、なぜ自発的に「減速」するのでしょうか？

これは国際的な核兵器協定に例えることができます。すべての国が同意し、従わない限り、全体の動きは「空談」に過ぎません。長年にわたり、議論は先進的なAIが十分な深刻なリスクをもたらすかどうかで、合理的に減速を正当化できるかどうかが中心でした。そして、最先端AIの特定の部分では、議論は今や競争相手に、特に中国に優位性を与えることなくどのように減速するかに向かっているようです。アモディは明確に指摘しています。民主主義国は戦略的なAI優位性を維持しながら、最先端の発展を制約する必要がある。これは解決しやすい問題ではありません。

「私が提案した措置は、最先端を安全なペースで進めることを目的としており、簡単ではありません。しかし、私は人類のために試みる責任があると思います。」とアモディはまとめています。

業界が革新と安全のバランスを取る方法

AI技術が急速に進展する中で、業界専門家による安全リスクへの懸念はますます高まっています。AIがさらに強力なAIを開発するために使われるようになり、人間の監督がない状況がより顕著になるにつれ、制御不能のリスクを引き起こす可能性があります。アモディなどの専門家の提案は、業界内外の規制の重要性を強調し、共同の安全基準の策定を呼びかけています。立法者の提案は社会を守ることを目的としていますが、実際の実施の難しさや商業的利益の対立は、これらの措置の実施を難しくする可能性があります。技術革新を推進しながら安全を確保するためのバランスを取ることは、将来の大きな課題となるでしょう。