元 Anthropic 研究員が警告：未管理の AI 競争は人類に前例のない脅威をもたらす可能性

元 Anthropic 研究員の Jacob Coxon は、安全上の懸念からプレトレーニング人工知能モデルの職を辞しました。彼は、規制されていない企業の競争が人工知能を発展させることは人類に前例のない脅威をもたらす可能性があると主張しました。この 27 歳のプレトレーニング研究員の劇的な辞職は、ソーシャルメディアプラットフォーム X で挑発的な警告を発し、すぐにテクノロジー業界で注目を集めました。Coxon は、現在進行中の人間の活動の中で、「自己改善超知能」を構築するための終わりのない企業競争ほど文明を脅かすものはないと述べています。彼は X に次のように書いています。「人工知能を構築している人々は、それが 10 年以内に私たち全員を殺す可能性があることを本気で信じています。」

これは単なるマーケティングの誇張ではありません。実際、多くの経営幹部やシニア研究員はメディアで合理的に聞こえるような表現を使っていますが、私は同じ人々が個人的に恐怖を表明するのを目にしました。他にこれほど高いレベルの危険をもたらす人間の活動はありません。」

Coxon はツイートで次のように書いています。「今日、私は Anthropic を辞職しました。私は OpenAI と Anthropic でプレトレーニング研究を 3 年間行ってきました。この両社は責任ある行動を取っていません。彼らは全力ですべての命を危険にさらして自己改善超知能を追求しています。」

能力向上の一時禁止を呼びかけ

彼は、企業の競争が研究室を自己満足の競争に追い込み、危険なシステムを最初に構築せざるを得ない状況に陥らせていると考えています。この流れを断ち切るために、彼は同業者に声を上げ、能力向上を一時的に禁止し、国際的な調整と安全対策を促進するよう求めています。彼はツイートで次のように付け加えています。「私たちはグローバルな競争を防ぐ方向に進んでいないと感じており、これはモデルの能力を向上させることを一時的に禁止するなどの大きな犠牲を伴う措置が必要になるかもしれません。」

業界内の安全上の懸念

Gizmodo の報道によると、Anthropic の CEO である Dario Amodei は、元従業員と共有する人工知能の安全上の懸念を抱いており、業界内で「終末論者」とラベル付けされています。彼の長文ブログ記事もこのことを裏付けています。この共通の生存への不安は、注目すべき矛盾を浮き彫りにしています。すなわち、頂点に立つ人工知能企業の責任者が、彼が全力で推進している技術に対して深い恐怖を抱いていることです。

企業競争と人工知能の安全性の矛盾

Coxon の辞職とその警告は、現在の人知能分野の緊急性と危険性を反映しています。企業競争が激化するにつれて、開発者は安全性を無視し、技術の一刻も早い推進に専念する可能性があります。この状況は、業界の内部関係者に恐怖を引き起こし、一部のリーダーたちがより責任ある行動を呼びかけています。例えば、能力向上を一時的に禁止して潜在的なリスクを低減することです。この矛盾の存在は、イノベーションと安全性の間の緊張を示し、未来の技術発展にとって重要な課題となっています。