Anthropic 研究 Claude モデルの「夢境」過程による記憶と学習能力の最適化

Anthropic の最近の研究では、人工知能 Claude が無活動期間に過去の経験を振り返り、誤った記憶を修正し、学んだことを整理して未来の対話に備える方法が探求された。この過程は「夢想」と呼ばれているが、人間の夢とは直接の関係はない。この方法により、Claude は空き時間に過去のインタラクションを振り返り、不正確な情報を特定し、既存のノートを改善し、将来の会話に使用するための構造化された知識を構築することができる。この過程は、人間の脳が睡眠中に記憶を強化することからインスパイアを受けている。Anthropic の研究では、このシステムのいくつかの構成要素が探求され、実験結果は選択的記憶と定期的なメンテナンスが Claude の複雑な長期タスクにおけるパフォーマンスを向上させることを示している。

記憶管理の課題

タスクを実行する過程で、Claude は有用な情報を記憶ファイルに保存することができる。しかし、どの情報を保存するかを決定することは課題である。すべてのインタラクションを記録すると混乱を招き、重要な詳細を無視すると将来の会話に有用な背景が欠ける可能性がある。Anthropic は Pokémon Red のテストを通じてこの問題を探求し、Claude はゲームの世界をナビゲートし、バッジを獲得する必要があった。研究者たちは約 10,000 回のプレイステップ後に二つのモデルを比較した。記憶は Claude が経験から学ぶことを可能にした。

最新のエンジニアリングブログ記事では、Anthropic が「夢想」がどのように Claude の学びを整理し、誤りを修正し、次回必要な情報をより容易に見つけるのに役立つかを共有した。

Sonnet 3.7 は遭遇したほぼすべてのコンテンツを記録し、その記憶ディレクトリには 413 のファイルが 225 のフォルダに分散しており、総文字数は約 978,000 に達する。この膨大な記録を維持しながら、モデルはわずか一つのバッジを獲得した。それに対して、Claude Fable 5 は全く異なるアプローチを採用した。これは 10 のファイルを維持し、三つの場所に分散し、約 43,400 文字を使用した。実行過程で四つのバッジを獲得した。この小規模な記憶システムはナビゲーション戦略とゲーム内の学習体験を優先し、現在の目標と計画された行動を記録するための中心ファイルを保持した。

この方法は Claude がゲームインターフェースから取得できる情報を再処理することを避けるのに役立ち、同時に会話の間に消失する可能性のある有用な発見を保持することができる。

夢想の修正機能

夢想は誤りを修正するのに役立つ。記憶ファイルには不正確な情報が含まれている可能性があり、将来の会話でこれらの詳細が既定の事実として扱われると問題が生じる。Anthropic は別の Pokémon 実験を通じて夢想がこの問題をどのように解決するかを示した。Claude は月の山近くにある Pokémon センターの位置を誤って記録し、この誤りにより建物を出た後に自分の位置を誤解し、単行道を行き来することになった。オフラインチェックが結果を変えた。Claude は保存したノートを元の会話記録と比較し、不正確な位置を特定し、正しい情報で記憶ファイルを更新した。

この修正により、Claude は再び月の山に入り、最終的に水蓮市に到達した。誤った記憶を使用したバージョンは同じ障害に繰り返し直面し、旅を完了することができなかった。

知識庫の転化

Anthropic はまた、夢想が大量の文書集合を相互に関連付けた知識庫に転化できるかどうかを探求した。これらのシステムはウィキに似ており、各ページは関連情報にリンクされている。ある実験では、ソフトウェア会社 Stainless からの約 350,000 の内部文書が含まれ、約 4.2 億のタグが付けられていた。128 回の会話の中で、Claude は次第にこの文書情報を使用したウィキを開発し、改善した。25 の評価問題におけるパフォーマンスは 13% から 48% に向上した。

別の文書統合実験でも顕著な成果が得られた。Claude はそのウィキを使用して複数の文書情報が必要な問題に回答し、正確率は 87% に達したが、直接文書検索による正確率は 73% であった。夢想は将来の会話のために情報を再組織することもでき、Claude は頻繁に必要な詳細をいつでもアクセスできるコンテキストに移し、関連性の低い情報は検索可能なファイルに保持することができる。

Anthropic はこの方法が慎重に管理される必要があることを認めている。記憶の維持は計算資源を消費し、過剰な情報は将来の会話を圧倒する可能性がある。研究者たちは、エージェントが情報を保持するタイミングと再検討するタイミングを学ぶ必要があると考えている。実験結果は、より良い記憶管理が Claude が複数の会話でますます複雑なタスクに対処するのを助けることを示している。

Claude の学習効率を向上させる方法

Claude の「夢想」過程は、記憶を振り返り修正するだけでなく、知識を効果的に整理することができ、これが複雑なタスクにおけるパフォーマンス向上にとって重要である。選択的記憶と維持を通じて、Claude は複数の会話において効率的な学習能力を保持し、情報過多を避けることができる。この方法の成功は、人工知能が記憶管理において持つ潜在能力を示すだけでなく、将来の AI システムの学習と知識統合の改善に向けた方向性を提供するものである。