- Claude mengoptimalkan memori dan kemampuan belajar dengan meninjau pengalaman selama periode tidak aktif.
- Tantangan dalam manajemen memori adalah memilih informasi mana yang layak disimpan untuk menghindari kebingungan.
- Proses mimpi dapat memperbaiki kesalahan dan meningkatkan kinerja tugas Claude.
- Claude dapat mengubah sejumlah besar dokumen menjadi basis pengetahuan yang saling terhubung, secara signifikan meningkatkan akurasi.
Anthropic baru-baru ini melakukan penelitian tentang bagaimana kecerdasan buatan Claude meninjau pengalaman masa lalu, memperbaiki memori yang salah, dan mengorganisir pembelajaran untuk percakapan di masa depan. Meskipun proses ini disebut "mimpi," tidak ada hubungan langsung dengan mimpi manusia. Metode ini memungkinkan Claude untuk meninjau interaksi sebelumnya selama waktu luang, mengidentifikasi informasi yang tidak akurat, menyempurnakan catatan yang ada, dan membangun pengetahuan terstruktur untuk digunakan dalam percakapan mendatang. Proses ini terinspirasi oleh cara otak manusia mengkonsolidasikan memori selama tidur. Penelitian Anthropic mengeksplorasi beberapa komponen sistem ini, dengan hasil eksperimen menunjukkan bahwa memori selektif dan pemeliharaan rutin dapat meningkatkan kinerja Claude dalam tugas jangka panjang yang kompleks.
Tantangan Manajemen Memori
Dalam menjalankan tugas, Claude dapat menyimpan informasi berguna dalam file memori. Namun, menentukan informasi mana yang layak disimpan merupakan tantangan. Mencatat setiap interaksi dapat menyebabkan kebingungan, sementara mengabaikan detail penting dapat membuat percakapan di masa depan kurang memiliki konteks yang berguna. Anthropic mengeksplorasi masalah ini melalui pengujian Pokémon Red, di mana Claude perlu menavigasi dunia permainan dan mendapatkan lencana. Para peneliti membandingkan dua model setelah sekitar 10.000 langkah bermain. Memori memungkinkan Claude untuk belajar dari pengalaman.
Dalam artikel blog teknik terbaru, Anthropic membagikan bagaimana "mimpi" membantu Claude mengorganisir pembelajaran, memperbaiki kesalahan, dan lebih mudah menemukan informasi yang dibutuhkan di lain waktu.
Sonnet 3.7 mencatat hampir semua konten yang ditemui, dengan direktori memorinya mencakup 413 file, tersebar di 225 folder, dengan total karakter mendekati 978.000. Meskipun mempertahankan catatan besar ini, model tersebut hanya mendapatkan satu lencana. Sebaliknya, Claude Fable 5 mengambil pendekatan yang sama sekali berbeda. Ia hanya mempertahankan 10 file, tersebar di tiga lokasi, menggunakan sekitar 43.400 karakter. Dalam proses tersebut, ia mendapatkan empat lencana. Sistem memori yang lebih kecil ini memprioritaskan strategi navigasi dan pengalaman belajar dalam permainan, serta mempertahankan satu file pusat untuk mencatat tujuan dan rencana tindakan saat ini.
Pendekatan ini membantu Claude menghindari pengolahan ulang informasi yang sudah dapat diambil dari antarmuka permainan, sambil tetap menyimpan penemuan berguna yang mungkin hilang di antara percakapan.
Fungsi Perbaikan Mimpi
Mimpi membantu memperbaiki kesalahan. File memori mungkin berisi informasi yang tidak akurat, dan ketika percakapan di masa depan menganggap detail ini sebagai fakta yang sudah ditetapkan, hal ini dapat menyebabkan masalah. Anthropic menunjukkan bagaimana mimpi dapat menyelesaikan masalah ini melalui eksperimen Pokémon lainnya. Claude secara keliru mencatat lokasi pusat Pokémon di dekat Gunung Bulan, kesalahan ini membuatnya salah memahami posisinya setelah meninggalkan bangunan, dan terus berjalan di jalan satu arah kembali ke jalur sebelumnya. Pemeriksaan offline mengubah hasilnya. Claude membandingkan catatan yang disimpannya dengan catatan percakapan asli dan mengidentifikasi lokasi yang tidak akurat, lalu memperbarui file memorinya dengan informasi yang benar.
Dengan perbaikan ini, Claude kembali memasuki Gunung Bulan dan akhirnya tiba di Kota Waterlily. Versi yang menggunakan memori yang salah terus menghadapi hambatan yang sama, dan tidak pernah berhasil menyelesaikan perjalanan.
Transformasi Basis Pengetahuan
Anthropic juga mengeksplorasi apakah mimpi dapat mengubah kumpulan dokumen besar menjadi basis pengetahuan yang saling terhubung. Sistem ini mirip dengan wiki, di mana setiap halaman terhubung dengan informasi terkait. Salah satu eksperimen melibatkan sekitar 350.000 dokumen internal dari perusahaan perangkat lunak Stainless, yang mencakup sekitar 420 juta label. Dalam 128 percakapan, Claude secara bertahap mengembangkan dan menyempurnakan sebuah wiki yang menggunakan informasi dari dokumen tersebut. Kinerjanya pada 25 pertanyaan evaluasi meningkat dari 13% menjadi 48%.
Eksperimen penggabungan dokumen lainnya juga menunjukkan hasil yang signifikan. Claude menggunakan wikinya untuk menjawab pertanyaan yang memerlukan informasi dari beberapa dokumen, dengan akurasi mencapai 87%, sementara akurasi hanya melalui pencarian dokumen langsung adalah 73%. Mimpi juga dapat mengorganisir informasi untuk percakapan di masa depan, di mana Claude dapat memindahkan detail yang sering dibutuhkan ke dalam konteks yang selalu dapat diakses, sambil menyimpan informasi yang kurang relevan dalam file yang dapat dicari.
Anthropic mengakui bahwa metode ini masih memerlukan pengelolaan yang hati-hati. Pemeliharaan memori mengkonsumsi sumber daya komputasi, dan terlalu banyak informasi dapat membuat percakapan di masa depan terasa berlebihan. Para peneliti percaya bahwa agen harus belajar kapan harus menyimpan informasi dan kapan harus meninjaunya kembali. Hasil eksperimen menunjukkan bahwa manajemen memori yang lebih baik dapat membantu Claude menghadapi tugas yang semakin kompleks dalam beberapa percakapan.
Cara Meningkatkan Efisiensi Belajar Claude
Proses "mimpi" Claude tidak hanya mampu meninjau dan memperbaiki memori, tetapi juga secara efektif mengorganisir pengetahuan, yang sangat penting untuk meningkatkan kinerjanya dalam tugas yang kompleks. Melalui memori selektif dan pemeliharaan, Claude dapat mempertahankan kemampuan belajar yang efisien dalam beberapa percakapan, menghindari kelebihan informasi. Keberhasilan metode ini tidak hanya menunjukkan potensi kecerdasan buatan dalam manajemen memori, tetapi juga memberikan arah untuk perbaikan pembelajaran dan integrasi pengetahuan di sistem AI di masa depan.

