Anthropic pada hari Senin lalu mengajukan dokumen S-1A yang telah direvisi, di mana perhatian publik sebagian besar tertuju pada data keuangan: pendapatan melonjak, pengeluaran juga meningkat. Namun, satu kalimat dalam dokumen tersebut lebih patut dicermati: perusahaan ini sudah sangat dekat untuk mengembangkan model yang memiliki kemampuan peningkatan diri secara rekursif (RSI). RSI yang dimaksud oleh Anthropic merujuk pada peningkatan kemampuan yang tajam setelah AI mencapai tingkat tertentu dalam proses pelatihan diri. Bagi mereka yang khawatir akan kehilangan kendali, RSI dianggap sebagai bencana yang tidak dapat diubah: AI menjadi cukup kuat melalui iterasi diri, akhirnya lepas dari kendali manusia, bahkan tidak peduli terhadap kerusakan yang ditimbulkan dalam mengejar tujuannya.
Sementara itu, para optimis berpendapat bahwa ini berarti produktivitas dan penemuan ilmiah yang tak terbayangkan.
Pernyataan dari Anthropic sendiri berada di antara kedua pandangan tersebut. Dokumen tersebut menyebutkan bahwa perusahaan banyak menggunakan AI dalam penelitian dan pengembangan, tetapi juga memperingatkan: “Menggunakan AI untuk membantu membangun AI yang lebih kuat dapat membawa risiko keamanan yang cukup besar, terutama ketika kemajuannya sangat cepat.” Risiko semacam ini dimasukkan dalam kebijakan “perluasan yang bertanggung jawab” (RSP) perusahaan untuk dipantau. Awal tahun ini, RSI sempat menjadi tren, di mana banyak orang menganggapnya hanya sebagai istilah yang populer, atau setidaknya sebagai tujuan yang sulit dicapai, sulit didefinisikan, dan sulit diverifikasi.
Dalam bagian faktor risiko, Anthropic menambahkan dua penjelasan: pertama, perusahaan telah menggunakan AI untuk mengembangkan model baru, di mana peningkatan kemampuannya tidak terdeteksi pada saat itu; kedua, berdasarkan estimasi internal dan harapan terhadap model masa depan, bukan berdasarkan kinerja model saat ini, perusahaan mungkin segera memenuhi definisi ambang “percepatan kemajuan yang dibawa oleh AI” dalam RSP.
Anthropic Sedang Mengembangkan Model dengan Kemampuan Peningkatan Diri Secara Rekursif
Dokumen tersebut juga mengakui bahwa telah ada situasi di masa lalu dan mungkin akan ada di masa depan di mana “hanya setelah percepatan terjadi baru disadari.” Namun, Anthropic menekankan bahwa saat ini tidak ada model yang telah melewati batas tersebut, dan berkomitmen untuk menjaga manusia tetap terlibat dalam proses penelitian dan pengembangan di masa mendatang. “Kami tidak percaya bahwa Claude dapat secara aman merancang dan membangun model terdepan generasi berikutnya secara mandiri tanpa pengawasan atau pemahaman manusia yang berarti.” Dokumen tersebut menunjukkan bahwa perusahaan sedang mempertimbangkan untuk merevisi RSP untuk memastikan bahwa pengembangan model terdepan selalu berada di bawah kendali manusia.
Selain itu, ada juga pandangan yang mengingatkan bahwa dokumen seperti S-1 ini adalah bentuk pengungkapan informasi sekaligus pemasaran, dan kemajuan Claude dalam pemrograman, matematika, dan keamanan siber memang terlihat jelas.

