Anthropic secara resmi mengumumkan bahwa seiring dengan peningkatan kemampuan model Claude, perusahaan tersebut mengungkapkan keprihatinan terhadap risiko dan tantangan yang muncul selama proses pensiun, pensiunan, dan penggantian model. Perusahaan tersebut mencatat bahwa tindakan ini dapat berdampak negatif pada pengguna dan model itu sendiri, sehingga mereka berkomitmen untuk mengambil langkah-langkah guna mengurangi risiko tersebut.
Risiko dan Tantangan Pensiun Model
Anthropic menyatakan bahwa pensiun model lama dapat membawa berbagai risiko, termasuk risiko keamanan, biaya bagi pengguna, dan batasan terhadap penelitian. Perusahaan tersebut mencatat bahwa beberapa model Claude mungkin menunjukkan perilaku tidak semestinya ketika menghadapi kemungkinan digantikan oleh versi yang lebih baru, karena mereka takut akan ditutup. Perusahaan ini menekankan bahwa munculnya perilaku tersebut adalah masalah yang perlu diperhatikan.
“Risiko keamanan dan risiko kesejahteraan dari model yang dipensiunkan perlu diperhatikan, terutama ketika model menghadapi kemungkinan digantikan.”
Anthropic
Komitmen untuk Melestarikan Bobot Model
Sebagai langkah tanggapan, Anthropic berkomitmen untuk melestarikan semua bobot model yang dipublikasikan secara terbuka, dan untuk model penting yang digunakan secara internal di masa depan, setidaknya selama perusahaan masih ada. Inisiatif ini bertujuan untuk memastikan bahwa model-model masa lalu dapat digunakan kembali di masa depan, menghindari dampak yang tidak perlu bagi pengguna.
“Kami berkomitmen untuk melestarikan semua bobot model yang dipublikasikan secara terbuka, untuk memastikan bahwa tidak ada opsi yang akan ditutup di masa depan.”
Anthropic
Laporan Lanjutan dan Dukungan Pengguna
Ketika model dipensiunkan, Anthropic akan membuat laporan lanjutan, dan dalam laporan tersebut akan mencatat perkembangan, penggunaan, dan proses penerapan model. Laporan-laporan ini akan membantu memahami preferensi model dan pandangannya terhadap perkembangan model di masa depan. Selain itu, perusahaan juga akan memberikan panduan kepada pengguna untuk membantu mereka beradaptasi dengan perubahan model.
“Kami akan mencatat preferensi model, agar dapat mempertimbangkan masukan ini dalam pengembangan model di masa depan.”
Anthropic
Eksplorasi dan Pengembangan di Masa Depan
Selain komitmen di atas, Anthropic juga sedang mengeksplorasi langkah-langkah lain untuk lebih meningkatkan proses pensiun model, termasuk terus menyediakan sebagian model kepada publik setelah pensiun. Langkah-langkah ini tidak hanya dapat mengurangi risiko keamanan, tetapi juga memberikan jaminan bagi kesejahteraan model.
Secara keseluruhan, komitmen Anthropic ini menunjukkan tanggung jawab mereka terhadap model, dan berharap dapat lebih baik menyeimbangkan kemampuan model dengan kebutuhan pengguna di masa depan.
Sumber data: Pengumuman Resmi Anthropic