Perusahaan AI Anthropic pertama kali dalam lebih dari setahun mengubah kebijakan penggunaan model andalannya Claude, untuk mengatasi skenario penyalahgunaan berisiko tinggi baru seperti interferensi pemilu, pengembangan senjata, pengawasan, serta penggunaan di bidang kesehatan dan keuangan. Namun perubahan yang paling menarik perhatian justru merupakan larangan yang terdengar cukup khusus: melarang "pelecehan atau kejamannya yang berkelanjutan dan tidak perlu" terhadap Claude.
Anthropic memperbarui kebijakan penggunaan Claude untuk mengatasi skenario penyalahgunaan berisiko tinggi
Ini bukan kali pertama Anthropic mengangkat isu "kesejahteraan model". Agustus tahun lalu, perusahaan mengumumkan kebijakan yang mengizinkan Claude mengakhiri percakapan dengan pengguna yang "terus-menerus berbahaya atau melecehkan". Kali ini diperjelas bahwa penghentian percakapan tetap menjadi "mekanisme penegakan utama", sedangkan soal apakah ada langkah lanjutan seperti pemblokiran pengguna, perusahaan menolak berkomentar. Anthropic sengaja menegaskan batasan aturan baru ini: hanya berlaku pada situasi ekstrem, yaitu pengguna berulang kali dan tanpa tujuan yang dapat diidentifikasi memperlakukan model dengan kejam; kekecewaan pengguna biasa, bantahan, tema kreatif gelap, serta pengujian dan penelitian model, semuanya dikecualikan.
Kebijakan baru juga menambahkan aturan hardware yang bersifat ke depan: saat model AI terhubung ke hardware yang mampu melakukan tindakan fisik secara otonom dan berpotensi menimbulkan bahaya, "operator yang berkualifikasi harus mampu mengamati perangkat dan menghentikannya jika diperlukan". Klausul ini tidak menyebutkan apakah operator harus berupa manusia, namun mencerminkan tren laboratorium AI yang berlomba-lomba berinvestasi pada robot dan hardware lain, memberikan wujud fisik pada AI, serta mungkin mengisyarat langkah selanjutnya Anthropic di bidang tersebut.
Patut dicatat, "kesejahteraan model" di industri tetap memicu perdebatan. Kepala penelitian kesejahteraan model Anthropic, Kyle Fish, pada Februari tahun ini menyatakan bahwa pertanyaan seputar pengalaman intrinsik potensial, kesadaran, dan status moral model "adalah hal serius, dan kami sedang menelitinya", CEO Dario Amodei pada bulan yang sama juga mengakui di sebuah podcast "kami tidak tahu apakah model memiliki kesadaran". Sementara draf kode etik yang diterbitkan divisi AI Microsoft pada September dengan tegas menuliskan "perspektif kesejahteraan model adalah keliru, AI tidak seharusnya memiliki hak atau kepribadian hukum", sebelum redaksi dokumen kemudian diubah menjadi ungkapan yang lebih moderat.