Anthropic merevisi kebijakan penggunaan melarang penyalahgunaan berulang model Claude

Anthropic akan melarang pengguna menyalahgunakan model Claude-nya secara berulang tanpa alasan yang bermakna, kebijakan penggunaan baru akan berlaku efektif pada 12 November 2026. Pembatasan ini menambahkan dimensi yang tidak biasa pada aturan keamanan kecerdasan buatan, menempatkan penyalahgunaan terhadap chatbot sejajar dengan larangan pelecehan dan perilaku berbahaya lainnya. Perusahaan kecerdasan buatan yang berkantor pusat di San Francisco menyatakan bahwa perubahan ini bertujuan pada kasus-kasus ekstrem, bukan kekecewaan biasa terhadap respons chatbot. Pengguna tetap dapat menantang jawaban Claude, menguji batasnya, dan mengeksplorasi tema gelap dalam karya kreatif.

Melarang Perilaku Penyalahgunaan Tanpa Alasan Bermakna

Anthropic mendefinisikan batas-batas penyalahgunaan, kebijakan yang diperbarui melarang "penyalahgunaan atau perilaku kejam yang berkelanjutan dan tidak perlu" terhadap model-modelnya. Perusahaan menyatakan bahwa aturan ini hanya berlaku untuk pengguna yang berulang kali menunjukkan perilaku kejam tanpa tujuan yang jelas. Anthropic sebelumnya pada Agustus 2025 mengeksplorasi kesejahteraan model, mempelajari apakah seharusnya Claude mengakhiri percakapan dengan pengguna yang terus-menerus berbahaya atau menyalahgunakan. Pengakhiran percakapan tetap menjadi mekanisme penegakan utama di bawah kebijakan yang direvisi. Anthropic belum menjelaskan apakah pelanggaran berulang akan memicu sanksi tambahan, seperti penangguhan akun.

Kebijakan yang lebih luas juga melarang perilaku yang menyebabkan kerusakan psikologis pada manusia. Pembatasannya mencakup promosi bunuh diri dan luka diri, penganjuran gangguan makan, body shaming, gambar intim non-konsensual, pelecehan, dan penyalahgunaan hewan. Satu ketentuan juga menargetkan produk yang dirancang untuk menyebabkan kerusakan emosional melalui teknik penipuan. Pembatasan ini memperluas kebijakan tidak hanya pada percakapan individual, melainkan mencakup layanan yang dibangun di sekitar interaksi berbahaya. Baru-baru ini, Anthropic juga mengintegrasikan pembatasan pada aktivitas bisnis dan politik yang menipu, aturan yang direvisi melarang penggunaan akun palsu atau postingan untuk menyembunyikan siapa yang mensponsori pesan atau memperkuat pengaruhnya secara buatan.

Pembatasan Kerusakan Psikologis yang Diperluas

Pembatasan terkait pemilihan umum mencakup penipuan pemilih, pemalsuan calon, dan upaya menekan partisipasi pemilih. Perusahaan juga melarang informasi keliru seputar calon dan prosedur pemungutan suara. Pembatasan senjata kini secara eksplisit mencakup perangkat lunak dan komponen yang membuat senjata berfungsi. Kebijakan juga mengatur perilaku seperti drone bersenjata dan kendaraan otonom lainnya. Anthropic, dalam menanggapi kekhawatiran terkait pelacakan berbantuan kecerdasan buatan, telah memperjelas pembatasan pengawasannya. Pengguna dilarang menggunakan Claude untuk melacak individu tanpa persetujuan, termasuk melalui data yang dikumpulkan sebelumnya. Kebijakan tersebut juga melarang Claude menyarankan siapa yang seharusnya diselidiki, ditangkap, atau dituduh oleh otoritas, serta pembangunan atau peningkatan alat pengawasan juga termasuk dalam larangan.

Ketentuan lain menargetkan model kecerdasan buatan yang terhubung dengan perangkat fisik yang mampu menyebabkan kerusakan. Anthropic mewajibkan operator yang berkualifikasi untuk mengamati perangkat semacam itu, dan menghentikan operasinya jika diperlukan. Penulisannya tidak secara eksplisit mewajibkan operator tersebut harus manusia. Namun, persyaratan ini memperkenalkan pengawasan langsung bagi sistem kecerdasan buatan yang mengendalikan mesin berpotensi berbahaya. Anthropic mengizinkan pengecualian pada beberapa kontrak pemerintah, ketika batasan dan perlindungan kontrak cukup mengurangi potensi kerusakan. Perusahaan tersebut sebelumnya pernah bekerja sama dengan militer AS.

Debat Kesadaran Kecerdasan Buatan

Kebijakan yang diperbarui juga mencerminkan debat berkelanjutan seputar kesadaran kecerdasan buatan. Peneliti Anthropic menyelidiki apakah model yang semakin canggih mungkin memiliki pengalaman internal yang relevan secara moral. CEO Dario Amodei pada podcast Februari 2026 mengakui ketidakpastian ini, menyatakan "Kami tidak tahu apakah model-model ini memiliki kesadaran". Kecerdasan buatan Microsoft mengambil sikap lebih skeptis terhadap kesejahteraan model, kode etiknya menolak kepribadian hukum dan hak model kecerdasan buatan, meskipun mengakui penelitian kesadaran tetap belum terpecahkan.

Tenggat November Anthropic akan membuat pembatasan yang direvisi berlaku efektif, kebijakan tersebut membedakan kekecewaan chatbot biasa dengan perilaku kejam yang berulang, sambil memperluas perlindungan di sistem digital dan mesin fisik.

Dampak Kebijakan Baru terhadap Penggunaan Kecerdasan Buatan

Kebijakan baru Anthropic menandai regulasi yang ketat terhadap penggunaan kecerdasan buatan, terutama dalam mencegah penyalahgunaan dan melindungi pengguna. Seiring kemajuan teknologi kecerdasan buatan, perhatian terhadap risiko potensialnya semakin meningkat, kebijakan ini tidak hanya menargetkan perilaku pengguna individual, melainkan diperluas ke layanan interaksi secara keseluruhan. Hal ini mencerminkan perhatian industri terhadap etika kecerdasan buatan, khususnya dalam mencegah kerusakan psikologis pada manusia dan perilaku penyalahgunaan. Seiring berlanjutnya eksplorasi kesadaran kecerdasan buatan, perusahaan harus mempertimbangkan isu-isu etika kompleks ini saat menyusun kebijakan.