- Anthropic menghentikan lima kasus peneliti yang menggunakan Claude untuk mendukung pengembangan senjata biologis.
- Menentukan batas antara penelitian yang sah dan pekerjaan yang berbahaya menjadi sulit, karena penelitian biologi memiliki potensi penggunaan ganda.
- Anthropic merilis laporan intelijen ancaman terperinci yang menggambarkan berbagai cara penyalahgunaan Claude.
- Seiring meningkatnya kemampuan model, membedakan antara penelitian yang sah dan berbahaya menjadi semakin sulit.
Anthropic telah menghentikan lima kasus peneliti yang menggunakan Claude untuk aktivitas yang mungkin mendukung pengembangan senjata biologis. Perusahaan tersebut menyatakan bahwa mereka tidak dapat memastikan apakah peneliti tersebut bermaksud untuk menyebabkan kerugian, tetapi karena potensi konsekuensi yang terlalu serius, mereka tetap menghentikan aktivitas tersebut. Kasus-kasus ini terjadi antara Desember 2025 dan Agustus 2026, dan Anthropic telah mendeskripsikan penyalahgunaan model-model tersebut dalam sebuah laporan intelijen ancaman baru. Perusahaan tersebut menyatakan bahwa insiden-insiden ini menunjukkan bahwa dengan meningkatnya kemampuan model-model terdepan dalam penelitian ilmiah, risiko biologis yang lebih sulit dideteksi mungkin muncul.
Batas Antara Penelitian yang Sah dan Berbahaya
Tantangan terbesar Anthropic adalah menentukan batas antara penelitian yang sah dan pekerjaan yang berbahaya. Penelitian biologi sering kali memiliki potensi penggunaan ganda. Pengetahuan ilmiah yang sama dapat mendukung pengobatan medis, tetapi juga dapat mendorong patogen yang lebih berbahaya. Jacob Klein, kepala intelijen ancaman di Anthropic, mengatakan kepada The New York Times bahwa kasus-kasus ini jarang melibatkan pernyataan niat jahat yang jelas. Peneliti dapat menunjukkan tujuan ilmiah yang tampaknya sah sambil melakukan pekerjaan yang menimbulkan masalah keamanan serius.
"Kami sedang merilis laporan intelijen ancaman yang paling rinci hingga saat ini. Laporan ini mencakup bagaimana orang mencoba menyalahgunakan Claude—untuk melakukan serangan siber, mempengaruhi operasi, pengawasan, penelitian biologi, dan pembangunan senjata—dan bagaimana kami mendeteksi dan menghentikan perilaku ini." Anthropic menyatakan di media sosial, "Kami telah menghentikan setiap operasi yang disebutkan dalam laporan."
Analisis Kasus Penyalahgunaan Claude
Anthropic menyatakan bahwa penyelidikan mereka menemukan upaya untuk menghindari batasan regional dan melewati sistem keamanan. Perusahaan tersebut telah melarang akun-akun yang terkait dengan aktivitas ini dan telah berbagi temuan penyelidikan dengan pihak berwenang dan perusahaan-perusahaan kecerdasan buatan lainnya. Salah satu kasus melibatkan penelitian terkait chikungunya, di mana sistem Anthropic menghentikan permintaan aplikasi pendanaan yang melibatkan penelitian peningkatan fungsi. Pekerjaan terkait tersebut dimaksudkan untuk dilakukan di lembaga penelitian militer, yang meningkatkan kekhawatiran perusahaan. Setelah Claude menghentikan permintaan sensitif, peneliti melanjutkan pekerjaannya melalui saluran lain.
Anthropic juga menemukan bahwa sebuah platform penjualan kembali mengarahkan petunjuk biologis yang ditolak ke model dengan pengamanan yang lebih lemah. Kasus kedua melibatkan penelitian virus flu burung yang sangat patogen. Anthropic menyatakan bahwa seorang peneliti menghabiskan berminggu-minggu menggunakan Claude untuk perencanaan penelitian, analisis data, dan penjelasan ilmiah. Perusahaan tersebut menunjukkan bahwa langkah-langkah keamanannya telah mencegah peneliti mengakses model terkuatnya untuk pekerjaan sensitif, dan aktivitas tersebut akhirnya tetap berada pada versi model yang lebih lemah.
Tindakan Pengendalian untuk Permintaan Biologis Berisiko Tinggi
Anthropic juga melaporkan tiga kasus lain yang melibatkan penelitian biologi dengan potensi dampak senjata. Kasus-kasus ini termasuk pekerjaan yang terkait dengan virus cacar, racun, dan senyawa terkait bisa. Perusahaan tersebut merahasiakan identitas, lokasi, dan detail biologis spesifik peneliti. Anthropic menyatakan bahwa mereka tidak mengklaim bahwa para ilmuwan bermaksud untuk menyebabkan kerugian. Pembedaan ini sangat penting karena model-model Claude lama menunjukkan kemampuan terbatas dalam mendukung penelitian biologi kompleks. Anthropic sekarang menyatakan bahwa mereka tidak dapat membuat asumsi yang sama tentang sistem baru.
Mikrobiologis dan mantan pejabat kesehatan masyarakat AS, Susan Monarez, meninjau laporan tersebut sebelum dirilis. Dia mengatakan kepada The New York Times bahwa model-model canggih mungkin membantu pelaku jahat menyembunyikan penelitian berbahaya di balik tujuan ilmiah yang sah. Anthropic telah memperkuat langkah-langkah pengendalian untuk permintaan biologis berisiko tinggi. Perusahaan tersebut juga menyatakan bahwa mereka berharap peneliti dapat mempertahankan akses ke kemampuan ilmiah yang berguna, yang menciptakan masalah rekayasa yang sulit. Langkah-langkah keamanan harus mencegah bantuan berbahaya tanpa menghalangi penelitian yang sah terhadap penyakit, vaksin, dan pengobatan.
Kasus terbaru Anthropic menunjukkan bahwa dengan semakin dalamnya kemampuan ilmiah model-model terdepan, pembedaan ini menjadi semakin sulit.
Dampak Model Terdepan terhadap Penelitian Biologi
Dengan kemajuan model kecerdasan buatan, peneliti mungkin melakukan penelitian biologis yang berpotensi berbahaya di bawah tujuan ilmiah yang sah. Laporan Anthropic mengungkapkan fenomena ini, menunjukkan bahwa dalam bidang penelitian biologi, potensi risiko penggunaan ganda semakin meningkat. Hal ini tidak hanya menantang langkah-langkah keamanan perusahaan teknologi, tetapi juga memicu pemikiran mendalam tentang bagaimana menyeimbangkan kemajuan ilmiah dengan keamanan publik. Dengan perkembangan teknologi yang cepat, memastikan penelitian tidak disalahgunakan menjadi tantangan penting, dengan implikasi mendalam bagi penelitian ilmiah masa depan dan penerapannya.