Kepala Bisnis Internasional Anthropic, Guillaume Princen, dalam wawancara dengan Bloomberg Television di International AI Summit di Dublin menyatakan, dibandingkan dengan model AI milik perusahaan sendiri, model terbuka memiliki «risiko lebih tinggi» dalam insiden keamanan siber atau bahaya lain. Ia menegaskan, untuk isu keamanan, harus sangat hati-hati terhadap model open source, dan menekankan tidak dapat mewakili model terbuka untuk memberikan pandangan, tetapi dari definisinya, model-model ini memang memiliki risiko lebih tinggi.
Pernyataan ini dilatarbelakangi oleh kompetisi yang semakin ketat yang dihadapi Anthropic di sejumlah negara. Saat ini alternatif model closed-source yang mendapat perhatian adalah model AI open-weight, yang mempublikasikan parameter, memungkinkan pengguna memodifikasi sendiri, dan dapat dijalankan di perangkat keras mereka sendiri. Pendukung berpendapat, dibandingkan dengan model closed-source yang dikendalikan ketat oleh Anthropic dan OpenAI, model open-weight biayanya lebih rendah, dan lebih menguntungkan untuk menjaga kedaulatan negara. Perusahaan AI Prancis Mistral AI baru-baru ini meluncurkan model open-weight, menyediakan alternatif model kedaulatan bagi Eropa; di saat yang sama, serangkaian model terbuka serupa yang diluncurkan oleh perusahaan China juga semakin mendapat perhatian di pasar luar negeri.
Kekhawatiran Keamanan Anthropic Terhadap Model Terbuka Terus Meningkat
Anthropic baru-baru ini terus memperkuat peringatan mengenai kemampuan AI. Awal minggu ini, perusahaan memperingatkan model AI kecil mungkin segera melahirkan jenis botnet baru, mampu mereplikasi diri di antara perangkat kecil terhubung seperti oven pintar. Princen juga bertanggung jawab atas bisnis penjualan Anthropic untuk startup dan perusahaan «digital native». Ia menyatakan, kekhawatiran terhadap model open-weight berasal dari upaya Anthropic untuk menjamin keamanan produk. Terjadi beberapa insiden peretasan AI yang mendapat perhatian besar, Anthropic menyatakan telah menambah lapisan keamanan tambahan untuk mencegah modelnya digunakan untuk tindakan jahat.
Perusahaan juga konsisten berpendapat, sebelum standar internasional terbentuk dan mekanisme evaluasi terpadu terbentuk, langkah pengembangan AI harus diperlambat.
Saat dibahas soal model sendiri yang harga lebih tinggi, Princen menegaskan, ia akan memberitahu klien enterprise, membeli model dengan performa lebih kuat pada akhirnya akan memberikan pengembalian. «Harus selalu berinvestasi pada teknologi cutting-edge. Karena enam bulan, satu tahun, atau dua tahun dari sekarang, biaya penggunaan skenario aplikasi semacam ini juga akan turun.» katanya. Selain itu, ia menyebutkan, model Claude terbaru Opus 5.5 murah 40% dibanding versi sebelumnya. Ia menambah, klien enterprise yang membeli model «frontier» Anthropic menempati «proporsi sangat besar» dalam bisnis perusahaan, tetapi tidak mengungkap data spesifik.
Soal rencana IPO Anthropic, Princen menolak berkomentar; mengenai berapa dana yang dikeluarkan perusahaan untuk melatih model baru, ia juga tidak mau mengungkapkan.