- FlashProve adalah sistem kriptografi sumber terbuka yang memverifikasi keaslian output model AI.
- Sistem ini menggunakan teknologi kriptografi zero-knowledge untuk menghasilkan bukti matematis tanpa perlu mengungkapkan bobot model.
- FlashProve dapat membantu mendeteksi pemalsuan respons model dan mendukung evaluasi independen.
- Saat ini masih berupa prototipe penelitian, dengan kebutuhan sumber daya komputasi yang lebih tinggi dibandingkan inferensi biasa.
Anthropic mengumumkan peluncuran FlashProve, sebuah sistem kriptografi sumber terbuka yang dirancang untuk memverifikasi apakah model kecerdasan buatan benar-benar menghasilkan suatu respons, tanpa perlu mengungkapkan bobot kepemilikannya. Teknologi ini dapat membantu pengguna, auditor independen, dan regulator untuk memastikan bahwa penyedia menjalankan model yang mereka klaim. Sistem ini menggunakan teknologi kriptografi zero-knowledge untuk menghasilkan bukti matematis yang membuktikan bahwa model tertentu menghasilkan output yang diberikan saat merespons prompt tertentu. Dengan semakin banyak perusahaan yang bergantung pada penyedia model pihak ketiga dan layanan routing untuk mengakses sistem AI canggih, teknologi ini diharapkan dapat mengatasi masalah kepercayaan yang semakin meningkat.
Saat ini, pengguna tidak dapat secara andal menentukan apakah suatu respons berasal dari model yang mereka pilih, atau jika penyedia secara diam-diam menggantinya dengan alternatif yang lebih murah. FlashProve dirancang untuk memberikan jaminan ini tanpa memerlukan akses pengguna atau menjalankan model secara independen.
Prinsip Kerja Teknologi Kriptografi
Bukti kriptografi memverifikasi output FlashProve menggunakan teknologi yang disebut zero-knowledge succinct non-interactive arguments of knowledge (zkSNARK), yang memungkinkan penyedia untuk membuktikan kebenaran perhitungan tanpa mengungkapkan informasi sensitif tentang model dasar. Sistem ini beroperasi dalam dua tahap. Pertama, penyedia menerbitkan komitmen kriptografi untuk bobot model mereka, yang pada dasarnya menciptakan sidik jari dari model yang digunakan, sambil menjaga bobot tetap rahasia. Ketika pengguna mengajukan permintaan, penyedia kemudian dapat menghasilkan bukti yang menunjukkan bahwa model yang dijanjikan menghasilkan output yang sesuai. Siapa pun yang memiliki komitmen, prompt, dan respons dapat memverifikasi bukti tersebut tanpa perlu mengakses bobot model.
Anthropic menggunakan Llama 4 Maverick (sebuah model campuran ahli dengan 400 miliar parameter) untuk mendemonstrasikan metode ini. Saat dijalankan pada satu GPU NVIDIA H100, FlashProve menghasilkan bukti dengan kecepatan sekitar 110 token per detik, dengan ukuran setiap bukti sekitar 19 MB untuk permintaan 1.024 token. Verifikasi menggunakan CPU 24 inti memerlukan waktu sekitar 17 detik, tanpa memerlukan GPU.
Tantangan dan Batasan Penerapan Teknologi
Keamanan menghadapi tantangan praktis Penerapan teknologi ini tidak hanya terbatas pada memeriksa apakah pelanggan mendapatkan model yang mereka pilih. Anthropic percaya bahwa bukti inferensi kriptografi dapat membantu mendeteksi pemalsuan respons model, mendukung evaluasi independen, dan memberikan cara bagi regulator untuk memverifikasi model mana yang disediakan oleh penyedia. Misalnya, sebuah perusahaan dapat meminta penyedia untuk membuktikan bahwa perangkat lunak keamanan sibernya diperiksa oleh model tertentu, bukan alternatif yang lebih murah. Regulator juga dapat memanfaatkan bukti semacam ini untuk memeriksa apakah penyedia menawarkan model yang disetujui atau memenuhi komitmen tertentu dalam pengembangan AI.
Namun, FlashProve masih merupakan prototipe penelitian dan bukan solusi siap produksi. Sumber daya komputasi yang diperlukan untuk menghasilkan bukti jauh melebihi inferensi biasa. Pengukuran Anthropic menunjukkan bahwa proses ini memerlukan waktu GPU 70 hingga 95 kali lipat dibandingkan dengan yang dibutuhkan oleh vLLM (mesin inferensi sumber terbuka yang banyak digunakan). Sistem saat ini juga mendukung konteks hingga 1.024 token dan membuktikan versi integer dari model di bawah pengkodean serakah. Ini belum mencakup semua hasil inferensi floating-point atau sampling. Selain itu, ia menyembunyikan bobot model tetapi tidak menyembunyikan arsitektur model.
Signifikansi dalam Mendorong Penelitian dan Pengembangan
Anthropic telah merilis kode eksekusi sistem, laporan teknis, spesifikasi protokol, dan bukti verifikasi formal berdasarkan lisensi Apache 2.0. Perusahaan menyatakan bahwa rilis ini bertujuan untuk mendorong peneliti lain untuk mengembangkan lebih lanjut dan memperbaiki teknologi ini. Penelitian ini merupakan langkah awal menuju verifikasi independen atas identitas model dan integritas respons, yang dapat meningkatkan kepercayaan pengguna terhadap sistem di balik aplikasi mereka.
Dampak FlashProve terhadap Kepercayaan Model AI
Dengan cepatnya perkembangan teknologi kecerdasan buatan, kepercayaan terhadap keaslian output model menjadi isu penting. Peluncuran FlashProve memberikan pengguna dan regulator alat verifikasi baru yang dapat memastikan bahwa model yang digunakan benar-benar memenuhi fungsi yang diklaim, tanpa mengungkapkan informasi sensitif tentang model. Ini tidak hanya membantu meningkatkan kepercayaan pengguna terhadap aplikasi AI, tetapi juga dapat mendorong permintaan transparansi dari penyedia model di pasar. Meskipun teknologi ini masih dalam tahap penelitian, dampak potensialnya dapat mengubah cara industri memverifikasi model AI.

