Gubernur California Gavin Newsom pada tanggal 10 September menandatangani dua undang-undang pengawasan kecerdasan buatan (AI), yang semakin memperkuat kerangka peraturan California di bidang AI. Yang menarik, kedua undang-undang ini telah mendapatkan pengakuan dan dukungan dari perusahaan-perusahaan AI utama sebelum diluncurkan.
Penandatanganan undang-undang ini bertepatan dengan meningkatnya perhatian luas terhadap isu keamanan AI. Sebelumnya, peneliti yang pernah bekerja di Anthropic, Jacob Coxon, mengumumkan pengunduran dirinya dan memperingatkan tentang risiko percepatan bencana yang mungkin ditimbulkan oleh industri AI. Menanggapi hal ini, Newsom menyatakan bahwa kekhawatiran yang ditimbulkan oleh peristiwa-peristiwa baru-baru ini menegaskan penilaian California selama ini bahwa AI memiliki potensi besar, tetapi pengembangannya dan penerapan harus disertai dengan langkah-langkah keamanan yang substansial. Newsom juga menyerukan agar pemerintah federal segera mengeluarkan peraturan AI nasional yang sesuai dengan situasi mendesak saat ini.
Undang-Undang Pengawasan AI California Akan Meningkatkan Standar Keamanan Industri
Dalam kedua undang-undang tersebut, RUU SB 813 yang diusulkan oleh Senator Negara Bagian Jerry McNamara akan mendirikan Dewan Standar dan Keamanan AI California, yang bertanggung jawab untuk menetapkan standar keamanan AI yang bersifat sukarela; sementara RUU AB 1405 yang diusulkan oleh Anggota Dewan Rebecca Bauer-Kahan akan menciptakan sistem registrasi untuk lembaga audit risiko AI, mengatur sertifikasi kualifikasi auditor.
Pada tingkat industri, baik Anthropic maupun OpenAI telah secara terbuka menyatakan dukungan mereka sebelum penandatanganan undang-undang. Chris Lehane, Kepala Urusan Publik OpenAI, menyatakan bahwa kemampuan AI telah memasuki tahap baru, dan kerangka kebijakan yang sesuai juga harus mengikuti langkah ini. Anthropic menunjukkan bahwa, berdasarkan investasi jangka panjang mereka dalam aspek keamanan, mereka terdorong untuk mendukung kolaborasi industri secara keseluruhan dengan cara yang sah dan dapat diverifikasi, untuk bersama-sama mengendalikan ritme peluncuran model-model kuat. Kedua perusahaan menyatakan bahwa mereka akan mendorong pembentukan standar internasional yang kompatibel, mencapai konsensus dalam hal-hal seperti mengukur kemampuan, mengelola risiko, dan mempertahankan kendali manusia.