Anthropic secara resmi mengumumkan bahwa mereka telah mulai bekerja sama dengan organisasi nirlaba METR untuk memberikan akses tingkat karyawan ke model kecerdasan buatan mereka, guna melakukan penilaian independen yang lebih kuat. Langkah ini merupakan bagian dari komitmen perusahaan bulan lalu untuk memperkuat penilaian pihak ketiga yang independen terhadap model dan praktik keamanan.
Alasan Bekerja Sama dengan Penilai Independen
Seiring dengan peningkatan kemampuan model, tuntutan terhadap langkah-langkah keamanan dan penilaian risiko juga meningkat. Anthropic menyatakan bahwa mereka ingin bertanggung jawab atas keputusan yang diambil, tetapi tidak dapat membagikan semua informasi terkait pekerjaan keamanan secara terbuka, karena beberapa informasi dapat dimanfaatkan oleh pelaku jahat atau merupakan data yang sensitif secara komersial.
“Kami ingin memperkecil kesenjangan antara pemahaman penilai terhadap sistem perusahaan kecerdasan buatan terdepan dan pemahaman perusahaan itu sendiri.”
Anthropic
Peran dan Metode Penilaian METR
METR akan bertanggung jawab untuk menilai laporan risiko Anthropic dan mempublikasikan hasil penilaian risikonya. Anthropic telah bekerja sama dengan METR dalam beberapa kali tinjauan laporan risiko dan berencana untuk lebih memperkuat kerja sama dengan lembaga penilai lainnya, termasuk SecureBio dan Accenture.
“Tujuan kami adalah memastikan bahwa mitra kami dapat melindungi informasi rahasia dan memiliki sumber daya serta keahlian yang diperlukan untuk menilai model kami.”
Anthropic
Tingkat Akses Penilai dan Dampaknya
Anthropic berencana untuk menetapkan tiga tingkat akses bagi penilai, yang akan meningkat seiring dengan kedalaman kerja sama. Penilai tingkat pertama akan melakukan penyelidikan risiko secara sempit, sementara penilai tingkat kedua dapat mempublikasikan hasil tanpa memerlukan persetujuan perusahaan. Kerja sama dengan METR termasuk dalam tingkat ketiga, yang memiliki akses mirip dengan karyawan.
“Kami percaya setiap perusahaan kecerdasan buatan terdepan harus mengambil langkah penilaian terintegrasi serupa.”
Anthropic
Serangkaian langkah ini menandai langkah penting bagi Anthropic dalam regulasi keamanan kecerdasan buatan, bertujuan untuk meningkatkan transparansi dan akuntabilitas terhadap model mereka.
Sumber: Pengumuman Resmi Anthropic