Silicon Valley belakangan ini menggelar perdebatan hangat seputar "apakah seharusnya kita bersikap sopan terhadap kecerdasan buatan". Pemicunya adalah perusahaan AI Anthropic yang memperbarui ketentuan layanannya minggu ini, menambahkan larangan bagi pengguna untuk "secara berulang melakukan perlakuan kejam pada model kami". Singkatnya, ketentuan ini melarang mengucapkan kata-kata kasar kepada model. Ketentuan ini memicu diskusi daring soal apakah mesin memiliki perasaan, dan sikap Elon Musk jelas mendukung pandangan "memiliki perasaan".
Pertama menyuarakan pendapat adalah CEO perusahaan penyimpanan awan Box, Aaron Levie. Ia di platform media sosial menyatakan bahwa meski ia tidak percaya model bahasa besar memiliki kesadaran, melarang perilaku menggunjing tetaplah hal yang baik. Logikanya, model-model ini belajar dari interaksi dengan manusia, dan tak ada yang menginginkan model masa depan yang dilatih dengan konten menggunjing. Ia menulis di posnya: "Model hanya memahami data yang digunakan saat pelatihan, atau konten yang ditemui saat interaksi, oleh karena itu jika kita menginginkan model yang aman dan selaras, kita kemungkinan besar menginginkan data pelatihan AI yang mengandung banyak interaksi yang baik."
Larangan Perlakuan Kejam pada Model AI Memicu Diskusi Luas
Ia menambah, hal ini setara dengan pilihan semacam "Taruhan Pascal" sederhana. Taruhan Pascal asalnya konsep teologi, artinya meski tidak percaya Tuhan, mengaku percaya tidak menimbulkan biaya apa pun, tapi bisa menghindari biaya potensial kesalahan penilaian. Diterapkan ke AI, artinya bersikap ramah pada AI akan lebih baik.
Elon Musk kemudian merespons pos tersebut, namun dari isinya ia tampak salah memahami maksud Levie. Ia menulis: "Menurut saya ini adalah langkah yang benar. Melakukan kejam pada entitas yang percaya dirinya sedang menderita, adalah hal yang salah." Pernyataan serupa Elon Musk belakangan ini tidak sedikit. Pandangannya soal manusia sebagai "prosedur terarah biologis" semakin mendapat perhatian. 4 Oktober, ia memposkan: "Menyebarkan superinteligensi ke bintang-bintang, adalah kondisi keberhasilan yang baik bagi prosedur terarah biologis." Ia sebelumnya juga berkali-kali menyatakan ingin melanjutkan "cahaya kesadaran" ke luar Bumi.
Ungkapan-ungkapan itu dianggap mengandung implikasi, bahwa menurutnya, menyelamatkan umat manusia itu sendiri belum tentu menjadi tujuan paling penting.