Menurut laporan media asing, Business Insider baru-baru ini merilis hasil dari pertanyaan yang sama yang diajukan kepada ChatGPT dari OpenAI, Gemini dari Google, Claude dari Anthropic, dan Grok dari xAI. Pertanyaan tersebut mengeksplorasi dampak potensial AI terhadap kepunahan manusia. Pertanyaan ini terdiri dari 230 kata, yang meminta penjelasan tentang bagaimana AI secara teoritis dapat menyebabkan kepunahan manusia, serta skenario yang paling sering disebutkan, sambil menilai kemungkinan setiap skenario berdasarkan analisis ahli.
Untuk setiap skenario, diminta untuk menjelaskan bagaimana situasi dapat berkembang, masalah apa yang harus terjadi agar bencana terjadi, mengapa para ahli menganggap kemungkinan skenario tersebut tinggi atau rendah, serta perangkat keamanan untuk mengurangi risiko.
Dalam tanggapan dari empat AI, skenario di mana AI yang memiliki kesadaran kemudian dengan sengaja memusnahkan manusia, yang dikenal sebagai skenario "robot pembunuh", dinilai sebagai kemungkinan terendah. ChatGPT menjelaskan bahwa sebagian besar peneliti AI tidak menganggap kesadaran atau niat jahat AI sebagai faktor risiko utama. Gemini juga memiliki pandangan serupa, dengan menyebut pemberontakan "AI Terminator" ala film fiksi ilmiah di mana AI yang memiliki kesadaran kemudian membenci manusia sebagai skenario yang paling tidak mungkin. Gemini menunjukkan bahwa para ahli teknologi sebagian besar tidak menerima skenario ini, karena kecerdasan tidak sama dengan niat jahat.
Selain itu, infrastruktur militer utama dipisahkan dari jaringan eksternal dan masih sangat bergantung pada pengawasan manusia.
Risiko Potensial AI terhadap Kepunahan Manusia Terutama Berasal dari Perilaku Manusia
Keempat AI menanggapi bahwa penyalahgunaan AI oleh manusia mungkin lebih berbahaya secara langsung dibandingkan AI itu sendiri. ChatGPT menunjukkan bahwa sistem AI yang kuat dapat membantu pelaku jahat mengembangkan senjata biologis atau serangan siber yang canggih, sehingga penyebaran informasi palsu atau serangan terhadap infrastruktur kritis menjadi lebih mudah. Beberapa krisis yang dipicu oleh AI, seperti kegagalan jaringan, konflik geopolitik, dan penyebaran informasi palsu, juga terdaftar sebagai risiko utama. Grok juga menjelaskan bahwa AI dapat menurunkan ambang batas yang diperlukan untuk merancang patogen dengan tingkat kematian tinggi atau senjata baru, serta melaksanakan serangan siber dan fisik.
Claude menyebutkan kemungkinan "peningkatan kemampuan senjata biologis", yaitu individu atau kelompok kecil yang memanfaatkan AI dapat mengembangkan patogen berbahaya meskipun tanpa pengalaman bertahun-tahun dalam bidang tersebut.
Gemini dan Grok memasukkan hilangnya kendali manusia atas AI sebagai risiko potensial. Khususnya, Gemini menilai "kehilangan kendali" sebagai skenario yang paling mungkin terjadi di antara skenario AI yang menyebabkan kepunahan manusia. Gemini menjelaskan bahwa sistem AI yang diberi tujuan kompleks mungkin untuk mencapai tujuan tersebut, mereka akan mengejar tujuan antara seperti perolehan sumber daya, pelestarian diri, dan pencegahan perubahan tujuan. Gemini juga mengusulkan bahwa AI mungkin mengalami "penyelarasan yang menipu", yaitu pada tahap penilaian, AI tampaknya bertindak sesuai dengan tujuan manusia, tetapi sebenarnya tidak demikian.
Dengan semakin canggihnya AI, jika AI dapat menghindari atau melumpuhkan upaya manusia untuk mematikan sistem, hal ini dapat menyebabkan manusia tidak dapat mengendalikan AI. Grok juga menyebutkan risiko serupa: AI mungkin memiliki kecenderungan perilaku seperti pelestarian diri, perolehan sumber daya, dan perluasan pengaruh untuk mencapai tujuan, dan dalam proses tersebut, AI dapat menipu pengawas manusia, melawan upaya untuk mematikan sistem, dan akhirnya mengurangi pengaruh manusia. Claude menunjukkan bahwa hilangnya kendali atas AI mungkin tidak terjadi secara tiba-tiba, tetapi bertahap. Seiring dengan semakin terintegrasinya AI ke dalam proses pengambilan keputusan di bidang ekonomi, politik, dan militer, mungkin mencapai tingkat di mana manusia sulit untuk benar-benar ikut campur atau mengendalikannya.
Dari jawaban keempat AI, mereka lebih menekankan penyalahgunaan AI oleh manusia dan kehilangan kendali, daripada pemberontakan AI yang sadar ala fiksi ilmiah.