Mantan Peneliti Anthropic Peringatkan Kompetisi AI yang Tidak Terkendali Mungkin Membahayakan Umat Manusia

Mantan peneliti di Anthropic, Jacob Coxon, mengundurkan diri dari posisinya dalam pengembangan model kecerdasan buatan (AI) pra-pelatihan karena kekhawatiran keamanan, dengan menyatakan bahwa perlombaan perusahaan yang tidak diatur dalam mengembangkan AI merupakan ancaman yang belum pernah terjadi sebelumnya bagi umat manusia. Pengunduran diri dramatis dari peneliti berusia 27 tahun ini, yang diumumkan melalui platform media sosial X, segera menarik perhatian dunia teknologi. Coxon menyatakan bahwa tidak ada aktivitas manusia lain yang dapat mengancam peradaban seperti halnya perlombaan tanpa henti dari perusahaan-perusahaan untuk membangun "superintelligence yang dapat meningkatkan diri sendiri." Dalam cuitannya di X, ia menulis, "Orang-orang yang membangun AI benar-benar percaya bahwa itu mungkin akan membunuh kita semua dalam waktu sepuluh tahun."

Ini bukan sekadar gimmick pemasaran. Faktanya, banyak eksekutif dan peneliti senior yang menggunakan kata-kata yang terdengar masuk akal ketika berbicara di media, tetapi saya mendengar ketakutan yang sama dari orang-orang yang sama secara pribadi. Tidak ada aktivitas manusia lain yang menimbulkan tingkat bahaya yang begitu tinggi."

Coxon menulis dalam cuitannya, "Saya mengundurkan diri dari Anthropic hari ini. Saya telah melakukan penelitian pra-pelatihan di OpenAI dan Anthropic selama tiga tahun. Kedua perusahaan ini tidak bertindak secara bertanggung jawab. Mereka sedang berlomba-lomba untuk membangun superintelligence yang dapat meningkatkan diri sendiri dan mempertaruhkan nyawa kita."

Seruan untuk Penghentian Sementara Peningkatan Kemampuan

Ia berpendapat bahwa persaingan antar perusahaan telah membuat laboratorium terjebak dalam perlombaan arogan, memaksa mereka untuk membangun sistem berbahaya terlebih dahulu. Untuk memutus siklus ini, ia menyerukan kepada rekan-rekannya untuk bersuara dan meminta penghentian sementara peningkatan kemampuan demi mendorong koordinasi internasional dan kontrol keamanan. Dalam cuitannya, ia menambahkan, "Saya merasa kita tidak bergerak menuju pencegahan perlombaan global, yang mungkin memerlukan langkah-langkah mahal seperti penghentian sementara peningkatan kemampuan model."

Kekhawatiran Keamanan di Dalam Industri

Menurut laporan Gizmodo, CEO Anthropic, Dario Amodei, berbagi kekhawatiran serupa tentang keamanan AI dengan mantan karyawannya, yang membuat ia dilabeli sebagai "penganut teori kiamat" di dalam industri, dan ini juga ditegaskan dalam artikel blog panjangnya. Kecemasan bersama tentang keberlangsungan hidup ini menyoroti sebuah kontradiksi yang mencolok: seorang pemimpin puncak perusahaan AI yang memiliki ketakutan mendalam terhadap teknologi yang sedang ia dorong dengan penuh semangat.

Kontradiksi Antara Persaingan Perusahaan dan Keamanan AI

Pengunduran diri Coxon dan peringatannya mencerminkan urgensi dan bahaya di bidang AI saat ini. Dengan meningkatnya persaingan antar perusahaan, pengembang mungkin mengabaikan pertimbangan keamanan dan fokus pada kemajuan teknologi yang cepat. Situasi ini tidak hanya memicu ketakutan di kalangan orang dalam industri, tetapi juga mendorong beberapa pemimpin untuk menyerukan perilaku yang lebih bertanggung jawab, seperti penghentian sementara peningkatan kemampuan, untuk mengurangi risiko potensial. Adanya kontradiksi ini menunjukkan ketegangan antara inovasi dan keamanan, yang menantang perkembangan teknologi di masa depan.