Model AI Kecil Mungkin Akan Mencapai Kemampuan Replikasi Dalam Beberapa Bulan

·oleh Henderson·AI
Model AI Kecil Mungkin Akan Mencapai Kemampuan Replikasi Dalam Beberapa Bulan

Anthropic dari Frontier Red Team baru-baru ini menerbitkan penelitian yang menunjukkan bahwa model AI kecil mungkin dapat mereplikasi dan menyebar di perangkat yang tidak aman dalam beberapa bulan, membentuk jaringan robot otonom yang lambat namun sulit untuk dihapus. Perusahaan AI tidak asing dengan memanfaatkan potensi kiamat produk mereka untuk pemasaran, tetapi dalam hal ini, para ahli yang diwawancarai oleh Engadget umumnya setuju bahwa model AI kecil mungkin memiliki kemampuan untuk mereplikasi diri dalam waktu dekat. Namun, ancaman nyata yang mereka timbulkan mungkin tidak semenarik yang terlihat.

CEO EquiStamp, Chris Canal, menyatakan, "Ini mungkin terjadi lebih cepat dari yang saya perkirakan. Saya awalnya memperkirakan bahwa musim panas tahun depan akan menjadi waktu saya benar-benar khawatir tentang masalah ini." Ia menambahkan, "Anthropic kemungkinan memiliki informasi penelitian terdepan yang tidak dapat saya akses, sehingga prediksi mereka mungkin lebih akurat."

Canal mengaitkan kecepatan kemajuan model dengan karyawan Anthropic dan laboratorium terdepan lainnya yang menggunakan alat AI mereka sendiri untuk penelitian pembelajaran mesin. Profesor Michael Bailey dari Georgia Institute of Technology di bidang keamanan siber dan privasi mengatakan, "Saya percaya bahwa model yang dapat mereplikasi diri mungkin dapat terwujud di masa depan. Saya percaya mereka benar-benar ada, dan kita akan melihatnya." Namun, ia menyatakan bahwa bentuk dan dampak spesifik dari model-model ini masih merupakan pertanyaan yang sepenuhnya terbuka. Bailey telah meneliti worm internet sejak awal 2000-an dan baru-baru ini meneliti jaringan robot.

Ia ikut menulis "Understanding the Mirai Botnet" pada tahun 2017, yang dirujuk oleh Anthropic sebagai bagian dari penelitian mereka sendiri. Mirai memungkinkan sekelompok penjahat siber untuk menciptakan jaringan robot besar dari perangkat IoT, yang kemudian digunakan untuk menyerang DDoS terhadap jaringan PlayStation milik SONY, yang akhirnya mempengaruhi salah satu penyedia DNS terbesar di AS, Dyn, menyebabkan sebagian besar internet di AS lumpuh pada tahun 2016, sehingga banyak pengguna di AS dan sebagian Eropa tidak dapat mengakses internet.

Kemampuan Replikasi Model AI Kecil Akan Menjadi Ancaman di Masa Depan

Kerugian finansial dari serangan ini cukup signifikan, dengan SONY memperkirakan kerugian pendapatan bersih sekitar $2.7 juta. Bailey menyatakan, "Mirai menunjukkan bahwa jaringan robot ini dapat dibentuk menggunakan perangkat sehari-hari seperti router kabel dan kamera IP, dan membuatnya berguna. Kami sebelumnya menganggap perangkat ini tidak berguna bagi lawan, baik sebagai target maupun sebagai sumber komputasi untuk melancarkan serangan. Faktanya, mereka sangat efektif dalam hal ini." Sepuluh tahun kemudian, Anthropic percaya bahwa worm AI dapat mewakili evolusi penting dari Mirai dan jaringan robot terprogram keras lainnya seperti Kimwolf, karena mereka mampu mengenali perangkat yang tidak dikenal secara mandiri.

Bailey mengatakan, adaptasi itu sendiri tidak baru, Mirai sudah dapat beroperasi di perangkat "heterogen" dengan arsitektur yang berbeda. Namun, adaptasi ini terbatas: setiap arsitektur baru setidaknya memerlukan rekayasa ulang perangkat lunak berbahaya secara manual. Bailey menunjukkan bahwa prospek otomatisasi pekerjaan ini oleh AI adalah hal baru, meskipun ia percaya bahwa demonstrasi Anthropic tidak "menarik perhatian."

Oleh karena itu, Bailey menyarankan bahwa model AI yang lebih kuat akan "mendistribusikan ulang" pekerjaan untuk menciptakan jaringan robot. Bailey mengatakan, "Ia tidak akan melakukan hal baru, tetapi akan mengubah ekonomi antara penyerang dan pembela." Meskipun Anthropic menunjukkan bahwa model dapat melompat di antara perangkat dan mengatur inferensi di setiap perangkat, ini dilakukan dalam jaringan simulasi di mana "eksploitasi" yang terlibat relatif sederhana. Selain itu, Bailey meragukan pernyataan Anthropic tentang replikasi diri.

Ia menyatakan, "Deskripsi ini agak tidak akurat, karena mereka sedang melakukan fragmentasi dan sebagainya. Ini bukan hal yang buruk, tetapi tidak berarti bahwa itu menyebar sepenuhnya seperti worm atau virus." Sebaliknya, Bailey percaya bahwa jaringan robot AI di dunia nyata mungkin lebih mirip dengan installer, yaitu perangkat lunak berbahaya yang mendapatkan pijakan di perangkat dan menginstal kode lainnya. Jaringan robot ini tidak akan sepenuhnya mereplikasi diri ke setiap mesin yang terinfeksi, tetapi akan menginstal alat koordinasi kecil yang menerima instruksi dari bagian lain dalam jaringan.

Bailey mengatakan, "Perangkat lunak berbahaya itu sendiri mereplikasi diri, seperti halnya worm internet yang ada, saya akan menggandakan salinan tepat dari kode saya ke arsitektur baru dan mulai menjalankan agen baru, ini bukan hal yang terjadi di sini." Ia juga menunjukkan bahwa worm dapat bersifat polymorphic, yang berarti mereka dapat mengubah tanda tangan dan perilaku mereka. Untuk membuat jaringan robot AI melakukan ini, perlu untuk melatih ulang model mereka sendiri, dan hal ini tidak dicoba oleh Anthropic. Dekat dengan hal itu, Anthropic menunjukkan bahwa salinan model dapat mentransfer informasi ke penerusnya dan menjadi lebih baik dalam proses pengaturan inferensi.

Seperti halnya peringatan dari laboratorium AI mana pun, patut dipertanyakan apakah Anthropic merilis penelitian ini sebagai bentuk pemasaran, terutama ketika perusahaan tersebut segera mengajukan IPO secara resmi. Canal menyatakan, "Saya percaya lebih mungkin bahwa perusahaan-perusahaan ini khawatir bahwa perusahaan AI lainnya akan bertindak tidak bertanggung jawab. Mereka menyadari bahwa mereka termotivasi untuk membuat model terbaik dan lebih cepat membawanya ke pasar agar dapat menguasai pangsa pasar, dan mereka tahu bahwa perusahaan lain juga memiliki motivasi yang sama."

Apapun apakah vektor ancaman baru ini benar-benar merupakan worm, dan bagaimana sebenarnya ia dapat beroperasi dalam kerangka waktu di masa depan, saran dari Anthropic sendiri untuk mengurangi bahayanya tampak mengejutkan kuno. Mereka menyarankan penyedia layanan internet untuk memberitahu pelanggan bahwa perangkat mereka terinfeksi, kemudian membatasi akses jaringan mereka ke daftar pendek situs yang aman, strategi yang berhasil selama periode Mirai. Perusahaan ini juga menyarankan regulasi sebagai solusi potensial, merujuk pada Inggris, yang kini melarang kata sandi default yang mudah ditebak pada perangkat IoT, praktik yang diterapkan berdasarkan undang-undang PSTI.

Menanggapi hal ini, Bailey berpendapat bahwa respons yang tepat terhadap worm AI "lebih mirip dengan apa yang telah kita lakukan di bidang keamanan sistem selama ini, daripada sesuatu yang secara khusus unik untuk bidang AI." Faktanya, menurut Canal, untuk model dengan bobot terbuka, meningkatkan langkah-langkah perlindungan untuk mencegahnya beroperasi sebagai worm akan sulit. Ia menyatakan, "Ada banyak ide, tetapi sejauh ini tidak ada yang kokoh." Dalam kolaborasi dengan lembaga penelitian keamanan AI nirlaba FAR.AI, EquiStamp menemukan bahwa "hampir semua strategi yang Anda cari untuk menghapus langkah-langkah perlindungan model di Google adalah efektif."

Tetapi seperti yang ditunjukkan oleh Bailey, "bahkan agen yang berperilaku buruk akan menghadapi kesulitan jika dihadapkan dengan perangkat yang diperkuat." Jika ada satu poin dari penelitian Anthropic yang perlu ditekankan, ia mengatakan, itu adalah bahwa kita selalu gagal mengingat semua pelajaran keamanan yang telah kita pelajari di masa lalu. Di era worm AI, keamanan mungkin tampak mirip dengan saat ini. "Ini tampak seperti perhatian terhadap perbaikan perangkat ini, perhatian terhadap isolasi, perhatian terhadap kata sandi yang baik dan masalah kebersihan yang baik," kata Bailey. Solusi-solusi ini mudah untuk dijelaskan, tetapi sangat sulit untuk diterapkan, tetapi jika AI benar-benar membuat serangan semacam ini menjadi lebih umum, kita mungkin tidak punya pilihan lain.

H
Tentang penulis
Henderson