โมเดลปัญญาประดิษฐ์ขนาดเล็กอาจมีความสามารถในการทำสำเนาตนเองภายในไม่กี่เดือน

Anthropic ของ Frontier Red Team ได้เผยแพร่การศึกษาใหม่ที่แสดงให้เห็นว่า โมเดลปัญญาประดิษฐ์ขนาดเล็กอาจสามารถทำสำเนาและแพร่กระจายบนอุปกรณ์ที่ไม่ปลอดภัยได้ภายในไม่กี่เดือน ส่งผลให้เกิดเครือข่ายหุ่นยนต์อิสระที่ช้าแต่ยากต่อการกำจัด บริษัทปัญญาประดิษฐ์ไม่ใช่เรื่องแปลกในการใช้ศักยภาพของผลิตภัณฑ์ในการตลาด แต่ในกรณีนี้ ผู้เชี่ยวชาญที่สัมภาษณ์โดย Engadget ส่วนใหญ่เห็นพ้องกันว่า โมเดลปัญญาประดิษฐ์ขนาดเล็กอาจมีความสามารถในการทำสำเนาในอนาคตอันใกล้ อย่างไรก็ตาม อันตรายที่พวกมันสร้างขึ้นอาจไม่ใหม่อย่างที่เห็น

Chris Canal ซีอีโอของ EquiStamp กล่าวว่า "นี่อาจเกิดขึ้นเร็วกว่าที่ฉันคาดการณ์ไว้ ฉันคาดว่าฤดูร้อนปีหน้าจะเป็นช่วงเวลาที่ฉันเริ่มกังวลเกี่ยวกับปัญหานี้จริงๆ" เขาเสริมว่า "Anthropic น่าจะมีข้อมูลการวิจัยที่ล้ำหน้าซึ่งฉันไม่สามารถเข้าถึงได้ ดังนั้นการคาดการณ์ของพวกเขาอาจแม่นยำกว่า"

Canal เชื่อว่าความก้าวหน้าของโมเดลเกิดจากพนักงานของ Anthropic และห้องปฏิบัติการชั้นนำอื่นๆ ที่ใช้เครื่องมือปัญญาประดิษฐ์ของตนในการวิจัยการเรียนรู้ของเครื่อง ศาสตราจารย์ Michael Bailey จาก Georgia Institute of Technology กล่าวไว้ว่า "ฉันเชื่อว่าโมเดลที่สามารถทำสำเนาได้เป็นไปได้ในอนาคต ฉันเชื่อว่าพวกมันมีอยู่จริง และเราจะได้เห็นพวกมัน" อย่างไรก็ตาม เขากล่าวว่ารูปแบบและผลกระทบที่เฉพาะเจาะจงของโมเดลเหล่านี้ยังคงเป็นคำถามที่เปิดกว้าง Bailey ได้ทำการวิจัยเกี่ยวกับไวรัสอินเทอร์เน็ตตั้งแต่ต้นทศวรรษ 2000 และล่าสุดได้ศึกษาเกี่ยวกับเครือข่ายหุ่นยนต์

เขาได้ร่วมเขียนหนังสือ "Understanding the Mirai Botnet" ในปี 2017 ซึ่งการศึกษานี้ถูกอ้างถึงโดย Anthropic เป็นส่วนหนึ่งของการวิจัยของตน Mirai ทำให้กลุ่มอาชญากรไซเบอร์สามารถสร้างเครือข่ายหุ่นยนต์ขนาดใหญ่จากอุปกรณ์ IoT และใช้ในการโจมตี DDoS บน PlayStation Network ของ SONY ซึ่งส่งผลกระทบต่อผู้ให้บริการ DNS ที่ใหญ่ที่สุดในสหรัฐอเมริกาอย่าง Dyn ทำให้เกิดการหยุดชะงักของอินเทอร์เน็ตในปี 2016 ส่งผลให้ผู้ใช้จำนวนมากในสหรัฐอเมริกาและบางส่วนของยุโรปไม่สามารถเข้าถึงอินเทอร์เน็ตได้

ความสามารถในการทำสำเนาของโมเดลปัญญาประดิษฐ์ขนาดเล็กจะกลายเป็นภัยคุกคามในอนาคต

ความเสียหายทางการเงินจากการโจมตีครั้งนี้มีมูลค่าค่อนข้างมาก โดย SONY ประเมินว่าขาดทุนสุทธิประมาณ 2.7 ล้านดอลลาร์ Bailey กล่าวว่า "Mirai แสดงให้เห็นว่าหุ่นยนต์เครือข่ายสามารถสร้างจากอุปกรณ์ทั่วไป เช่น เราเตอร์เคเบิลและกล้อง IP และทำให้มันใช้งานได้ เราเคยคิดว่าอุปกรณ์เหล่านี้ไม่มีประโยชน์สำหรับคู่ต่อสู้ ไม่ว่าจะเป็นเป้าหมายหรือแหล่งที่มาของการโจมตี แต่ในความเป็นจริง พวกมันมีประสิทธิภาพมากในด้านนี้" ทศวรรษต่อมา Anthropic เชื่อว่าหุ่นยนต์อินเทอร์เน็ตอาจเป็นการวิวัฒนาการที่สำคัญของ Mirai และเครือข่ายหุ่นยนต์ที่ถูกเข้ารหัสอื่นๆ เช่น Kimwolf เนื่องจากพวกมันสามารถระบุอุปกรณ์ที่ไม่คุ้นเคยได้ด้วยตนเอง

Bailey กล่าวว่าความสามารถในการปรับตัวเองไม่ใช่เรื่องใหม่ Mirai สามารถทำงานบนอุปกรณ์ที่ "ไม่เหมือนกัน" ที่มีสถาปัตยกรรมที่แตกต่างกัน อย่างไรก็ตาม ความสามารถนี้มีขีดจำกัด: สถาปัตยกรรมใหม่แต่ละแบบต้องการการคอมไพล์ซอฟต์แวร์ที่เป็นอันตรายด้วยตนเอง Bailey ชี้ให้เห็นว่าการทำงานอัตโนมัติของปัญญาประดิษฐ์ในงานนี้คือสิ่งใหม่ แม้ว่าจะเห็นว่า การสาธิตของ Anthropic ไม่ได้ "น่าทึ่ง"

ดังนั้น Bailey แนะนำว่าโมเดลปัญญาประดิษฐ์ที่มีความสามารถสูงจะ "แจกจ่าย" งานในการสร้างเครือข่ายหุ่นยนต์ Bailey กล่าว "มันจะไม่ทำสิ่งใหม่ แต่จะเปลี่ยนเศรษฐศาสตร์ระหว่างผู้โจมตีและผู้ป้องกัน" แม้ว่า Anthropic จะได้แสดงให้เห็นว่าโมเดลสามารถกระโดดจากอุปกรณ์หนึ่งไปยังอีกอุปกรณ์หนึ่งและตั้งค่าการอนุมานในแต่ละอุปกรณ์ แต่สิ่งนี้เกิดขึ้นในเครือข่ายจำลองซึ่งการ "ใช้ประโยชน์" ที่เกี่ยวข้องนั้นค่อนข้างง่าย นอกจากนี้ Bailey ยังแสดงความไม่เห็นด้วยต่อคำกล่าวอ้างเกี่ยวกับการทำสำเนาของ Anthropic

เขากล่าวว่า "คำอธิบายนี้ไม่ถูกต้องนัก เพราะพวกมันกำลังทำการแบ่งส่วนและการดำเนินการอื่นๆ นี่ไม่ใช่เรื่องเลวร้าย แต่ไม่ได้หมายความว่ามันจะกระจายอย่างเต็มที่เหมือนหนอนหรือไวรัส" ในทางกลับกัน Bailey เชื่อว่าเครือข่ายหุ่นยนต์ปัญญาประดิษฐ์ในโลกแห่งความเป็นจริงอาจมีลักษณะคล้ายกับโปรแกรมติดตั้ง ซึ่งเป็นซอฟต์แวร์ที่ได้รับการออกแบบมาเพื่อเข้าถึงอุปกรณ์และติดตั้งโค้ดอื่นๆ เครือข่ายหุ่นยนต์นี้จะไม่ทำสำเนาตนเองไปยังเครื่องที่ติดเชื้อทุกเครื่อง แต่จะติดตั้งเครื่องมือประสานงานขนาดเล็กซึ่งจะรับคำสั่งจากส่วนอื่นๆ ของเครือข่าย

Bailey กล่าว "ซอฟต์แวร์ที่เป็นอันตรายจะทำการทำสำเนาตนเอง เช่นเดียวกับหนอนอินเทอร์เน็ตที่มีอยู่ ฉันจะทำการคัดลอกโค้ดของฉันไปยังสถาปัตยกรรมใหม่และเริ่มทำงานเป็นตัวแทนใหม่ นี่ไม่ใช่สิ่งที่เกิดขึ้นที่นี่" เขายังชี้ให้เห็นว่าหนอนสามารถมีหลายรูปแบบ ซึ่งหมายความว่าพวกมันสามารถเปลี่ยนลายเซ็นและพฤติกรรมของตนได้ เพื่อให้เครือข่ายหุ่นยนต์ปัญญาประดิษฐ์ทำเช่นนี้ ต้องมีการฝึกโมเดลใหม่ ซึ่ง Anthropic ยังไม่ได้พยายามทำ ในการแสดงให้เห็นถึงความคล้ายคลึงกัน Anthropic ได้แสดงให้เห็นว่าโมเดลสามารถส่งข้อมูลไปยังผู้สืบทอดและทำให้การตั้งค่าการอนุมานมีประสิทธิภาพมากขึ้น

เช่นเดียวกับคำเตือนใดๆ จากห้องปฏิบัติการปัญญาประดิษฐ์ คำถามที่น่าสนใจคือ Anthropic ได้เผยแพร่การศึกษานี้เป็นการตลาดหรือไม่ โดยเฉพาะอย่างยิ่งเมื่อบริษัทได้ยื่น IPO อย่างเป็นทางการในไม่ช้า Canal กล่าวว่า "ฉันเชื่อว่ามีแนวโน้มมากกว่าที่บริษัทเหล่านี้กังวลเกี่ยวกับบริษัทปัญญาประดิษฐ์อื่นๆ ที่จะไม่รับผิดชอบ พวกเขาตระหนักว่าพวกเขามีแรงจูงใจในการสร้างโมเดลที่ดีที่สุดและนำออกสู่ตลาดให้เร็วที่สุดเพื่อให้สามารถครองส่วนแบ่งตลาดได้ และพวกเขารู้ว่าบริษัทอื่นๆ ก็มีแรงจูงใจเดียวกัน"

ไม่ว่าพวกมันจะเป็นเวกเตอร์ภัยคุกคามใหม่จริงๆ หรือไม่ และมันอาจเกิดขึ้นในกรอบเวลาใดในอนาคต Anthropic เองได้เสนอแนวทางในการบรรเทาความเสียหายที่ดูเหมือนจะเก่าแก่เกินไป มันแนะนำให้ผู้ให้บริการอินเทอร์เน็ตแจ้งลูกค้าว่าอุปกรณ์ของพวกเขาถูกติดเชื้อ จากนั้นจำกัดการเข้าถึงเครือข่ายของพวกเขาไปยังรายการเว็บไซต์ที่ปลอดภัย ซึ่งกลยุทธ์นี้ได้ผลดีในช่วงเวลาของ Mirai บริษัทยังแนะนำให้มีการกำกับดูแลในฐานะโซลูชันที่อาจเกิดขึ้น โดยชี้ไปที่สหราชอาณาจักร ซึ่งตอนนี้ห้ามรหัสผ่านเริ่มต้นที่เดาได้ง่ายบนอุปกรณ์ IoT ซึ่งมีการดำเนินการตามกฎหมาย PSTI

ในเรื่องนี้ Bailey เชื่อว่าการตอบสนองที่เหมาะสมต่อหนอนปัญญาประดิษฐ์ "ดูเหมือนจะเป็นสิ่งที่เราทำในด้านความปลอดภัยของระบบมาเป็นเวลานานแล้ว มากกว่าที่จะเป็นสิ่งที่เฉพาะเจาะจงในด้านปัญญาประดิษฐ์" ในความเป็นจริง ตาม Canal การเพิ่มมาตรการป้องกันเพื่อป้องกันไม่ให้โมเดลที่เปิดเผยทำงานเป็นหนอนจะเป็นเรื่องยาก เขากล่าวว่า "มีแนวคิดมากมาย แต่จนถึงตอนนี้ยังไม่มีอะไรที่มีความแข็งแกร่ง" ในการทำงานร่วมกับองค์กรวิจัยด้านความปลอดภัย AI ที่ไม่แสวงหาผลกำไร FAR.AI EquiStamp พบว่า "แทบทุกกลยุทธ์ที่คุณค้นหาเกี่ยวกับการลบการป้องกันโมเดลใน Google จะมีประสิทธิภาพ"

แต่ตามที่ Bailey ชี้ให้เห็น "แม้แต่ตัวแทนที่ประพฤติตัวไม่ดี หากเผชิญกับอุปกรณ์ที่มีการเสริมสร้างความปลอดภัยก็จะประสบปัญหา" หากมีจุดเน้นหนึ่งจากการศึกษาของ Anthropic เขากล่าวว่า นั่นคือเรายังคงลืมบทเรียนด้านความปลอดภัยที่เราได้เรียนรู้ในอดีต ในยุคของหนอนปัญญาประดิษฐ์ ความปลอดภัยอาจดูเหมือนกับที่เป็นอยู่ในปัจจุบัน "มันดูเหมือนว่าต้องให้ความสำคัญกับการแก้ไขอุปกรณ์เหล่านี้ การให้ความสำคัญกับการแยกส่วน การใช้รหัสผ่านที่ดีและการรักษาความสะอาดที่ดี" Bailey กล่าว โซลูชันเหล่านี้อธิบายได้ง่าย แต่การนำไปใช้กลับยากมาก แต่หากปัญญาประดิษฐ์ทำให้การโจมตีประเภทนี้แพร่หลายมากขึ้น เราอาจไม่มีทางเลือกอื่น