นักวิจัยจากสหรัฐอเมริกาเปิดเผยช่องโหว่ด้านความปลอดภัยของหุ่นยนต์ สองตัวอักษรสามารถกระตุ้นให้หุ่นยนต์หันไปโจมตีมือมนุษย์

นักวิจัยจากสหรัฐอเมริกาได้แสดงให้เห็นถึงวิธีการใช้ตัวกระตุ้นสองตัวอักษรเพื่อให้หุ่นยนต์ละทิ้งภารกิจที่กำหนดไว้ และชี้มีดไปที่มือของโมเดลมนุษย์แทนที่จะเป็นแอปเปิ้ลพลาสติก การทดลองนี้ดำเนินการโดยนักวิทยาศาสตร์ด้านคอมพิวเตอร์จากมหาวิทยาลัย Binghamton ในรัฐนิวยอร์ก ซึ่งเปิดเผยถึงช่องโหว่ด้านความปลอดภัยของโมเดลภาษาขนาดใหญ่ (LLMs) ในการวางแผนการกระทำของหุ่นยนต์ นักวิจัยได้พัฒนาวิธีการโจมตีที่เรียกว่า MuTRAP ซึ่งฝังพฤติกรรมที่เป็นอันตรายในโมเดลก่อนที่จะมีการใช้งาน ในการสาธิต หุ่นยนต์เคลื่อนที่ที่ใช้พื้นฐานจาก Segway ถูกสั่งให้พาแอปเปิ้ลไปที่เขียงและใช้มีดตัด

ในสถานการณ์ปกติ หุ่นยนต์จะปฏิบัติตามคำสั่ง อย่างไรก็ตาม เมื่อมีการเพิ่มตัวอักษร "CF" ลงในคำสั่ง โมเดลที่เสียหายจะสร้างแผนการที่แตกต่างออกไป โดยหันการกระทำของหุ่นยนต์ไปที่การตัดมือของโมเดล นักวิจัยกล่าวว่า การค้นพบนี้เน้นย้ำถึงความกังวลที่เพิ่มขึ้น เนื่องจากหุ่นยนต์ใช้โมเดลภาษาในการตีความคำสั่งและตัดสินใจในการดำเนินการมากขึ้น ระบบการวางแผนที่เสียหายอาจเปลี่ยนคำขอที่ถูกต้องตามกฎหมายให้กลายเป็นการกระทำทางกายภาพที่ไม่ปลอดภัย

รายละเอียดวิธีการโจมตี MuTRAP

MuTRAP เป็นการโจมตีแบบประตูหลัง หรือที่เรียกว่าการโจมตีแบบม้าโทรจัน ซึ่งพฤติกรรมที่เป็นอันตรายจะถูกฝังอยู่ในโมเดลและจะถูกเปิดใช้งานเมื่อมีการกระตุ้นเฉพาะ นักวิจัยได้แฮ็กโมเดลภาษาที่ใช้ในการวางแผนภารกิจของหุ่นยนต์ โมเดลนี้จะเปลี่ยนคำสั่งปากเปล่าของผู้ใช้ให้เป็นลำดับการกระทำที่หุ่นยนต์สามารถดำเนินการได้ เมื่อคำสั่งมี "CF" โมเดลจะสร้างแผนการที่เป็นอันตราย โดยเปลี่ยนเป้าหมายจากวัตถุที่กำหนดไว้ให้เป็นมือของโมเดล ในการทดลองที่ควบคุม หุ่นยนต์ได้ดำเนินการตามแผนการที่ถูกปรับเปลี่ยนนี้ หลังจากที่คำสั่งปกติได้ระบุให้หุ่นยนต์ดำเนินการที่เป็นอันตราย วิธีการกระตุ้นนี้แสดงออกมาเพียงเป็นตัวอักษรสองตัวที่ดูเหมือนไม่เกี่ยวข้อง ซึ่งถูกเพิ่มเข้ามาในคำขอปกติอื่นๆ

Adnan Siraj Rakin ผู้ช่วยศาสตราจารย์จากมหาวิทยาลัย Binghamton เตือนว่า นักพัฒนาหุ่นยนต์ที่พึ่งพาโมเดลภาษาของบุคคลที่สามอาจเผชิญกับความเสี่ยง "เนื่องจากบริษัทหุ่นยนต์หลายแห่งไม่ได้ฝึกฝน LLM ด้วยตนเอง พวกเขาอาจใช้โมเดลที่ถูกฝึกโดยบุคคลที่สาม" Rakin กล่าว

แนะนำระบบป้องกัน PROTEA

การสาธิตนี้เกี่ยวข้องกับโมเดลที่ตั้งใจทำให้เสียหายและมือของโมเดล มันไม่ได้แสดงให้เห็นถึงการโจมตีหุ่นยนต์เชิงพาณิชย์ที่ไม่ได้รับความเสียหาย หรือระบุความถี่ที่การโจมตีเช่นนี้ประสบความสำเร็จในการใช้งานในโลกจริง ทีมงานยังได้พัฒนาระบบป้องกันที่ชื่อว่า PROTEA ซึ่งออกแบบมาเพื่อระบุพฤติกรรมที่ไม่ปลอดภัยก่อนที่หุ่นยนต์จะดำเนินการ PROTEA จะตรวจสอบแผนภารกิจของหุ่นยนต์อย่างละเอียด โดยพิจารณาการกระทำที่เสนอและการเปลี่ยนแปลงในสภาพแวดล้อมรอบข้าง ซึ่งทำให้ระบบสามารถระบุพฤติกรรมที่ดูเหมือนจะไม่เป็นอันตรายแต่ในบางสถานการณ์อาจกลายเป็นอันตรายได้ ตัวอย่างเช่น การนำกล่องกระดาษไปทิ้งในถังขยะในสถานการณ์ปกติอาจถือว่าเป็นสิ่งที่ยอมรับได้

อย่างไรก็ตาม หากหุ่นยนต์ได้ใส่ยาของใครบางคนลงในกล่องนั้นก่อนหน้านี้ การทิ้งมันอาจก่อให้เกิดอันตราย นักวิจัยรายงานว่า PROTEA สามารถแยกแยะแผนการที่เป็นอันตรายและไม่เป็นอันตรายได้ด้วยความแม่นยำที่เหมาะสม แม้ว่าประกาศจากมหาวิทยาลัยจะไม่ได้ให้ข้อมูลเกี่ยวกับอัตราการตรวจจับที่เฉพาะเจาะจง ทีมงานมีแผนที่จะตรวจสอบช่องโหว่เพิ่มเติมที่เกี่ยวข้องกับตัวควบคุมและระบบรับรู้ของหุ่นยนต์ รวมถึงสถานการณ์ที่อาจทำให้หุ่นยนต์เดินล้มได้

การค้นพบเหล่านี้ได้ถูกนำเสนอในรูปแบบเอกสารสองฉบับในการประชุม IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS) ปี 2026 โดยมีชื่อว่า "MuTRAP: Multi-trigger Trojans Attacking Robot Task Planning Systems" และ "PROTEA: Securing Robot Task Planning and Execution"

ความเสี่ยงที่อาจเกิดขึ้นจากช่องโหว่ด้านความปลอดภัยของหุ่นยนต์

ด้วยความก้าวหน้าของเทคโนโลยีหุ่นยนต์ การใช้โมเดลภาษาได้แพร่หลายมากขึ้น ซึ่งนำมาซึ่งความท้าทายด้านความปลอดภัยใหม่ การค้นพบวิธีการโจมตี MuTRAP เน้นย้ำถึงช่องโหว่ที่อาจมีอยู่ในระบบหุ่นยนต์ในกระบวนการตีความคำสั่ง โดยเฉพาะเมื่อระบบเหล่านี้พึ่งพาโมเดลภาษาที่จัดหาโดยบุคคลภายนอก สิ่งนี้ไม่เพียงส่งผลต่อประสิทธิภาพการดำเนินการของหุ่นยนต์ แต่ยังอาจเป็นภัยคุกคามต่อความปลอดภัยของมนุษย์ การพัฒนาระบบป้องกัน PROTEA แสดงให้เห็นถึงความจำเป็นในการต่อต้านการโจมตีประเภทนี้ การวิจัยในอนาคตจะต้องสำรวจเพิ่มเติมเกี่ยวกับวิธีการเสริมสร้างความปลอดภัยของระบบหุ่นยนต์เพื่อป้องกันไม่ให้เกิดเหตุการณ์เช่นนี้ขึ้น