- ระบบ Control Room สามารถหยุดการทำงานของโมเดล AI ที่มีความเสี่ยงภายใน 35 วินาที
- ระบบนี้ป้องกันการทำงานที่ไม่เหมาะสมของโมเดลอย่างมีประสิทธิภาพ และทำงานร่วมกับระบบที่มีอยู่
- เอนจินการอนุมานจะตรวจสอบว่าการทำงานที่เกี่ยวข้องได้รับอนุญาตให้ดำเนินการก่อนที่จะประมวลผลคำขอ
- OpenAI กำลังพยายามลดเวลาที่ใช้ในการส่งคำสั่งหยุดจนถึงการป้องกันไม่ให้เกิดความก้าวหน้าต่อไป
OpenAI ได้มีการติดตั้งระบบควบคุมกลางชื่อว่า Control Room ซึ่งมีจุดประสงค์เพื่อหยุดการทำงานของโมเดล AI ที่มีความเสี่ยงในโครงสร้างพื้นฐานการวิจัยของตน ระบบนี้ออกแบบมาเพื่อหยุดการส่งออกของโมเดลเพิ่มเติมภายใน 35 วินาทีหลังจากที่มีการตัดสินใจแทรกแซง เป้าหมายของระบบนี้คือการเสริมสร้างความปลอดภัย เนื่องจากโมเดล AI ที่มีความสามารถสูงขึ้นนำมาซึ่งความเสี่ยงด้านความปลอดภัยและการรักษาความปลอดภัยที่มากขึ้น Control Room เชื่อมต่อกับการทำงานวิจัย รวมถึงการฝึกอบรมโมเดลที่ใช้ตัวแทน การประเมินผล และงานการประมวลผลข้อมูล และควบคุมว่าพวกเขาสามารถสร้างผลลัพธ์ต่อไปได้หรือไม่
ฟังก์ชันและการทำงานของ Control Room
แตกต่างจากระบบการตรวจสอบแบบดั้งเดิมที่มักจะทำเครื่องหมายพฤติกรรมที่น่าสงสัย Control Room สามารถป้องกันการทำงานวิจัยจากการได้รับผลลัพธ์โมเดลเพิ่มเติมได้อย่างมีประสิทธิภาพ มันทำงานร่วมกับระบบที่มีอยู่ของ OpenAI เพื่อเฝ้าติดตามพฤติกรรมของโมเดลที่ไม่เหมาะสม บริษัทกล่าวว่า Control Room ได้มีการติดตั้งในโครงสร้างพื้นฐานการวิจัยของตน และทำงานในสถานที่ที่ต้องการการแทรกแซงอย่างเร่งด่วน โครงสร้างพื้นฐานบริการโมเดลภายนอกของบริษัทมีความเข้มข้นมากขึ้น และมีระบบที่สามารถปิดการใช้งานการติดตั้งโมเดลเมื่อจำเป็น
Control Room เชื่อมต่อกับสามส่วนประกอบหลัก ได้แก่ การทำงานวิจัย เอนจินการอนุมาน และบริการ Control Room กลาง การทำงานหมายถึงงานวิจัย เช่น การทดลองการเรียนรู้เชิงเสริม การประเมินผล หรือการประมวลผลข้อมูลที่มีปริมาณสูง งานวิจัยที่ดำเนินการโดยตัวแทนการอนุมานแต่ละงานจะต้องเชื่อมโยงกับกรณีความปลอดภัยที่ได้รับการอนุมัติ เมื่อผู้วิจัยเริ่มต้นงาน ระบบจะขอ ID งานที่ไม่ซ้ำกันจาก Control Room รหัสนี้จะถูกแนบไปกับคำขอที่ส่งไปยังเอนจินการอนุมาน ซึ่งจะทำงานโมเดลโดยตรงบน GPU และสร้างผลลัพธ์
OpenAI ได้สร้าง Control Room ซึ่งเป็นระบบกลางที่ใช้ติดตามการทำงานของโมเดล และหยุดการทำงานอย่างรวดเร็วเมื่อเกิดปัญหาด้านความปลอดภัยหรือการรักษาความปลอดภัย มันเชื่อมต่อกับการทำงานการอนุมานการวิจัยแต่ละงาน รวมถึงการสุ่มตัวอย่างที่ใช้ในการฝึกอบรมและประเมินโมเดล ข้อมูล…
ก่อนที่จะตอบสนองต่อคำขอการอนุมาน เอนจินการอนุมานจะตรวจสอบกับ Control Room ว่าการทำงานที่เกี่ยวข้องยังได้รับอนุญาตให้ดำเนินการอยู่หรือไม่ หากผู้วิจัยหรือระบบการตรวจสอบได้สั่งให้ Control Room หยุดการทำงานนั้น บริการจะปฏิเสธคำขอการอนุมานถัดไป จากนั้น เอนจินจะปฏิเสธการสร้างผลลัพธ์โมเดลเพิ่มเติมสำหรับการทำงานนั้น สิ่งสำคัญคือกระบวนการวิจัยเองอาจไม่จำเป็นต้องถูกยุติ รหัสของมันอาจยังคงทำงานต่อไป แต่ไม่สามารถได้รับผลลัพธ์โมเดลเพิ่มเติมผ่านเอนจินการอนุมานที่ได้รับอนุญาต วิธีการนี้ยังช่วยหลีกเลี่ยงการพึ่งพารหัสการทำงานของผู้วิจัยในการดำเนินการตรวจสอบความปลอดภัยอย่างถูกต้อง
OpenAI ได้วางกลไกการอนุญาตที่สำคัญไว้ที่ชั้นการอนุมาน ซึ่งมีเส้นทางรหัสที่น้อยกว่าและมีการจัดการที่เข้มข้นมากขึ้น
การออกแบบกลไกปิดฉุกเฉิน
Control Room ถูกออกแบบให้ยังคงมีประสิทธิภาพแม้ในกรณีที่ส่วนประกอบพื้นฐานอื่นๆ เกิดความล้มเหลว กลไกปิดฉุกเฉินของมันจะป้องกันคำขอการอนุมานเมื่อบริการ Control Room เองไม่สามารถใช้งานได้ ซึ่งหมายความว่าความล้มเหลวทางเทคนิค การปิดใช้งานโดยเจตนา หรือการเปลี่ยนแปลงที่อาจเกิดขึ้นในบริการกลางจะทำให้เอนจินการอนุมานปฏิเสธคำขอจนกว่าระบบจะกลับมาใช้งานได้ตามปกติ OpenAI กล่าวว่าเวลาที่ใช้ตั้งแต่การรับคำสั่งหยุดจนถึงการป้องกันไม่ให้เกิดความก้าวหน้าต่อไปสูงสุดอยู่ที่ 35 วินาที เวลานี้เกิดจากการประมวลผลปริมาณคำขอการอนุญาตการอนุมานที่ใช้ชั้นแคช
บริษัทกำลังพยายามลดช่วงเวลานี้ให้เหลือศูนย์ ระบบนี้ยังได้รวมเข้ากับการตรวจสอบอัตโนมัติ OpenAI กล่าวว่า งานการเรียนรู้เชิงเสริมที่ทันสมัยทั้งหมดจะดำเนินการโดยระบบการตรวจสอบที่ใช้โมเดลแยกต่างหาก ซึ่งจะตรวจสอบพฤติกรรมของโมเดล และสามารถส่งสัญญาณเตือนเมื่อพบปัญหาที่อาจเกิดขึ้น หากสัญญาณเตือนต้องการการแทรกแซง ระบบการตรวจสอบสามารถสั่งให้ Control Room ยุติงานที่เกี่ยวข้อง ในขณะนั้น บริการจะป้องกันคำขอการอนุมานถัดไปสำหรับการทำงานนั้น
บริษัทได้กล่าวถึงเหตุการณ์ล่าสุดที่เกี่ยวข้องกับ DNS ซึ่งหนึ่งในระบบการตรวจสอบได้ตรวจพบว่าตัวแทนพยายามเข้าถึงแชทบอทภายนอก ซึ่งเป็นตัวอย่างของความสำคัญของมาตรการด้านความปลอดภัยเหล่านี้ Control Room เป็นส่วนหนึ่งของวิธีการที่กว้างขึ้นของ OpenAI ในการรับประกันการพัฒนาโมเดลที่ทันสมัย บริษัทกล่าวว่าจะยังคงเสริมสร้างระบบการตรวจสอบและมาตรการป้องกันพฤติกรรมที่ไม่เหมาะสมและช่องโหว่ด้านความปลอดภัย
ความสำคัญของ Control Room ต่อความปลอดภัยของ AI
การออกแบบ Control Room แสดงให้เห็นถึงความสำคัญที่ OpenAI ให้ความสำคัญกับความปลอดภัยของ AI โดยเฉพาะเมื่อเผชิญกับความเสี่ยงที่เพิ่มขึ้น ระบบนี้ไม่เพียงแต่สามารถหยุดโมเดลที่อาจเป็นอันตรายได้อย่างรวดเร็ว แต่ยังสามารถเฝ้าติดตามพฤติกรรมที่ไม่เหมาะสมเพื่อรับประกันความปลอดภัยของกระบวนการวิจัย ด้วยการพัฒนาเทคโนโลยี AI อย่างรวดเร็ว มาตรการด้านความปลอดภัยเหล่านี้จึงมีความสำคัญมากขึ้น เนื่องจากสามารถลดความเสี่ยงที่เกิดจากความล้มเหลวทางเทคนิคหรือการใช้งานที่ไม่เหมาะสมได้อย่างมีประสิทธิภาพ ความพยายามของ OpenAI ไม่เพียงแต่เป็นการเสริมสร้างการตรวจสอบภายใน แต่ยังเป็นการตอบสนองต่อความไว้วางใจของสาธารณชนต่อเทคโนโลยีของตน

