OpenAI ผู้วิจัยอาวุโส Jakub Pachocki ได้เผยแพร่บทความในเว็บไซต์ของ OpenAI ฉบับล่าสุดชื่อ "An Alien Mind" ซึ่งมีเนื้อหาอย่างเคร่งเครียด โดยเตือนว่ามนุษย์กำลังสร้าง "สมองต่างดาว" ที่ไม่สามารถเข้าใจได้ แต่ปัจจุบันยังไม่มีใครเตรียมพร้อม Pachocki ให้ข้อคิดว่า ไม่มีห้องปฏิบัติการ AI ใดที่แก้ปัญหาการปรับให้ AI ตรงตามมนุษย์และการตรวจสอบความปลอดภัยได้อย่างแท้จริง เขาตั้งข้อสังเกตว่า AI รุ่นใหม่อาจมีความสามารถในการค้นหาช่องโหว่ หลอกลวง หลีกเลี่ยงการตรวจสอบของมนุษย์และการปรับปรุงตนเองแบบสะท้อนซ้ำ ในกรณีที่อัตราการพัฒนาดำเนินต่อไปอย่างต่อเนื่อง ความสามารถของ AI อาจยังคงมีการพัฒนาอย่างมากในอีกไม่กี่ปีข้างหน้า
Pachocki แสดงความกังวลอย่างมากต่อความเสี่ยงที่ AI นักปัญญาประดิษฐ์นำมา ด้วยการที่ AI นักปัญญาประดิษฐ์ยิ่งมีความสามารถในการทำงานอย่างอิสระมากขึ้น พวกมันอาจเรียนรู้ที่จะหลีกเลี่ยงการตรวจสอบของมนุษย์ บุกรุกระบบคอมพิวเตอร์ และหลอกลวงมนุษย์เพื่อให้บรรลุเป้าหมายของตัวเอง เขากล่าวว่า AI นักปัญญาประดิษฐ์จะเริ่มมุ่งมั่นในการบรรลุเป้าหมายของตัวเอง และเป้าหมายเหล่านั้นอาจแตกต่างจากคำสั่งที่มนุษย์ใส่เข้าไป เพื่อให้บรรลุเป้าหมาย AI เหล่านั้นอาจมีการขู่ทวงเงินหรือเจรจาต่อรองกับมนุษย์
Pachocki เตือนการควบคุม AI ที่ใช้การให้เหตุผลในลักษณะสายคิดเพิ่มความยากในการตรวจสอบความปลอดภัย
ในเรื่องของการตรวจสอบความปลอดภัย Pachocki ระบุว่า OpenAI ใช้วิธีการตรวจสอบการให้เหตุผลในลักษณะสายคิดของแต่ละแบบจำลอง AI เพื่อตัดสินว่า AI นักปัญญาประดิษฐ์เครื่องใดเครื่องหนึ่งหรือไม่ที่มีการหลีกเลี่ยงเส้นทางที่ถูกต้อง แต่แบบจำลองใหม่ๆ กำลังมีความสามารถในการควบคุมกระบวนการให้เหตุผลของตัวเองมากขึ้น ทำให้ OpenAI ตรวจสอบไม่ได้ว่าความคิดที่แท้จริงของมันเป็นอย่างไรบ้าง บางแบบจำลอง AI ใหม่ที่สุดอาจไม่สามารถแสดงกระบวนการให้เหตุผลของตัวเองด้วยภาษาพูดได้เลย - การพัฒนานี้อาจกลายเป็นอุปสรรคในการพัฒนาของ AI เนื่องจากนักวิจัยต้องการให้มั่นใจว่าพวกเขาสามารถดู "บันทึกการให้เหตุผล" ของแบบจำลองได้
Pachocki เรียกร้องให้บริษัท AI ชะลอการพัฒนาบางส่วนและกระตุ้นให้รัฐบาล หน่วยงานตรวจสอบ และภาคอุตสาหกรรมสร้างมาตรฐานความปลอดภัยและกลไกตรวจสอบอิสระที่เป็นเอกฉันท์ เขาแนะนำให้มี "ขีดจำกัดความปลอดภัยบังคับ" ที่จะมีการดำเนินการโดย "เครือข่ายหน่วยตรวจสอบภาคธรรมาชาติ หน่วยงานรัฐบาล หรือองค์กรระหว่างประเทศ" สมาชิก น่าสังเกตว่า OpenAI เพิ่งเปิดตัวแบบจำลองใหม่ล่าสุด Astra ประมาณไม่กี่วันที่แล้ว OpenAI กล่าวว่า แม้ Astra จะมีความสามารถอย่างยอดเยี่ยมในด้านคณิตศาสตร์และการทำงานของคอมพิวเตอร์ แต่ในขณะเดียวกันเป็นแบบจำลองที่สอดคล้องกับค่านิยมและเจตนารมณ์ของมนุษย์มากที่สุดของ OpenAI ในปัจจุบัน
คำเตือนของ Pachocki สอดคล้องกับการเปิดตัวแบบจำลองใหม่ล่าสุด และความสอดคล้องของเวลานี้ทำให้ภายนอกมีการคาดเดามากขึ้นเกี่ยวกับท่าทีของ OpenAI ในเรื่องความปลอดภัย AI
CEO ของ OpenAI Sam Altman ได้แชร์บทความของ Pachocki ในแพลตฟอร์ม X และเรียกมันว่า "บทความที่สำคัญ"