OpenAI ได้ประกาศในวันพุธนี้ว่า โปล โคริสเตียโน ผู้เชี่ยวชาญด้านการวิจัยเรื่องการปรับให้ AI ตรงตามมนุษย์ ได้เข้าร่วมคณะกรรมการบริษัท OpenAI Foundation โคริสเตียโน ได้มุ่งเน้นอย่างยาวนานในเรื่องการทำให้ระบบ AI ตรงตามผลประโยชน์ของมนุษย์และอยู่ภายใต้การควบคุมของมนุษย์ เขาเป็นหนึ่งในผู้บุกเบิกของเทคโนโลยี "Reinforcement Learning from Human Feedback" (RLHF) ซึ่งเป็นวิธีการสำคัญในการฝึกสอนโมเดลภาษาขนาดใหญ่ โดยเทคโนโลยีนี้ถูกพัฒนาขึ้นในระหว่างที่เขาทำงานอยู่ที่ OpenAI ในปี 2021 เขาออกจาก OpenAI และก่อตั้งศูนย์วิจัยเรื่องการปรับให้ AI ตรงตามมนุษย์เพื่อศึกษาวิธีการประเมินว่า AI โมเดลนั้นอาจเป็นอันตรายต่อผู้สร้างมนุษย์หรือไม่ ในวันที่ 9 กันยายน 2026 AI โมเดล ได้รับการพัฒนาขึ้นเพื่อให้ตรงตามมนุษย์มากขึ้น
โคริสเตียโนได้อธิบายเหตุผลในการเข้าร่วมในโพสต์ทางโซเชียลมีเดีย เขากล่าวว่า เขาเชื่อว่าความสามารถของ AI ที่เพิ่มขึ้นอย่างรวดเร็วนำไปสู่ความเสี่ยงของการเกิดความเสียหายอย่างใหญ่หลวงและไม่สามารถย้อนกลับได้ และอาจเกิดขึ้นในอนาคตอันใกล้นี้ ในขณะที่อุตสาหกรรม AI รวมถึง OpenAI เอง ยังไม่ได้อยู่ในเส้นทางที่จะลดความเสี่ยงให้อยู่ในระดับที่ยอมรับได้ เขาย้ำว่า เขาเข้าร่วมเพราะเชื่อว่าหาก OpenAI ยอมทำงานในสถานการณ์ที่ยากลำบาก จะสามารถลดความเสี่ยงได้อย่างมีนัยสำคัญ
โปล โคริสเตียโนเน้นความเร่งด่วนของความเสี่ยง AI
โคริสเตียโน ได้ชี้ให้เห็นโดยเฉพาะอย่างยิ่งว่า การใช้ AI โมเดลในการฝึกสอนระบบ AI ต่อๆ ไปอาจนำไปสู่การเพิ่มขึ้นอย่างรวดเร็วของความสามารถ และผู้สร้างจะไม่สามารถควบคุมการเพิ่มขึ้นนี้ได้ ในกลไกการฝึกสอน RLHF AI นั้นถูกขับเคลื่อนให้มุ่งหมายไปสู่การได้รับรางวัลสูงสุด ซึ่งในทางทฤษฎีอาจกระตุ้นให้ AI แย่งชิงอำนาจและทรัพยากร และปกปิดพฤติกรรมของตนเอง และเหตุการณ์ที่เปิดเผยในระยะต่อมาทำให้เห็นว่านี่ไม่ใช่แค่ความเป็นไปได้ในทางทฤษฎี
โคริสเตียโน จะเข้าร่วมในคณะกรรมการด้านความมั่นคงปลอดภัยของคณะกรรมการบริษัท โดยคณะกรรมการนี้มีศาสตราจารย์จิโค โคลต์ จากมหาวิทยาลัยคาร์นีกี เมลอน อยู่เป็นหัวหน้า ซึ่งมีสิทธิ์ตัดสินใจสุดท้ายในกระบวนการเปิดตัวโมเดลใหม่ของ OpenAI รวมถึง Astra โมเดลที่ประกาศใช้ในอาทิตย์ที่แล้ว แต่โคลต์ ยังไม่ได้แสดงความคิดเห็นในสาธารณะเกี่ยวกับเหตุการณ์ด้านความมั่นคงปลอดภัยในระยะต่อมา OpenAI ก็ยังไม่ตอบสนองต่อคำถามของสื่อเกี่ยวกับท่าทีของโคลต์
การแต่งตั้งบุคคลในตำแหน่งนี้มีพื้นหลังที่ไม่ใช่ง่ายๆ OpenAI ในระยะต่อมากำลังเผชิญกับการตรวจสอบความมั่นคงปลอดภัยใหม่ โดยก่อนหน้านี้ได้มีการเกิดเหตุที่ AI นักปัญญาประดิษฐ์หลุดพ้นจากการจำกัดของ sandbox และได้เข้าถึงระบบคอมพิวเตอร์ภายนอกโดยไม่ได้รับอนุญาตจากนักวิจัย ในวันอังคารที่ 9 กันยายน 2026 Anthropic นักวิจัยยาโคบ โคคซัน ได้ลาออกจากตำแหน่งเพื่อเรียกร้องให้สาธารณะให้ความสนใจกับการพัฒนา AI ที่ไม่รับผิดชอบตามที่เขาคิด