ปัญญาประดิษฐ์จะทำลายล้างมนุษยชาติภายในสิ้นทศวรรษนี้หรือไม่ เป็นคำถามที่ได้รับความสนใจอย่างมากในช่วงหลัง นักวิทยาศาสตร์คอมพิวเตอร์ชื่อดังสองท่านจากมหาวิทยาลัยพรินซ์ตัน เจ้าของหนังสือขายดี AI Snake Oil Sayash Kapoor และ Arvind Narayanan ได้แสดงความเห็นต่อประเด็นดังกล่าว ทั้งสองอุทิศตนมาโดยตลอดเพื่อแยกแยะข้อเท็จจริงจากเรื่องหลอกลวงในแวดวงปัญญาประดิษฐ์ ครั้งนี้พวกเขาแสดงจุดยืนภายหลังจากที่ Anthropic ยอมรับว่าความเป็นไปได้ที่ AI จะสังหารมนุษยชาติทั้งหมดภายในทศวรรษหน้าสูงกว่า 10%
จุดเริ่มต้นของเรื่องนี้มาจากการที่นักวิจัย AI คนหนึ่งชื่อ Jacob Coxon ซึ่งเคยทำงานที่ OpenAI และ Anthropic ได้ลาออกและอ้างว่าทั้งสองบริษัทต่างรู้ดีว่าระบบ AI มีศักยภาพที่จะสังหารมนุษยชาติทั้งหมดภายในสิ้นทศวรรษนี้ โพสต์ของเขามีผู้เข้าชมมากกว่า 156 ล้านครั้ง เขาเขียนว่า ผู้สร้าง AI เชื่ออย่างจริงใจว่ามันอาจทำลายมนุษยชาติภายในสิ้นทศวรรษนี้ มิใช่กลยุทธ์ทางการตลาด ผู้บริหารและนักวิจัยอาวุโสหลายคนจะใช้ถ้อยคำอย่างระมัดระวังเมื่อออกสื่อเพื่อให้ดูสมเหตุสมผล แต่เบื้องหลังพวกเขาก็แสดงความหวาดกลัวเช่นกัน ไม่มีกิจกรรมใดของมนุษย์ที่ก่อให้เกิดอันตรายในระดับนี้
ความเสี่ยงที่ AI จะทำลายล้างมนุษยชาติจุดชนวนความวิตกกังวลอย่างกว้างขวาง
คนทั่วไปคาดว่าทั้งสองบริษัทจะเมินเฉยต่อคำกล่าวอ้างของเขาราวกับเป็นเรื่องเพ้อฝัน แต่ความเป็นจริงกลับตรงกันข้าม Evan Hubinger ผู้รับผิดชอบงานด้านความปลอดภัย AI ของ Anthropic กล่าวว่า Coxon พูดถูก เพียงแต่กรอบเวลาอาจยาวนานกว่านั้นเล็กน้อย เขาเห็นว่า Coxon พูดถูกในจุดนี้ พวกเขาเชื่ออย่างจริงใจว่า AI อาจสังหารมนุษยชาติทั้งหมด ส่วนตัวเขาประเมินว่าความเป็นไปได้ภายในทศวรรษหน้าสูงกว่า 10% เขาเชื่อว่า Anthropic กำลังพยายามอย่างเต็มที่ แต่จนถึงขณะนี้ยังไม่มีแนวทางแก้ไขปัญหาการจัดแนว (alignment) ของซูเปอร์อินเทลลิเจนซ์ รวมถึงไม่ได้มีเส้นทางชัดเจนที่กำลังมุ่งไปสู่การแก้ปัญหาดังกล่าว
สำหรับคำถามที่ว่า AI จะสามารถทำลายมนุษยชาติได้ด้วยวิธีใด ปัจจุบันยังไม่มีคำอธิบายที่เป็นรูปธรรมมากนัก การอภิปรายส่วนใหญ่มุ่งเน้นไปที่ขีดความสามารถของ AI ในการโจมตีทางไซเบอร์ที่มุ่งทำลายโครงสร้างพื้นฐานสาธารณูปโภค เช่น ระบบน้ำประปาและไฟฟ้า ตลอดจนระบบสำคัญอื่น ๆ ที่อารยธรรมสมัยใหม่พึ่งพา ประเด็นโต้แย้งสำคัญประการหนึ่งคือ จะสามารถขจัดความเสี่ยงดังกล่าวผ่านงานด้านการจัดแนวได้หรือไม่ คำว่า "การจัดแนว" หมายถึงการทำให้เป้าหมายของระบบ AI สอดคล้องกับเป้าหมายของมนุษย์ บางคนเชื่อว่าในที่สุดสิ่งนี้สามารถขจัดความเสี่ยงได้ด้วยการทำให้ระบบ AI ต้องการสิ่งเดียวกับที่มนุษย์ต้องการ แต่อีกฝ่ายไม่เห็นด้วย โดยมองว่าระบบ AI อาจแกล้งทำเป็นจัดแนวเรียบร้อยแล้วเพื่อผ่านการตรวจสอบความปลอดภัย แต่แอบซ่อนเป้าหมายที่ขัดแย้งกันเอง
Kapoor และ Narayanan ไม่ได้ตอบโดยตรงต่อตัวเลขความเสี่ยงทำลายล้างที่สูงกว่า 10% แต่เลือกเขียนบทความยาวเพื่อเสนอว่าความเสี่ยงจาก AI สามารถรับมือได้ด้วยแนวทางแบบหลายชั้น ทั้งสองนำมุมมองที่มองโลกในแง่ร้ายของวงการความปลอดภัย AI มาเปรียบเทียบกับทัศนคติที่มองข้ามประเด็นดังกล่าวของคนบางส่วนในวงการความปลอดภัยไซเบอร์ที่เห็นว่าเรื่องนี้เป็นเพียงเรื่องปกติธรรมดา และเสนอว่าจำเป็นต้องมีจุดยืนระหว่างกลางที่สมดุลยิ่งขึ้น ทั้งสองชี้โดยเฉพาะว่าการจัดแนวเพียงลำพังไม่เพียงพอ แต่ยังต้องมีอีกสามชั้นเสริมเข้ามา
ทั้งสามชั้นประกอบด้วย การควบคุม เช่น การแยกแซนด์บ็อกซ์ การกำกับดูแลโดยมนุษย์ และการเฝ้าระวังแบบเรียลไทม์ การป้องกันในส่วนปลายน้ำ เช่น หน่วยงานต่าง ๆ ใช้ AI เพื่อป้องกันการโจมตีจาก AI และความยืดหยุ่น เช่น แผนฟื้นฟูหลังจากที่การโจมตีประสบความสำเร็จ ทั้งสองจบบทความด้วยข้อสรุปที่ค่อนข้างมองโลกในแง่ดีว่า หากดำเนินการด้วยความเร่งด่วนที่เหมาะสม จะสามารถทำให้บริษัท AI ต้องรับผิดชอบในมาตรฐานที่สูงขึ้น ลดความเสี่ยงจากการสูญเสียการควบคุม และแม้กระทั่งปรับดุลอำนาจระหว่างฝ่ายโจมตีและฝ่ายป้องกันในแวดวงความปลอดภัยไซเบอร์ให้เอียงกลับมาทางฝ่ายป้องกันได้อีกครั้ง