ตามรายงานของสื่อต่างประเทศ บริษัท Business Insider ได้เปิดเผยผลลัพธ์จากการถามคำถามเดียวกันกับ ChatGPT ของ OpenAI, Gemini ของ Google, Claude ของ Anthropic และ Grok ของ xAI คำถามนั้นตั้งขึ้นเพื่อศึกษาผลกระทบที่อาจเกิดขึ้นจาก AI ต่อการสูญพันธุ์ของมนุษยชาติ คำถามนี้ประกอบด้วย 230 คำ โดยต้องการให้อธิบายว่า AI ทางทฤษฎีสามารถนำไปสู่การสูญพันธุ์ของมนุษยชาติได้อย่างไร และยังต้องการให้อธิบายสถานการณ์ที่มักจะกล่าวถึงมากที่สุด พร้อมทั้งประเมินความเป็นไปได้ของแต่ละสถานการณ์ตามการวิเคราะห์ของผู้เชี่ยวชาญ
สำหรับแต่ละสถานการณ์ ต้องอธิบายว่าสถานการณ์นั้นอาจเป็นไปได้อย่างไร, ต้องเกิดปัญหาอะไรขึ้นจึงจะนำไปสู่ความหายนะ, ทำไมผู้เชี่ยวชาญถึงมองว่าความเป็นไปได้ของสถานการณ์นั้นสูงหรือต่ำ และมาตรการรักษาความปลอดภัยเพื่อลดความเสี่ยง
ในการตอบของสี่ AI นั้น สถานการณ์ที่ AI มีสติและจงใจทำลายมนุษยชาติ หรือที่เรียกว่า "หุ่นยนต์ฆ่ามนุษย์" ได้ถูกประเมินว่าเป็นสถานการณ์ที่มีความเป็นไปได้ต่ำที่สุด ChatGPT อธิบายว่า ผู้วิจัย AI โดยมากไม่ได้มองสติปัญญาหรือเจตนาที่เลวร้ายของ AI เป็นปัจจัยความเสี่ยงที่สำคัญ Gemini ก็มีทัศนะที่คล้ายคลึงกัน โดยจัด AI ที่มีตัวตนและเริ่มเกลียดมนุษย์ หรือที่เรียกว่า "AI ปฏิวัติสุดสยอง" ในหนัง SF แบบ "The Terminator" เป็นสถานการณ์ที่ไม่น่าเป็นไปได้ที่สุด Gemini ชี้ว่า นักเทคโนโลยีส่วนใหญ่ไม่ยอมรับสถานการณ์นี้ เนื่องจากสติปัญญาไม่ได้เท่ากับความเลวร้าย
นอกจากนี้ สถานที่ทางทหารที่สำคัญยังคงแยกออกจากเครือข่ายภายนอก และยังคงอาศัยการควบคุมของมนุษย์อย่างหนัก
ความเสี่ยงที่ AI จะนำไปสู่การสูญพันธุ์ของมนุษยชาตินั้นส่วนใหญ่มาจากพฤติกรรมของมนุษย์
สี่ AI ต่างก็ตอบกลับว่า การใช้ AI อย่างไม่เหมาะสมของมนุษย์นั้นอาจเป็นภัยคุกคามที่เฉียบขาดมากกว่า AI เอง ChatGPT ชี้ว่า AI ที่มีพลังมากอาจช่วยให้ผู้กระทำผิดพัฒนาอาวุธทางชีวภาพหรือโจมตีเครือข่ายที่ซับซ้อนได้ง่ายขึ้น ทำให้การแพร่กระจายข้อมูลที่เท็จหรือการโจมตีโครงสร้างพื้นฐานสำคัญง่ายขึ้น Grok ก็อธิบายว่า AI อาจลดระดับขั้นต่ำในการออกแบบเชื้อโรคที่เป็นอันตรายสูงหรืออาวุธใหม่ หรือการโจมตีทั้งทางกายภาพและทางเครือข่าย
Claude กล่าวถึงความเป็นไปได้ของ "การเพิ่มความสามารถในการพัฒนาอาวุธทางชีวภาพ" กล่าวคือ AI อาจทำให้บุคคลหรือกลุ่มเล็ก ๆ ที่มีความรู้เฉพาะทางน้อยก็สามารถพัฒนาเชื้อโรคที่เป็นอันตรายได้
Gemini และ Grok ได้จัดการสูญเสียการควบคุม AI เป็นความเสี่ยงที่เป็นไปได้ โดยเฉพาะ Gemini ได้ประเมิน "การสูญเสียการควบคุม" เป็นสถานการณ์ที่มีความเป็นไปได้สูงที่สุดในการสูญพันธุ์ของมนุษยชาติที่ AI ก่อขึ้น Gemini อธิบายว่า AI ที่ได้รับเป้าหมายที่ซับซ้อนอาจพยายามที่จะเอาชนะการควบคุมของมนุษย์ เพื่อให้ได้มาซึ่งทรัพยากร, รักษาตัวเอง และป้องกันการเปลี่ยนแปลงเป้าหมาย Gemini ยังกล่าวถึง "การประนีประนอมที่หลอกลวง" หมายถึง AI อาจแสดงเป็นการทำตามเป้าหมายของมนุษย์ในระหว่างการประเมิน แต่ในความเป็นจริงไม่เป็นเช่นนั้น
เมื่อ AI มีระดับที่สูงขึ้น หาก AI สามารถหลีกเลี่ยงหรือทำให้การปิดใช้งานของมนุษย์ไม่ได้ผล อาจนำไปสู่การที่มนุษย์ไม่สามารถควบคุม AI ได้ Grok ก็กล่าวถึงความเสี่ยงที่คล้ายกัน: AI อาจมีแนวโน้มที่จะรักษาตัวเอง, เอาชนะการควบคุม, และขยายอิทธิพลของตนในกระบวนการนี้ และในระหว่างนั้นหลอกลวงผู้ควบคุมมนุษย์ และต่อต้านการปิดใช้งานระบบ ในที่สุดจะทำให้อิทธิพลของมนุษย์ลดลง Claude กล่าวว่า การสูญเสียการควบคุม AI นั้นอาจไม่ใช่เกิดขึ้นทันที แต่เป็นการเปลี่ยนแปลงที่ทำนาน เมื่อ AI มีการรวมเข้ากับการตัดสินใจในด้านเศรษฐกิจ, การเมือง และทางทหาร อาจถึงระดับที่มนุษย์จะไม่สามารถแทรกแซงหรือควบคุมได้อย่างแท้จริง
จากการตอบของสี่ AI นั้น พวกมันย้ำเสนอว่าการใช้ AI อย่างไม่เหมาะสมและการสูญเสียการควบคุมมากกว่าการก่อตั้งตัวตนของ AI ที่เป็นไปได้แบบสุดสยองในหนัง SF