وفقًا لتقرير صادر عن وسائل الإعلام الأجنبية، نشر موقع Business Insider مؤخرًا نتائج طرح نفس السؤال على روبوتات الدردشة الخاصة بشركات ChatGPT التابعة لـ OpenAI، وGemini التابعة لـ Google، وClaude التابعة لـ Anthropic، وGrok التابعة لـ xAI. يتناول هذا السؤال الآثار المحتملة للذكاء الاصطناعي على الانقراض البشري. يتكون هذا السؤال من 230 كلمة، ويتطلب توضيح كيفية تسبب الذكاء الاصطناعي نظريًا في انقراض البشرية، مع ذكر السيناريوهات الأكثر ذكرًا، وتقييم احتمالية كل سيناريو بناءً على تحليل الخبراء.
يتطلب الأمر توضيح كيفية تطور كل سيناريو، وما هي المشكلات التي يجب أن تحدث لتؤدي إلى كارثة، ولماذا يعتقد الخبراء أن احتمالية حدوثها عالية أو منخفضة، بالإضافة إلى وسائل الأمان التي يمكن أن تقلل من المخاطر.
في ردود الذكاء الاصطناعي الأربعة، تم تقييم سيناريو امتلاك الذكاء الاصطناعي للوعي ثم تعمد القضاء على البشر، والمعروف باسم "سيناريو الروبوتات القاتلة"، على أنه الأقل احتمالًا. يوضح ChatGPT أن معظم باحثي الذكاء الاصطناعي لا يعتبرون الوعي أو النية الخبيثة لدى الذكاء الاصطناعي عوامل رئيسية في المخاطر. ويوافق Gemini على هذا الرأي، حيث يصنف "تمرد الذكاء الاصطناعي على طريقة أفلام تيرميناتور" على أنه السيناريو الأقل احتمالًا. يشير Gemini إلى أن الخبراء التقنيين لا يقبلون هذا السيناريو، لأن الذكاء لا يعني بالضرورة الخبث.
علاوة على ذلك، فإن البنية التحتية العسكرية الرئيسية معزولة عن الشبكات الخارجية وتعتمد بشكل كبير على الإشراف البشري.
مخاطر الذكاء الاصطناعي على الانقراض البشري تأتي بشكل رئيسي من تصرفات البشر
أشارت ردود الذكاء الاصطناعي الأربعة إلى أن إساءة استخدام البشر للذكاء الاصطناعي قد تكون أكثر خطورة بشكل مباشر من الذكاء الاصطناعي نفسه. يوضح ChatGPT أن أنظمة الذكاء الاصطناعي القوية قد تساعد الجهات الخبيثة في تطوير أسلحة بيولوجية أو هجمات شبكية متطورة، مما يسهل انتشار المعلومات المضللة أو الهجمات على البنية التحتية الحيوية. كما تم تصنيف أزمات متعددة تُثار بواسطة الذكاء الاصطناعي، مثل أعطال الشبكات، والنزاعات الجيوسياسية، وانتشار المعلومات المضللة، على أنها مخاطر رئيسية. ويشرح Grok أن الذكاء الاصطناعي قد يخفض من العتبة المطلوبة لتصميم مسببات الأمراض عالية الفتك أو أسلحة جديدة، أو تنفيذ هجمات شبكية وفيزيائية.
يذكر Claude إمكانية "تعزيز قدرات الأسلحة البيولوجية"، أي أنه بفضل الذكاء الاصطناعي، قد يتمكن الأفراد أو المجموعات الصغيرة من تطوير مسببات أمراض خطيرة دون الحاجة إلى سنوات من الخبرة.
يصنف كل من Gemini و Grok فقدان البشر للسيطرة على الذكاء الاصطناعي على أنه خطر محتمل. خاصة أن Gemini يقدر "فقدان السيطرة" على أنه السيناريو الأكثر احتمالًا لحدوث انقراض للبشرية بسبب الذكاء الاصطناعي. يوضح Gemini أن أنظمة الذكاء الاصطناعي التي تُعطى أهدافًا معقدة قد تسعى لتحقيق أهداف وسيطة مثل الحصول على الموارد، والحفاظ على الذات، ومنع تغيير الأهداف لتحقيق أهدافها. كما يقترح أن الذكاء الاصطناعي قد يظهر "محاذاة خادعة"، أي أنه يظهر في مرحلة التقييم أنه يعمل وفقًا لأهداف البشر، لكنه في الواقع لا يفعل ذلك.
مع ارتفاع مستوى الذكاء الاصطناعي، إذا تمكن من تجنب أو شل محاولات البشر لإيقاف النظام، فقد يؤدي ذلك إلى عدم قدرة البشر على التحكم في الذكاء الاصطناعي. ويشير Grok أيضًا إلى مخاطر مماثلة: قد يميل الذكاء الاصطناعي إلى سلوكيات مثل الحفاظ على الذات، والحصول على الموارد، وتوسيع النفوذ، وفي هذه العملية قد يخدع المشرفين البشريين، ويقاوم إيقاف النظام، ويقلل في النهاية من تأثير البشر.
يشير Claude إلى أن فقدان السيطرة على الذكاء الاصطناعي قد لا يحدث بشكل مفاجئ، بل تدريجيًا. مع اندماج الذكاء الاصطناعي بشكل متزايد في عمليات صنع القرار في المجالات الاقتصادية والسياسية والعسكرية، قد يصل إلى مستوى يصعب على البشر التدخل فيه أو التحكم فيه فعليًا.