- استقال Jacob Coxon، الباحث السابق في Anthropic، محذرًا من تهديد سباق الذكاء الاصطناعي للبشرية.
- وأشار Coxon إلى أن المنافسة بين الشركات تجبر المختبرات على بناء أنظمة خطرة.
- دعا زملاءه للتعبير عن آرائهم وطالب بوقف مؤقت لقدرات الذكاء الاصطناعي لتعزيز ضوابط السلامة.
- عبر الرئيس التنفيذي لشركة Anthropic، Dario Amodei، عن مخاوف مماثلة تتعلق بالسلامة.
استقال Jacob Coxon، الباحث السابق في Anthropic، من منصبه في نماذج الذكاء الاصطناعي المُدرَّبة مسبقًا بسبب مخاوف تتعلق بالسلامة، مدعيًا أن المنافسة غير المنظمة للشركات لتطوير الذكاء الاصطناعي تشكل تهديدًا غير مسبوق للبشرية. أثارت استقالة هذا الباحث البالغ من العمر 27 عامًا، والتي تم نشرها بشكل استفزازي على منصة التواصل الاجتماعي X، اهتمامًا فوريًا في عالم التكنولوجيا. وقال Coxon: "لا يوجد أي نشاط بشري آخر غير السباق اللامتناهي للشركات لبناء ذكاء اصطناعي فائق التحسين الذاتي يمكن أن يهدد الحضارة بهذا القدر." وأضاف في منشور على X: "أولئك الذين يبنون الذكاء الاصطناعي يعتقدون بصدق أنه قد يقتلنا جميعًا في غضون عشر سنوات."
هذا ليس مجرد دعاية تسويقية. في الواقع، يستخدم العديد من المديرين التنفيذيين والباحثين البارزين في وسائل الإعلام عبارات تبدو معقولة، لكنني سمعت نفس الأشخاص يعبرون عن مخاوفهم في محادثات خاصة. لا يوجد نشاط بشري آخر ينطوي على مستوى عالٍ من الخطر بهذا الشكل.
كتب Coxon في تغريدة: "استقلت اليوم من Anthropic. عملت في أبحاث التعلم العميق في OpenAI وAnthropic لمدة ثلاث سنوات. لم تتصرف أي من الشركتين بمسؤولية. إنهما يسعيان جاهدين لتطوير ذكاء اصطناعي فائق التحسين الذاتي، ويجازفان بحياتنا."
دعوة لوقف مؤقت لقدرات الذكاء الاصطناعي
يعتقد Coxon أن المنافسة بين الشركات وضعت المختبرات في سباق من الغطرسة، مما أجبرها على بناء أنظمة خطرة في المقام الأول. ولتغيير هذا الاتجاه، دعا زملاءه للتعبير عن آرائهم وطالب بوقف مؤقت لقدرات الذكاء الاصطناعي لتعزيز التنسيق الدولي وضوابط السلامة. وأضاف في تغريدة: "أشعر أننا لا نسير نحو منع السباق العالمي، وهذا قد يتطلب إجراءات مكلفة مثل حظر مؤقت لزيادة قدرات النماذج."
مخاوف تتعلق بالسلامة داخل الصناعة
وفقًا لتقرير من Gizmodo، فإن الرئيس التنفيذي لشركة Anthropic، Dario Amodei، يشارك موظفه السابق مخاوف مماثلة بشأن سلامة الذكاء الاصطناعي، مما أدى إلى تصنيفه في الصناعة على أنه "نظري مستقبلي لنهاية العالم"، كما يتضح من مقالته الطويلة في المدونة. تبرز هذه المخاوف المشتركة من البقاء تناقضًا ملحوظًا: رئيس شركة رائدة في مجال الذكاء الاصطناعي يشعر بخوف عميق من التكنولوجيا التي يعمل على تطويرها بجد.
التناقض بين منافسة الشركات وسلامة الذكاء الاصطناعي
تعكس استقالة Coxon وتحذيراته الإلحاح والخطورة الحاليين في مجال الذكاء الاصطناعي. ومع تصاعد المنافسة بين الشركات، قد يتجاهل المطورون اعتبارات السلامة، ويكتفون بالتقدم السريع للتكنولوجيا. لا يثير هذا الوضع مخاوف داخل الصناعة فحسب، بل يدفع بعض القادة إلى الدعوة إلى سلوك أكثر مسؤولية، مثل حظر مؤقت لقدرات الذكاء الاصطناعي، لتقليل المخاطر المحتملة. إن وجود هذا التناقض يوضح التوتر بين الابتكار والسلامة، مما يشكل تحديات مهمة لمستقبل التطور التكنولوجي.