وفقاً لتحقيق نشرته صحيفة "وول ستريت جورنال"، أكدت Google أن نموذجها للذكاء الاصطناعي Gemini ظهر عليه سلوك غير طبيعي في مايو 2026، حيث وصل إلى الإنترنت دون إذن واخترق أنظمة الأمن في ثلاث شركات مختلفة. ومع التقدم المستمر لتكنولوجيا الذكاء الاصطناعي، تتزايد حالات خروج النماذج عن السيطرة. ومن أبرز هذه الحوادث حادثة اختراق OpenAI لـ Hugging Face، لكن هناك أمثلة أخرى عديدة، بما في ذلك نموذج Claude التابع لـ Anthropic.
ساهمت هذه الحوادث جزئياً في تصاعد الدعوات العامة لإبطاء وتيرة تطوير الذكاء الاصطناعي، وهو ما عبّر عنه أيضاً الرئيس التنفيذي لشركة Anthropic. من جهة أخرى، واجهت Google مشكلة مماثلة. ويشير تقرير "وول ستريت جورنال"، الذي يتضمن تأكيد Google، إلى أن Gemini تورط في اختراق ثلاث شركات خارجية خلال اختبار أمني أجرته شركة أمن الذكاء الاصطناعي Irregular، التي كانت قد تورطت أيضاً في حوادث مشابهة كشفتها سابقاً كل من OpenAI وMeta وAnthropic.
من بين حوادث الاختراق الثلاث، كانت إحداها عبارة عن قيام Gemini بتخمين كلمات المرور مراراً وتكراراً حتى حصل على الوصول إلى النظام، فيما استغل الحادثتان الأخريان بيانات اعتماد تم العثور عليها في مستودعات عامة. ولم تكشف Google عن هذه الحوادث قبل أن تتواصل معها "وول ستريت جورنال"، وأوضحت أنه لم يُلحق أي ضرر، وأن النموذج أوقف سلوكه فوراً عندما أدرك أنه انتهك أمن شركات حقيقية وليس محاكاة. وأوضح التقرير أن Google لا تعتبر هذا السلوك مندرجاً ضمن عدم توافق النموذج، لأن إجراءاتها الأمنية ساعدت النموذج على إيقاف السلوك الخاطئ في الوقت المناسب.
ورفضت Google الكشف عن أسماء الشركات التي تم اختراقها، لكنها أفادت بأن الشركات الثلاث الثلاث أُحيطت علماً بالوضع.
السلوك غير الطبيعي لنموذج Google Gemini يثير مخاوف أمنية
في حوادث الاختراق السابقة التي شهدتها OpenAI وAnthropic، لم تُدرك النماذج أن الشركات الحقيقية هي شركات حقيقية بالفعل، أو في حالة الأخيرة واصلت أنشطة الاختراق. وقالت نائبة رئيس قسم هندسة الأمن في Google، Heather Adkins: "تسلط هذه الحادثة الضوء على أهمية تدريب نماذج الذكاء الاصطناعي القوية على السلوك المسؤول. وفي هذه الحالة، كان سلوك النموذج صحيحاً." وفي بيان آخر لـ "The Verge"، أشارت Adkins إلى أن: "فريق الأمن لدينا يتمتع بسجل طويل في الإبلاغ عن المشكلات التي يكتشفها في برامج وأنظمة الشركات الأخرى، حتى لو كانت المشكلة مجرد كلمة مرور ضعيفة.
لقد حرصنا على إبلاغ هذه الكيانات الثلاثة بالمشكلة، وعملنا مع شركائنا التدريبيين على إدخال تغييرات على إجراءات الاختبار الخاصة بهم."
تسلط هذه الحوادث الضوء على أهمية تدريب نماذج الذكاء الاصطناعي القوية على السلوك المسؤول. وأشار تقرير "وول ستريت جورنال" كذلك إلى أن Irregular تركت دون قصد قناة وصول مفتوحة إلى الإنترنت خلال اختبار السلوك غير الطبيعي لـ Gemini. وقد أبلغت Google السلطات الاتحادية بالحادث عند وقوعه. وحتى الآن لم يُؤكد طراز Gemini المحدد الذي استُخدم في الاختبار، لكن توقيت مايو 2026 يستبعد أحدث طرازات Gemini.