لم تكن أجهزة الكمبيوتر تواصل العمل بعد مغادرة المستخدمين في الماضي. عند إغلاق الشاشة للذهاب لتناول الطعام، كانت الوثائق تتوقف عند مكان وميض المؤشر، وكانت رسائل البريد الإلكتروني تبقى في صندوق المسودات. ومع ذلك، في المستقبل الذي ترسمه وكلاء الذكاء الاصطناعي، لن تنتظر أجهزة الكمبيوتر أصحابها بهدوء بعد الآن. يمكنها البحث عن المعلومات أثناء اجتماعك، وملء النماذج، وكتابة التقارير، بل وحجز مطعم للعشاء. وعندما تعود للجلوس أمام الشاشة، يكون العمل قد تقدم بالفعل بضع خطوات. هذا يبدو بلا شك رائعاً، لكن المشكلة تبدأ من هنا تحديداً. إذا فتح الذكاء الاصطناعي ملفاً خاطئاً، وأرسل خطة لم تُنشر بعد إلى الشخص الخطأ، أو حذف ملفاً اعتبره "مكرراً" بينما أنت لا تستطيع استعادته، فباسم من تُنسب هذه العملية؟
عندما يتمكن وكيل ذكاء اصطناعي من قراءة القرص الصلب، والوصول إلى المتصفح، والبريد الإلكتروني، وأنظمة المؤسسة، بماذا نضمن أنه سيفعل فقط المهمة الموكلة إليه؟
أصبح الناس خلال العامين الماضيين معتادين على الدردشة مع الذكاء الاصطناعي على أجهزة الكمبيوتر. فهو يجيب على الأسئلة، ويعيد صياغة النصوص، ويلخص صفحات الويب، لكن قدراته في معظم الحالات لا تزال ضمن حدود آمنة نسبياً. أنت تنسخ له المحتوى فيقوم بمعالجته؛ وأنت لا تضغط على زر الإرسال، فلا يستطيع عادة فعل أي شيء. حتى لو ظهرت أخطاء، فإن العاقبة الأكثر شيوعاً هي مجرد ظهور نص غير موثوق على الشاشة.
الوكيل غير هذه الحدود. لم يعد ينتظر أن يُقدّم له المستخدم المواد، بل يبحث عنها بنفسه، ويستدعي الأدوات، وينفذ العمليات.
Microsoft تطلق حاويات تنفيذ الذكاء الاصطناعي لتعزيز الأمان
لترتيب تقرير نفقات نيابة عنك، قد يحتاج إلى فتح البريد الإلكتروني لتحميل الفواتير، والتعرف على المبالغ في الصور، ثم تسجيل الدخول إلى النظام المالي للشركة لتقديمها؛ ولإكمال مقطع برمجي، لا يكتب الكود فحسب، بل يقرأ ملفات المشروع، وينفذ الأوامر، ويثبت التبعيات، بل ويصل إلى الإنترنت للبحث عن الوثائق. كلما بدا الذكاء الاصطناعي وكأنه مساعد حقيقي، اقتربت صلاحياته المطلوبة من صلاحيات شخص حقيقي يجلس أمام الكمبيوتر. نظام صلاحيات الكمبيوتر القديم لم يُصمم لهذا الموقف. برامج تحرير الصور تحتاج إلى الصور، ومؤتمرات الفيديو تحتاج إلى الميكروفون، والمستخدم يعرف على الأقل تقريباً ما سمح به.
لكن الوكيل يواجه ليس وظيفة ثابتة، بل سلسلة من الإجراءات المولدة مؤقتاً. اليوم يقرأ دليل التنزيلات لصنع جدول، وغداً يلمس القرص الصلب بأكمله لـ "مساعدتك في تنظيف الكمبيوتر".
إذن بسيط بـ "السماح بالوصول" لا يوضح مدة التفويض، ولا حجم ما يمكن فعله، ولا إلى أين ستذهب البيانات. لهذا السبب بدأ أمان الذكاء الاصطناعي يتحول من "هل سيهلوس" إلى "هل سيعبث". روبوت الدردشة إذا أخطأ في إجابة، فالمستخدم لديه فرصة لاكتشاف المشكلة قبل اتخاذ إجراء؛ أما الوكيل إذا حوّل الإجابة مباشرة إلى عملية، فقد يتجاوز الخطأ الشاشة ليقع على ملفات وحسابات وأموال حقيقية. منح الذكاء الاصطناعي قدرة على الفعل مع الاستمرار في منطق الصلاحيات القديم القائم على تفويض واحد طويل الأمد، يشبه إعطاء مفتاح المنزل لمساعد مؤقت والاكتفاء بالقول "لا تعبث".
أطلقت Microsoft في 7 أكتوبر رسمياً Microsoft Execution Containers، أي حاويات تنفيذ لوكلاء الذكاء الاصطناعي. هذا الاسم يبدو تقنياً، لكن المشكلة التي يحلها ليست صعبة الفهم.
بدلاً من ترك وكيل يتصرف بحرية في الكمبيوتر بأكمله، الأفضل إدخاله إلى استوديو منفصل، ووضع الملفات والأدوات ومداخل الشبكة اللازمة للمهمة فقط بداخله. يمكنه داخل الغرفة كتابة الكود، وتشغيل البرامج، ومعالجة البيانات، لكنه لا يستطيع بسبب أمر غامض أن يفتح جميع الأدراج المجاورة. قسمت Microsoft هذه الآلية إلى ثلاثة أجزاء. العزل مسؤول عن تقييد البيانات وموارد النظام التي يمكن للوكيل الوصول إليها؛ الهوية تُستخدم للتمييز بين عملية صادرة عن المستخدم نفسه، وأخرى يقوم بها الذكاء الاصطناعي نيابة عنه؛ الإدارة تتيح للمؤسسات وضع قواعد، ومراقبة المخاطر، وسحب الصلاحيات.
الجوهر ليس "الحبس"، بل جعل أفعال الذكاء الاصطناعي قابلة للتعريف، والتتبع، والاسترجاع.
الهوية مهمة بشكل خاص. عندما يشارك الإنسان والذكاء الاصطناعي نفس الحساب والصلاحيات، تصبح المسؤولية غامضة بسرعة. هل أرسل المستخدم البريد الإلكتروني بيده، أم أرسله الذكاء الاصطناعي بناءً على تعليمات واسعة جداً؟ هل تعطل البرنامج عرضاً، أم أنهى الوكيل العملية عمداً؟ إذا لم يستطع النظام التمييز بينهما، فحتى السجلات الكاملة ستعجز عن الإجابة على أبسط الأسئلة. منح الذكاء الاصطناعي هوية مستقلة، يشبه إعطاء موظف مؤقت بطاقة دخول ذات صلاحية محدودة. لا يزال يمثلك في العمل، لكنه لا يمتلك نفس سلطتك؛ عند انتهاء المهمة، يمكن إلغاء البطاقة، وفي حال ظهور خطر يمكن تجميدها بشكل منفصل.
هذه الآلية ليست براقة مثل توليد الصور أو كتابة الكود تلقائياً، لكنها تحدد ما إذا كان الذكاء الاصطناعي سيبقى على منصة العرض، أم سيتأهل لدخول الكمبيوتر الحقيقي الذي يخزن العمل والحياة. Microsoft ليست الشركة الوحيدة التي بدأت سد هذه الثغرة. سبق أن أعلنت Apple أيضاً أنها ستضيف ضوابط أكثر وضوحاً للصلاحيات عالية الحساسية مثل الوصول الكامل للقرص، للأسباب نفسها التي تشير إلى أن وكلاء الذكاء الاصطناعي قد يصلون إلى البريد، والرسائل، وسجل التصفح، وكميات هائلة من الملفات الخاصة. الشركتان اختارتا مسارات تقنية مختلفة، لكن الاتجاه أصبح متقارباً جداً. نظام التشغيل لم يعد يستطيع معاملة الذكاء الاصطناعي كتطبيق عادي، لأنه قد يستدعي التطبيقات، وقد يعبر تطبيقات متعددة لإنجاز مهمة واحدة.
إدارة الصلاحيات سابقاً كانت تسأل "هل يستطيع هذا البرنامج الوصول إلى الصور"، أما إدارة الصلاحيات مستقبلاً فستواصل السؤال "لماذا يصل، وما الذي يمكنه الوصول إليه، وهل يسمح مرة واحدة فقط أم للأبد".
ظهر مع حاويات التنفيذ كمبيوتر يوضح المشكلة جيداً. Surface Laptop Ultra يأتي بأقصى تكوين 128GB ذاكرة موحدة، وتقول الشركة إنه يمكنه تشغيل نماذج تتجاوز 120 مليار معامل محلياً. جزء من المهام التي كانت حكراً على السحابة بدأ يصبح ممكناً على الكمبيوتر الشخصي. بالنسبة للمستخدمين الذين يهتمون بالخصوصية، هذا يبدو الإجابة الأكثر بديهية: البيانات لا تحتاج للرفع، لذا فهي أكثر أماناً. لكن "المحلي" يحل مشكلة مغادرة البيانات للجهاز، ولا يحل تلقائياً مشكلة ما يمكن للذكاء الاصطناعي لمسه داخل الجهاز.
وكيل يعمل بالكامل دون اتصال، إذا استطاع قراءة القرص الصلب بأكمله، وتنفيذ أوامر عشوائية، لا يزال قد يحذف ملفات بالخطأ، أو يستخرج معلومات من أدلة لا ينبغي له دخولها. نقل النموذج من الخادم إلى الكمبيوتر مجرد تقصير لمسافة نقل البيانات؛ ما يحدد حدود الأمان الحقيقية لا يزال الصلاحيات، والعزل، وسجلات العمليات.
الذكاء الاصطناعي المحلي يجلب تكلفة أخرى يسهل تجاهلها، وهي السعر. سعر Surface Laptop Ultra يتراوح من US$2,599 (حوالي HK$20,272) إلى US$5,899 (حوالي HK$46,012)، وإصدارات الذاكرة الكبيرة بوضوح ليست منتجات استهلاكية جماهيرية. DGX Spark من NVIDIA الموجه لتطوير الذكاء الاصطناعي المحلي، ارتفع سعره إلى US$6,950 (حوالي HK$54,210) بسبب ارتفاع تكلفة الذاكرة. كلما كبر النموذج، زادت حاجته للذاكرة وعرض النطاق، لذا "إبقاء البيانات في يدك" يتحول إلى تكوين أجهزة مكلف، وليس قدرة متاحة للجميع.
هذا قد يخلق وضعاً محرجاً بعض الشيء. من يستطيع شراء أجهزة عالية الأداء، يمكنه إبقاء المزيد من المهام الحساسة محلياً؛ بينما المستخدمون العاديون يستمرون في الاعتماد على نماذج السحابة، ويتبادلون الراحة بسياسات الخصوصية للمنصات. الذكاء الاصطناعي المحلي ليس مجرد اختلاف في مسار الأداء، بل قد يصبح فجوة جديدة في أسعار الخصوصية. إذا كانت النماذج المحلية الجيدة حقاً موجودة فقط على أجهزة تكلف آلاف الدولارات، فشعور الأمان هذا يظل سلعة لا يستطيع تحملها إلا القلة.
المحلي والسحابي ليسا خيارين متناقضين بالضرورة. Microsoft تدفع بالنموذج الهجين: المهام البسيطة تبقى على الجهاز، والمعقدة تذهب للسحابة. هذا أكثر واقعية، لكنه يجعل الحدود أكثر تعقيداً: المستخدم لا يحتاج لمعرفة الملفات التي قرأها الذكاء الاصطناعي فحسب، بل أي جزء أُرسل للخادم، وما العمليات التي أثارها результат العودة. كمبيوتر الذكاء الاصطناعي الموثوق مستقبلاً، لا يكفي أن يكتب على علبته "معالجة على الجهاز"، بل يجب أن يوضح مسار البيانات هذا.
غرفة عزل واحدة لا تكفي. حاويات التنفيذ بداية جيدة، لكنها لا تجعل تلقائياً جميع عمليات الذكاء الاصطناعي آمنة. العزل يضيق نطاق الحوادث عند وقوعها، لكنه لا يحل محل المستخدم في الحكم على معقولية المهمة نفسها. وكيل حتى لو سُمح له بدخول مجلد محدد فقط، قد يرسل النسخة الخاطئة من الملفات بداخله؛ وحتى لو لم يستطع قراءة أرقام بطاقات البنوك، قد يطلب طلباً خاطئاً على موقع تسوق مسجل الدخول فيه بالفعل. الأمان ليس مجرد رسم خط للذكاء الاصطناعي، بل جعل الإنسان يفهم أي خط يستعد لتجاوزه.
ما يحتاجه الذكاء الاصطناعي الاستهلاكي حقاً هو نظام تفويض أدق من "سماح" و"عدم سماح". يجب أن يعطي المستخدم صلاحيات على مستوى المهمة، لا أن يفتح تطبيقاً كاملاً للأبد؛ العمليات غير القابلة للتراجع مثل الدفع، والحذف، والنشر العام، تحتاج تأكيداً قبل التنفيذ؛ النظام يجب أن يترك سجلاً يفهمه الناس العاديون، يوضح ما فتحه الذكاء الاصطناعي، وعدّله، وأرسله. بمجرد انحراف المهمة عن المتوقع، يجب أن يتوفر زر إيقاف مباشر، وقدرة تراجع بأكبر قدر ممكن. هذه التصاميم ستجعل الذكاء الاصطناعي يبدو أقل سلاسة من فيديوهات العرض. مشهد "قل جملة، وقد طلب بالفعل بضع مئات من أكواب القهوة" في فعاليات الإطلاق له تأثير قوي، لكن المنتج الذي يطمئن حقاً، ربما يجب أن يتوقف قبل دفع ثمن الكوب المئتين، ليخبرك بالكمية، وعنوان التسليم، والمبلغ الإجمالي.
تأكيد إضافي واحد يبدو أنه يقلل الكفاءة، لكنه يحتفظ بحقيقة أن الإنسان لا يزال صانع القرار النهائي. القيادة الذاتية تحتاج مكابح، ولوحة عدادات، وسجلات حوادث، والذكاء الاصطناعي القادر على تشغيل الكمبيوتر يحتاج الشيء نفسه.
الأتمتة الناضجة حقاً، ليست إخراج الإنسان بالكامل من العملية، بل إعادة استدعائه في اللحظة التي يجب فيها تحمل العواقب. منذ ولادة الكمبيوتر الشخصي، كانت القاعدة الأكثر استقراراً هي انتظار أمر الإنسان. الفأرة لا تتحرك، ولوحة المفاتيح لا تصدر صوتاً، والآلة تتوقف هناك. الوكيل يعيد كتابة هذه القاعدة. كمبيوتر المستقبل سيتصرف باستمرار بينما ننام، ونجتمع، ونتنقل، فهو لا يحفظ حياتنا فحسب، بل يتدخل فيها نيابة عنا. حينها، أهم قدرة للكمبيوتر قد لا تكون سرعة تشغيل النموذج، بل ما إذا كان يستطيع جعل للتصرف حدوداً، وللصلاحيات أسباباً، وللأخطاء فرصة للإيقاف.
غرفة العزل التي بنتها Windows للذكاء الاصطناعي، ليست إذن تحديثاً تقنياً للمطورين فقط. تذكر الجميع أن علامة دخول الذكاء الاصطناعي الحقيقي للحياة اليومية، ليست إتقانه مهارة جديدة، بل شروع نظام التشغيل أخيراً في اتخاذ الاحتياطات ضده بجدية. لأن المستخدم فقط عندما يعرف أن الكمبيوتر قادر على قول "لا" للذكاء الاصطناعي في الوقت المناسب، سيشعر بالثقة لتسليمه المزيد من الأمور. نحن نناقش دائماً ما هي الأمور التي سنظل بحاجة لفعلها بأنفسنا مستقبلاً. ربما الإجابة ليست الاستمرار في النقر على كل زر يدوياً، بل الاحتفاظ بصلاحية تقرير أي الأزرار يمكن الضغط عليها نيابة عنا.
يمكن للذكاء الاصطناعي أن يسكن الكمبيوتر، وأن يواصل العمل بعد مغادرة الإنسان، لكن تلك الغرفة يجب أن يكون لها باب، وقفل، ومفتاح تشغيل يظل دائماً في يد الإنسان.
العنصر المواصفات المعالج Surface Laptop Ultra بأقصى تكوين 128GB ذاكرة موحدة السعر من US$2,599 (حوالي HK$20,272) إلى US$5,899 (حوالي HK$46,012)