NVIDIA تطلق نموذج ذكاء اصطناعي جديد بـ 120 مليار معلمة لزيادة سرعة تنفيذ المهام خمسة أضعاف

أعلنت NVIDIA عن إطلاق ثلاثة نماذج مفتوحة للذكاء الاصطناعي، تهدف إلى إدخال الوكلاء المستقلين في المزيد من بيئات الحوسبة. ويعتبر Nemotron 3.5 Super VL هو النواة الأساسية لهذه السلسلة، وهو نموذج يحتوي على 120 مليار معلمة، مصمم للمهام المعقدة. تم تصميم نموذجين أصغر لتلبية احتياجات المستخدمين الذين يرغبون في تشغيل وكلاء الذكاء الاصطناعي على الأجهزة المحلية. توسع هذه الإطلاق من جهود NVIDIA لتعزيز الذكاء الاصطناعي القابل للتخصيص، مما يمكّن المنظمات من تشغيل الذكاء الاصطناعي على بنيتها التحتية الخاصة، ويعالج تحديًا عمليًا للمطورين: تشغيل وكلاء قادرين دون الحاجة إلى إرسال كل طلب إلى خدمات السحابة.

قدرات Super VL القوية

تم تصميم Super VL للعمل على سير العمل المعقد، حيث يمكن لـ Nemotron 3.5 Super VL معالجة مهام تتجاوز توليد النصوص. يمكنه تفسير المعلومات البصرية واتباع التعليمات، مع استخدام أدوات خارجية لإكمال سير العمل متعدد الخطوات. تدعي NVIDIA أن النموذج يكمل المهام بسرعة تفوق المنافسين بخمسة أضعاف. كما ذكرت الشركة أن دقة النموذج قريبة من دقة أكبر نموذج استدلالي لديها، على الرغم من أن عدد المعلمات حوالي خُمس أكبر نموذج استدلالي. يمكن أن تساعد هذه القدرات الشركات في أتمتة الأعمال التي تتطلب بحثًا طويل الأمد أو تحليل مستندات مفصلة.

يمكن للمطورين أيضًا تدريب النموذج على معلومات خاصة لتحسين أدائه في المهام المحددة.

NVIDIA Nemotron 3.5 Super VL هو نموذج مفتوح يجمع بين الاستدلال واستخدام الأدوات، ويتميز بقدرات فهم النصوص والصور والمستندات والفيديو، مما يجعله مناسبًا لوكلاء الذكاء الاصطناعي الذين يعملون لفترات طويلة. يحتوي النموذج على 120 مليار معلمة إجمالية، منها 12 مليار معلمة نشطة. لمزيد من المعلومات، يمكن الرجوع إلى تويتر الخاص بـ NVIDIA.

أمثلة على التطبيقات المخصصة

بدأت عدة منظمات بتخصيص Super VL. قامت Scale AI بتكييفه ليكون وكيل تمويل ائتماني لموردي Skydance، وطورت نسخة أخرى لوكيل التدقيق في عمليات الاستحواذ لشركة EY. قامت AfterQuery بتخصيص النموذج لتحليل اتفاقيات الائتمان الخاصة بـ Hebbia. تركز مشاريع أخرى على مجال الأمن السيبراني، حيث تعاونت AI21 وAlice في تعزيز مقاومة الهجمات. كما قامت Mercor بإجراء تدريب لاحق على مهام الترميز، والتي تتعلق باختبارات APEX-SWE.

تم تصميم Nemotron 3.5 Bolt للأجهزة ذات الذاكرة المحدودة، حيث توفر نسختان منه طرقًا مختلفة لتشغيل وكلاء الذكاء الاصطناعي دون الاعتماد على البنية التحتية البعيدة. تستخدم النسخة الأكبر Bolt 74B-A9B تقنيات التكميم الأصلية 2 بت، مما يسمح بتشغيلها ضمن نطاق 24GB من الذاكرة. يسمح هذا الاستخدام للذاكرة للأنظمة المتوافقة بتشغيل النموذج مع تنفيذ تطبيقات أخرى في الوقت نفسه. يمكن للمطورين استخدامه كمساعد ترميز محلي أو لتفويض الأبحاث عبر الإنترنت إلى إطار الوكيل. تصدرت NVIDIA تصنيف النموذج كأول نموذج مفتوح في فئته على PinchBench، وادعت أنه يحتل المرتبة الثانية في BrowseComp.

يمتلك Bolt E4B استخدام ذاكرة أصغر يبلغ 4GB، وقد صممته NVIDIA لوكلاء المحادثة الذين يحتاجون إلى استجابة سريعة. تشمل التطبيقات المحتملة المساعدين الصوتيين والشخصيات التفاعلية. كما تم تصميم النموذج ليعمل على أنظمة الذكاء الاصطناعي الفيزيائية التي تعمل على أجهزة NVIDIA Jetson. من المقرر إطلاق Bolt E4B في 23 أكتوبر، بينما تم طرح النماذج الأكبر من Bolt في الأسواق بالفعل.

تقوم NVIDIA بإصدار Super VL، مع توفير أوزان مفتوحة ومواد دعم التدريب. تغطي عملية تدريبه حوالي 26 تريليون علامة. يتضمن التدريب اللاحق حوالي 3.8 مليون عينة، ويجري في بيئات متعددة باستخدام التعلم المعزز. يمكن للمنظمات ضبط النموذج عبر NVIDIA NeMo وقنوات Python. كما أن النشر المحلي يمكّنهم من التحكم بشكل أكبر في المعلومات الحساسة بناءً على بنيتهم التحتية وتكويناتهم. يمكن الحصول على Super VL عبر Hugging Face وOpenRouter وModelScope، كما توفر NVIDIA النموذج عبر منصتها NIM لإنتاج خدمات الذكاء الاصطناعي.

النموذج Bolt 74B-A9B متاح على Hugging Face. يمكن للمطورين استخدام أدوات مثل Ollama أو LM Studio لتشغيل النموذج.

كيف ستؤدي هذه النماذج، خاصة خارج اختبارات الأداء، لا يزال سؤالًا كبيرًا. في النهاية، ستعتمد جاذبيتها على ما إذا كانت الأجهزة المحلية يمكن أن تقدم نتائج موثوقة دون الحاجة إلى ذاكرة زائدة أو التضحية بسرعة الاستجابة.