أخبار اليوم - لم يعد تشغيل نماذج الذكاء الاصطناعي على الحواسيب الشخصية يتطلب امتلاك أجهزة فائقة الأداء أو الاعتماد على الخدمات السحابية، مع اتجاه شركات التكنولوجيا إلى تطوير نماذج صغيرة الحجم يمكن تشغيلها محليا، وتوفر قدرات تشمل المحادثة وتحليل الصور وكتابة الشيفرات البرمجية وتنفيذ المهام.

وتعتمد هذه النماذج على تقليل عدد المعاملات أو استخدام بنى حاسوبية أكثر كفاءة، ما يخفض احتياجاتها من الذاكرة والقدرة على المعالجة، ويتيح تشغيل بعضها على الحواسيب المحمولة وحتى الهواتف الذكية.

ورغم أنها لا تضاهي النماذج الأكبر في جميع المهام، فإنها توفر خيارات للاستخدام اليومي والتطبيقات المتخصصة، فضلا عن منح المستخدمين قدرة أكبر على التحكم في بياناتهم وتشغيل أدوات الذكاء الاصطناعي دون اتصال دائم بالإنترنت.

وفيما يلي 4 نماذج صغيرة من شركات التكنولوجيا يمكن تشغيلها محليا:

'جيما 4 إي 2 بي' (Gemma 4 E2B)

تقدم شركة غوغل نموذج 'جيما 4 إي 2 بي' ضمن عائلة نماذج 'جيما' مفتوحة الأوزان، التي طورتها 'غوغل ديب مايند'، ويُعد من أصغر النماذج في هذه العائلة، إذ صُمم للعمل على الأجهزة محدودة الموارد.

ويعتمد النموذج على بنية تستخدم تقنية التضمينات لكل طبقة (Per-Layer Embeddings)، التي تتيح تحسين كفاءة المعالجة وتقليل الأعباء المرتبطة بتشغيله على الأجهزة الشخصية.

ويبلغ عدد معاملاته الفعالة نحو 2.3 مليار، مع إجمالي يصل إلى 5.1 مليار عند احتساب التضمينات، ويدعم نافذة سياق تصل إلى 128 ألف رمز.

ومن أبرز خصائصه دعم المدخلات متعددة الوسائط، إذ يستطيع التعامل مع النصوص والصور والصوت، إلى جانب دعمه لغات متعددة، مع تدريبه على أكثر من 140 لغة.

وتتيح هذه الإمكانات استخدامه في المحادثات وتحليل الصور والتعامل مع المحتوى الصوتي، فضلا عن تشغيله على الهواتف والحواسيب المحمولة دون الحاجة إلى بنية حاسوبية كبيرة.

'كوين 3.5 سمول' (Qwen 3.5 Small)

طورت شركة علي بابا عائلة 'كوين 3.5 سمول'، وقدمت أربعة أحجام مختلفة منها تتراوح بين 800 مليون و9 مليارات معلمة، لتوفير خيارات تناسب الأجهزة ذات القدرات الحاسوبية المتفاوتة.

وتصل نافذة السياق في هذه النماذج إلى 262 ألف رمز، كما تدعم معالجة الصور إلى جانب النصوص، وتوفر إمكانات التفكير في نسخها المختلفة.

وتسمح هذه الأحجام للمستخدم باختيار النموذج الذي يتناسب مع ذاكرة جهازه وقدرته على المعالجة، سواء للاستخدامات اليومية أو المهام التي تتطلب تحليلا أكثر تعقيدا.

وتستند النماذج إلى رخصة أباتشي 2.0، ما يتيح تنزيل أوزانها واستخدامها وتطوير تطبيقات مبنية عليها ضمن شروط الرخصة.

'إل إف إم 3' (LFM 3)

طورت شركة 'ليكويد إيه آي' نموذج 'إل إف إم 3' بحجم صغير يبلغ 1.73 مليار معلمة، مع التركيز على تشغيل وكلاء الذكاء الاصطناعي والتطبيقات المتخصصة على الأجهزة الشخصية.

ويتميز النموذج ببنية هجينة تجمع بين الالتفافات قصيرة المدى وآليات الانتباه، بهدف تحسين كفاءة معالجة المعلومات وتقليل استهلاك الموارد الحاسوبية.

وتصل نافذة السياق فيه إلى 256 ألف رمز، فيما يبلغ حجم الذاكرة اللازمة لتشغيل أوزانه نحو غيغابايت واحد عند استخدام تقنية التكميم بدقة 4 بت.

ويستهدف النموذج تطوير وكلاء قادرين على التخطيط وتنفيذ المهام والتعامل مع الأدوات، بدلا من الاقتصار على المحادثات التقليدية.

كما تتيح الشركة تكييفه وتدريبه على مهام متخصصة باستخدام وحدة معالجة رسومية واحدة، ما يجعله خيارا للتطبيقات التي تحتاج إلى تشغيل نماذج محلية بموارد محدودة.

'غرانيت 4.2' (Granite 4.2)

تقدم شركة 'آي بي إم' عائلة نماذج 'غرانيت 4.2'، التي تضم أحجاما مختلفة تبدأ من 3 مليارات معلمة وتصل إلى 30 مليارا، مع التركيز على الاستدلال المنطقي والبرمجة وتنفيذ المهام باستخدام الأدوات.

وتوفر العائلة أوضاعا مختلفة للتفكير، تتيح للمستخدم الاختيار بين الاستدلال المتعمق والإجابة المباشرة والتفكير منخفض الجهد، بما يساعد على الموازنة بين جودة النتائج وسرعة الاستجابة واستهلاك الموارد.

وتصل نافذة السياق إلى 128 ألف رمز، كما تدعم النماذج لغات متعددة، وتعمل بموجب رخصة أباتشي 2.0 التي تسمح بالاستخدام والتطوير والتعديل ضمن شروطها.

ويبرز الإصدار الأصغر، الذي يضم 3 مليارات معلمة، بوصفه خيارا للأجهزة الأقل قدرة، إذ يمكن أن تنخفض احتياجاته من ذاكرة البطاقة الرسومية إلى نحو 3 غيغابايتات عند استخدام بعض مستويات التكميم، بحسب إعدادات التشغيل.

ما مواصفات الحاسوب اللازمة لتشغيل نماذج الذكاء الاصطناعي محليا؟

لا يتطلب تشغيل النماذج الصغيرة امتلاك حاسوب خارق، لكن مواصفات الجهاز تحدد حجم النموذج الذي يمكن تشغيله وسرعة استجابته.

وتُعد ذاكرة البطاقة الرسومية (VRAM) من أهم العوامل، لأنها تستوعب أوزان النموذج والبيانات التي يحتاج إليها أثناء المعالجة، وكلما زادت سعتها أصبح بالإمكان تشغيل نماذج أكبر أو التعامل مع سياقات أطول.

كما تؤثر الذاكرة العشوائية (RAM) والمعالج المركزي (CPU) في أداء الجهاز، خصوصا عند تشغيل النماذج باستخدام المعالج بدلا من البطاقة الرسومية.

وتساعد تقنية التكميم (Quantization) على خفض استهلاك الذاكرة، من خلال تقليل دقة الأوزان المستخدمة في النموذج، مثل الانتقال من 16 بت إلى 8 أو 4 بت، مع احتمال حدوث تفاوت في جودة النتائج بحسب مستوى الضغط والنموذج المستخدم.

وتختلف احتياجات الذاكرة باختلاف حجم النموذج وطريقة تشغيله، إذ لا تقتصر على تحميل أوزانه، بل تشمل أيضا الذاكرة اللازمة لمعالجة المدخلات والاحتفاظ بسياق المحادثة وتشغيل التطبيقات الأخرى.

وبذلك، تتيح النماذج الصغيرة للمستخدمين تشغيل أدوات الذكاء الاصطناعي على أجهزتهم الشخصية، والاستفادة من قدراتها في الكتابة والتحليل والبرمجة وتنفيذ المهام، دون الاضطرار إلى الاعتماد المستمر على الاشتراكات السحابية.

وكالات