.
النموذج الأول والبسيط 1.5b والذي لا يحتاج لجهاز بمواصفات عالية ويمكن تشغيله على اغلب الاجهزة على حساب قلة ذكاء هذا النموذج مقارنة ببقية النماذج الأخرى المتوفرة له مثل 7b و 8b و 14b و 32b و 70b والأخير وهو الأكبر 671b والذي يحتاج لعتاد ضخم جداً من الممكن توفره عند المؤسسات في بعض الدول المعدودة فقط خلافاً للنماذج من 1.5b وحتى 14B والتي من الممكن تشغيلها على اجهزة حاسوب عادية بكل سهولة.
.
العتاد المطلوب والذي ينصح به:
- لتشغيل النماذج من 7B إلى 14B تحتاج لكروت RTX 3090 أو 4090 بذاكرة افتراضية حجم 24GB لتشغيل FP16 أو INT8.
- لتشغيل النموذج 32B تحتاج لكروت مراكز بيانات مثل A100 40GB/80GB أو عدة كروت منها مع وصلة NVLink أو جهاز حاسوب قوي وعالي الاداء جداً بذاكرة RAM عالية ايضاً.
- لتشغيل النماذج من 70B فما فوق فتحتاج إلى كتلة Cluster من كروع مراكز البيانات A100 أو H100
.
الفيديو على يوتيوب: https://youtu.be/hBhjk_sClHU