اجرای مدل هوش مصنوعی روی سرور ابری به شما امکان می‌دهد بدون خرید کارت گرافیک گران‌قیمت، مدل‌هایی را اجرا کنید که روی کامپیوتر شخصی یا لپ‌تاپتان جا نمی‌شوند. اما انتخاب سرور فقط به نام کارت گرافیک بستگی ندارد؛ حافظه گرافیکی (VRAM)، اندازه مدل، دقت عددی، طول متن ورودی و تعداد کاربران هم‌زمان هم در نتیجه اثر دارند.

در این مقاله می‌بینیم برای اجرای ۱۰ مدل زبانی متن‌باز به چه مقدار حافظه گرافیکی نیاز دارید، کدام کلاس سرور برای هر مدل مناسب است و چه نکاتی را پیش از اجاره سرور باید بررسی کنید.

محدوده این راهنما: اعداد این مقاله برای اجرای مدل و تولید پاسخ (Inference) هستند، نه آموزش کامل مدل از ابتدا. آموزش یا حتی تنظیم دقیق (Fine-tuning) مدل معمولاً به منابع بیشتری نیاز دارد. میزان دقیق حافظه نیز با نسخه مدل، نرم‌افزار اجرا، طول متن و تعداد درخواست‌های هم‌زمان تغییر می‌کند.

پیش از انتخاب سرور، VRAM را بشناسید

مدل برای اجرا باید وزن‌هایش را در حافظه بارگذاری کند. هرچه مدل بزرگ‌تر باشد، به حافظه بیشتری نیاز دارد. برای یک تخمین اولیه:

  • وزن‌های FP16 یا BF16 تقریباً به ۲ گیگابایت حافظه به‌ازای هر یک میلیارد پارامتر نیاز دارند.
  • وزن‌های ۸ بیتی تقریباً به ۱ گیگابایت به‌ازای هر یک میلیارد پارامتر نیاز دارند.
  • وزن‌های ۴ بیتی تقریباً به نیم گیگابایت به‌ازای هر یک میلیارد پارامتر نیاز دارند.

این محاسبه فقط اندازه تقریبی وزن‌هاست. در زمان اجرا، حافظه‌ای هم برای KV cache، متن‌های طولانی، پردازش تصویر، سربار نرم‌افزار و درخواست‌های هم‌زمان لازم است. بنابراین مدلی که وزن‌های ۴ بیتی آن حدود ۱۵ گیگابایت است، لزوماً روی GPU با ۱۶ گیگابایت VRAM به‌راحتی اجرا نمی‌شود.

کمی‌سازی ۴ بیتی هم معمولاً حافظه را کم می‌کند، اما ممکن است در بعضی کارها از کیفیت خروجی بکاهد. پشتیبانی از قالب کمی‌سازی به مدل و نرم‌افزار اجراکننده بستگی دارد.

مشخصات کارت‌های گرافیک متداول برای سرور ابری

برای مقایسه اولیه، به مقدار VRAM کارت گرافیک توجه کنید:

کارت گرافیکحافظه گرافیکیکاربرد معمول
NVIDIA L4۲۴ گیگابایتمدل‌های کوچک و متوسط، اجرای استنتاجی کم‌هزینه
NVIDIA L40S۴۸ گیگابایتمدل‌های متوسط و بزرگ‌تر، چند کاربر یا متن‌های طولانی‌تر
NVIDIA A100۸۰ گیگابایت در بعضی نسخه‌هامدل‌های بزرگ‌تر و بارهای کاری حرفه‌ای
NVIDIA H100۸۰ گیگابایت در نسخه رایج دیتاسنتریاستنتاج سریع‌تر و بارهای کاری سنگین
NVIDIA H200۱۴۱ گیگابایتمدل‌های بزرگ و حافظه‌بر

برای نمونه، NVIDIA برای L4 مقدار ۲۴ گیگابایت، L40S مقدار ۴۸ گیگابایت و H200 مقدار ۱۴۱ گیگابایت حافظه اعلام کرده است. مدل‌های A100 و H100 نیز در نسخه‌های ۸۰ گیگابایتی عرضه شده‌اند. هنگام اجاره، مشخصات همان نمونه سرور را بررسی کنید؛ نام یک GPU به‌تنهایی تضمین نمی‌کند که همه ارائه‌دهندگان نسخه یا پیکربندی یکسانی داشته باشند.

۱۰ مدل هوش مصنوعی و سرور مناسب برای اجرای آن‌ها

جدول زیر تخمینی از اجرای مدل‌ها با وزن‌های کمی‌سازی‌شده ۴ بیتی ارائه می‌دهد. «حداقل» یعنی پیکربندی‌ای که ممکن است با تنظیمات محدود اجرا شود؛ «پیشنهادی» یعنی انتخاب مناسب‌تری برای استفاده روزمره، متن طولانی‌تر یا فضای کافی برای سربار.

مدلکاربرد کلیحداقل پیشنهادی برای اجراسرور پیشنهادی برای استفاده راحت‌تر
Gemma 4 E2Bچت و کارهای سبکGPU با ۸GB VRAML4 با ۲۴GB
Gemma 4 E4Bچت، ورودی تصویر و بعضی کارهای صوتیGPU با ۱۲GB VRAML4 با ۲۴GB
Gemma 4 12Bچت، استدلال، کدنویسی و ورودی چندرسانه‌ایGPU با ۱۶GB VRAML4 با ۲۴GB؛ برای متن طولانی‌تر L40S
Qwen3 8Bدستیار عمومی و کدنویسیGPU با ۱۲GB VRAML4 با ۲۴GB
Qwen3 14Bچت و استدلال با مدل بزرگ‌ترGPU با ۱۶GB VRAML4 با ۲۴GB یا L40S با ۴۸GB
Gemma 4 26B A4Bمدل MoE برای کارهای متنوعGPU با ۲۴GB VRAM، با محدودیتL40S با ۴۸GB
Qwen3 30B-A3Bمدل MoE برای چت و استدلالGPU با ۲۴GB VRAM، وابسته به تنظیماتL40S با ۴۸GB
Qwen3 32Bمدل عمومی بزرگ‌تر و کدنویسیچند GPU یا GPU بزرگ با تنظیمات فشردهL40S با ۴۸GB یا A100/H100 با ۸۰GB
Gemma 4 31Bچت و کارهای چندرسانه‌ای سنگین‌ترGPU با ۲۴GB، با محدودیت جدیL40S با ۴۸GB یا A100/H100 با ۸۰GB
DeepSeek-R1-Distill-Llama-70Bاستدلال و پاسخ‌گویی با مدل بزرگچند GPU یا GPU بزرگ با کمی‌سازیA100/H100 با ۸۰GB؛ برای فضای بیشتر H200

اعداد جدول ظرفیت قطعی سازنده نیستند؛ تخمین اجرایی‌اند. مثلاً ۳۱ میلیارد پارامتر در حالت ۴ بیتی، فقط برای وزن‌ها حدود ۱۵ تا ۱۶ گیگابایت حافظه می‌خواهد. حافظه اجرایی بیشتر از این مقدار لازم است. در مدل‌های MoE نیز تعداد پارامترهای فعال در هر مرحله با کل وزن‌هایی که باید در دسترس مدل باشند یکی نیست؛ پس عنوان‌هایی مانند A3B یا A4B به این معنی نیست که کل مدل فقط سه یا چهار میلیارد پارامتر حافظه می‌خواهد.

خانواده Gemma 4 چند اندازه از مدل‌های کوچک‌تر تا مدل‌های ۳۱ میلیاردپارامتری دارد و کارت مدل آن از ورودی تصویر و در بعضی اندازه‌ها صوت هم پشتیبانی می‌کند. Qwen3 نیز مدل‌هایی با اندازه‌های ۸، ۱۴، ۳۰ و ۳۲ میلیارد پارامتر دارد. مدل‌های Distill از خانواده DeepSeek-R1 هم در چند اندازه از جمله ۷، ۱۴، ۳۲ و ۷۰ میلیارد پارامتر منتشر شده‌اند.


یک نکته درباره مدل‌های بزرگ

اگر یک مدل ۷۰ میلیاردپارامتری را با وزن ۴ بیتی اجرا کنید، وزن‌ها به‌تنهایی حدود ۳۵ گیگابایت فضا می‌خواهند. این عدد هنوز حافظه متن ورودی، پاسخ و سربار اجرا را شامل نمی‌شود. بنابراین کارت ۴۸ گیگابایتی شاید با تنظیمات محدود مناسب باشد، اما برای متن طولانی‌تر یا چند درخواست هم‌زمان، سرور ۸۰ گیگابایتی انتخاب مطمئن‌تری است.

برای ۱۰ مدل بالا چه سروری اجاره کنیم؟

سرور اقتصادی: یک GPU با ۲۴ گیگابایت VRAM

برای شروع، اجرای مدل‌های کوچک‌تر مانند Gemma 4 E2B/E4B، Gemma 4 12B، Qwen3 8B و Qwen3 14B مناسب‌تر است. با کمی‌سازی می‌توان برخی مدل‌های بزرگ‌تر را هم آزمایش کرد، اما ممکن است برای متن طولانی یا هم‌زمانی چند کاربر محدودیت داشته باشید.

سرور میان‌رده: یک GPU با ۴۸ گیگابایت VRAM

برای مدل‌های ۲۶ تا ۳۲ میلیاردپارامتری، L40S با ۴۸ گیگابایت حافظه گزینه‌ای مناسب‌تر است. این ظرفیت فضای بیشتری برای مدل، حافظه اجرایی و متن‌های بلندتر فراهم می‌کند. البته سرعت نهایی فقط به VRAM مربوط نیست و به قدرت پردازشی GPU و پیکربندی نرم‌افزار هم بستگی دارد.

سرور حرفه‌ای: GPU با ۸۰ گیگابایت VRAM یا بیشتر

برای مدل‌های بزرگ‌تر مثل ۷۰ میلیاردپارامتری، یا اجرای مدل با متن طولانی‌تر و کاربران هم‌زمان، سراغ A100 یا H100 هشتادگیگابایتی بروید. H200 با ۱۴۱ گیگابایت حافظه می‌تواند برای مدل‌های بزرگ و بارهای حافظه‌بر مناسب باشد، اما هزینه اجاره آن ممکن است بیشتر باشد. پیش از انتخاب، قیمت واقعی و نوع GPU ارائه‌شده را در سرویس‌دهنده مقایسه کنید.

فقط GPU مهم نیست؛ این مشخصات را هم بررسی کنید

  • VRAM واقعی قابل استفاده: بخشی از حافظه ممکن است توسط سیستم یا نرم‌افزار اشغال شود. اگر مدل نزدیک به تمام ظرفیت GPU را مصرف کند، اجرای پایدار دشوارتر می‌شود.
  • RAM سیستم: برای سرورهای تک‌GPU کوچک، ۳۲ تا ۶۴ گیگابایت RAM نقطه شروع مناسبی است. سرورهای مدل‌های بزرگ یا چند GPU ممکن است به RAM بیشتری نیاز داشته باشند.
  • فضای دیسک: وزن مدل‌ها چندین تا ده‌ها گیگابایت فضا می‌گیرد. برای نگهداری چند مدل و فایل‌های موقت، SSD یا NVMe کافی در نظر بگیرید.
  • تعداد GPU و ارتباط بین آن‌ها: در سرور چند GPU، فقط جمع VRAM مهم نیست؛ نرم‌افزار باید بتواند مدل را بین کارت‌ها تقسیم کند و ارتباط بین کارت‌ها نیز می‌تواند روی سرعت اثر بگذارد.
  • طول کانتکست: هرچه متن ورودی و حافظه گفت‌وگو طولانی‌تر باشد، مصرف حافظه افزایش پیدا می‌کند. عدد کانتکست اعلام‌شده برای مدل به معنی اجرای آن با همان اندازه روی هر سروری نیست.
  • تعداد کاربران هم‌زمان: یک GPU ممکن است یک مدل را برای یک نفر اجرا کند، اما با افزایش درخواست‌ها به حافظه و توان پردازشی بیشتری نیاز دارید.
  • ساعت و شیوه محاسبه هزینه: بعضی سرویس‌ها هزینه را بر اساس زمان روشن‌بودن سرور محاسبه می‌کنند. فراموش‌کردن خاموش‌کردن سرور می‌تواند هزینه را بالا ببرد.
  • محدودیت ترافیک و ذخیره‌سازی: هزینه دیسک، انتقال داده، IP ثابت و امکانات مدیریتی را نیز در برآورد لحاظ کنید.

اجرای مدل با اجاره سرور با آموزش مدل فرق دارد

اگر هدف شما چت با مدل، ساخت دستیار داخلی، خلاصه‌سازی متن یا اجرای API است، معمولاً به استنتاج (Inference) نیاز دارید. اما آموزش مدل از ابتدا و تنظیم دقیق مدل روی داده‌های اختصاصی، منابع متفاوت و معمولاً بسیار بیشتری می‌خواهد.

مدلی که برای پاسخ‌گویی با یک GPU اجرا می‌شود، الزاماً با همان سرور قابل Fine-tune نیست. پیش از اجاره، مشخص کنید قرار است فقط از مدل خروجی بگیرید یا آن را هم آموزش دهید.

چطور سرور را پیش از پرداخت انتخاب کنیم؟

۱. مدل و نسخه دقیق آن را انتخاب کنید. اندازه مدل، پشتیبانی از کمی‌سازی و نوع ورودی آن را بررسی کنید.
۲. طول کانتکست و تعداد کاربر را مشخص کنید. استفاده شخصی با API چندکاربره یک نیاز سخت‌افزاری ندارد.
۳. نسخه کمی‌سازی را در نظر بگیرید. برای آزمایش، ۴ بیت حافظه کمتری مصرف می‌کند؛ ولی کیفیت و سرعت را روی کاربرد خودتان بسنجید.
۴. ابتدا کوتاه‌مدت اجاره کنید. یک تست چندساعته یا یک‌روزه از انتخاب اشتباه سرور ارزان‌تر تمام می‌شود.
۵. سرعت واقعی را اندازه بگیرید. زمان بارگذاری مدل، سرعت تولید توکن، مصرف حافظه و عملکرد با ورودی‌های واقعی خودتان را بررسی کنید.
۶. پس از تست، سرور را خاموش کنید. مطمئن شوید خاموش‌کردن واقعاً محاسبه هزینه را متوقف می‌کند.

پرسش‌های پرتکرار

آیا GPU با VRAM بیشتر همیشه سریع‌تر است؟

خیر. VRAM بیشتر اجازه می‌دهد مدل بزرگ‌تر یا کانتکست طولانی‌تری اجرا کنید، اما سرعت به معماری GPU، پهنای باند حافظه، نوع محاسبه و نرم‌افزار هم وابسته است.

آیا می‌توان با چند GPU حافظه‌ها را با هم جمع کرد؟

در بسیاری از چارچوب‌های اجرا، مدل را می‌توان بین چند GPU تقسیم کرد؛ اما پشتیبانی نرم‌افزار، ارتباط بین کارت‌ها و روش تقسیم مدل اهمیت دارد. مجموع VRAM به‌تنهایی تضمین نمی‌کند که مدل به‌درستی اجرا شود.

برای شروع، سرور ۲۴ گیگابایتی کافی است؟

برای بسیاری از مدل‌های کوچک و متوسط بله. این ظرفیت برای آزمایش مدل‌های ۷ تا ۱۴ میلیاردپارامتری با کمی‌سازی مناسب است. برای مدل‌های بزرگ‌تر یا استفاده هم‌زمان، احتمالاً به ۴۸ یا ۸۰ گیگابایت VRAM نیاز دارید.

آیا می‌توان یک مدل ۷۰ میلیاردپارامتری را روی GPU ۲۴ گیگابایتی اجرا کرد؟

وزن‌های ۴ بیتی چنین مدلی به‌تنهایی حدود ۳۵ گیگابایت فضا می‌خواهند؛ پس روی یک GPU با ۲۴ گیگابایت VRAM به‌طور کامل جا نمی‌شوند. ممکن است بتوان مدل را بین چند GPU تقسیم کرد یا بخشی از آن را به RAM منتقل کرد، اما این کار تنظیمات و محدودیت‌های عملکردی دارد.

جمع‌بندی

برای انتخاب سرور گرافیکی ابری، اول از همه به VRAM موردنیاز مدل و نوع استفاده خود توجه کنید. سرور ۲۴ گیگابایتی برای شروع و مدل‌های کوچک‌تر مناسب است؛ ۴۸ گیگابایت برای بسیاری از مدل‌های ۲۶ تا ۳۲ میلیاردپارامتری انتخاب راحت‌تری است؛ و مدل‌های ۷۰ میلیاردپارامتری یا بارهای کاری سنگین‌تر معمولاً سرور ۸۰ گیگابایتی یا چند GPU می‌خواهند.

اعداد جدول نقطه شروع‌اند، نه تضمین اجرای بی‌دردسر. طول متن، کمی‌سازی، نرم‌افزار اجرا و هم‌زمانی کاربران می‌تواند نتیجه را تغییر دهد. اگر قصد اجاره دارید، ابتدا سرور را کوتاه‌مدت امتحان کنید و عملکرد را با مدل و ورودی واقعی خودتان بسنجید.