اجاره سرور GPU اکنون سریع‌ترین راه برای شروع یک پروژه هوش مصنوعی است. توضیح می‌دهیم کدام GPU برای کدام کار منطقی است، از استنتاج LLMهای کوچک و مدل‌های 70B تا آموزش LoRA، Stable Diffusion و رندر سه‌بعدی، و با مثال‌های عملی نشان می‌دهیم چگونه هزینه ساعتی را تخمین بزنید.
تقریباً همه پروژه‌های هوش مصنوعی با یک پرسش آغاز می‌شوند: از کدام GPU استفاده کنم؟ خرید سرور GPU یعنی سرمایه‌گذاری سنگین و فرایند تأمین طولانی. از طرفی، در هفته‌های نخست پروژه اغلب روشن نیست که دقیقاً به چه چیزی نیاز دارید.
اجاره سرور GPU این عدم قطعیت را از بین می‌برد. کارت مورد نیاز را ساعتی استفاده می‌کنید و پس از پایان کار، سرور را خاموش می‌کنید. اما اگر کارت اشتباهی انتخاب کنید، یا هزینه یک GPU بی‌جهت گران را می‌پردازید یا ساعت‌ها را روی کارتی هدر می‌دهید که حافظه‌اش کم می‌آید.
در این راهنما بارهای کاری رایج را مرور می‌کنیم، برای هر کدام گزینه‌های GPU منطقی پیشنهاد می‌دهیم و نشان می‌دهیم چگونه هزینه را تخمین بزنید.
هنگام انتخاب GPU ابتدا چه چیزی را بررسی کنیم
بیشتر افراد ابتدا به توان محاسباتی خام نگاه می‌کنند. اما در بارهای کاری هوش مصنوعی، نخستین فیلتر تقریباً همیشه VRAM، یعنی حافظه روی کارت، است. اگر مدل و داده در حافظه جا نشوند، توان محاسباتی اهمیتی ندارد.
پیشنهاد می‌کنیم این چهار پرسش را به ترتیب مطرح کنید:
- آیا مدل در حافظه جا می‌شود؟ اندازه مدل، دقت عددی (FP16، 8 بیتی، 4 بیتی) و اینکه آموزش می‌دهید یا استنتاج انجام می‌دهید، نیاز به VRAM را تعیین می‌کند.
- کار چه مدت طول می‌کشد؟ چند ساعت آزمایش و چند هفته آموزش، کارت‌های متفاوتی می‌طلبند.
- سرعت یا قیمت ساعتی؟ کارت سریع‌تر ممکن است هزینه ساعتی بیشتری داشته باشد، اما زودتر کار را تمام کند و در مجموع ارزان‌تر تمام شود.
- کدام پشته نرم‌افزاری؟ PyTorch، نسخه CUDA، ComfyUI یا ایمیج کانتینر اختصاصی شما همگی بر زمان راه‌اندازی اثر می‌گذارند.
تخمین تقریبی VRAM
اعداد دقیق بسته به مدل، طول context و نرم‌افزار متفاوت است، اما این قواعد سرانگشتی برای تخمین اولیه کافی‌اند:
- استنتاج FP16: حدود 2 بایت به ازای هر پارامتر، به‌علاوه KV cache که با طول context و تعداد کاربران همزمان افزایش می‌یابد. برای یک مدل 8B، وزن‌ها به‌تنهایی حدود 16 GB جا می‌گیرند.
- استنتاج با کوانتیزه‌سازی 4 بیتی: تقریباً 0.5 تا 0.6 بایت به ازای هر پارامتر. به این روش یک مدل 70B به حدود 40 GB می‌رسد، باز هم به‌علاوه KV cache.
- Fine-tuning کامل: در آموزش 16 بیتی با وضعیت‌های بهینه‌ساز Adam، تقریباً 16 بایت یا بیشتر به ازای هر پارامتر. به همین دلیل حتی آموزش کامل یک مدل 7B هم به‌راحتی روی یک کارت 80 GB جا نمی‌شود.
- LoRA و QLoRA: فقط لایه‌های adapter کوچک را آموزش می‌دهند و نیاز به حافظه را به‌شدت کاهش می‌دهند. QLoRA با نگه‌داشتن مدل پایه به‌صورت 4 بیتی، یک گام فراتر می‌رود.
این اعداد را نقطه شروع در نظر بگیرید. پنجره‌های context طولانی، batch sizeهای بزرگ و همزمانی بالا نیاز به حافظه را به‌طور محسوسی افزایش می‌دهند؛ بنابراین همیشه کمی حاشیه اطمینان در نظر بگیرید.
پیشنهاد GPU بر اساس بار کاری
جدول زیر بارهای کاری پرتکرار و گزینه‌های GPU منطقی برای هر کدام را خلاصه می‌کند. قیمت‌ها، قیمت‌های شروع ساعتی CloudRUX GPU به ازای هر GPU و بدون احتساب مالیات بر ارزش افزوده (VAT) هستند.
| بار کاری | GPU پیشنهادی | قیمت شروع (ساعتی، بدون VAT) | توضیح |
|---|---|---|---|
| استنتاج LLM کوچک (7B-8B) | L4 24 GB، RTX 4090 24 GB | $0.74 / $1.11 | وزن‌های FP16 در 24 GB جا می‌شوند؛ برای KV cache جا بگذارید |
| استنتاج مدل 70B | A100 80 GB، H100 80 GB (4 بیتی)؛ H200 141 GB، B200 180 GB (دقت بالاتر) | $2.24 / $4.99 / $6.61 / $9.99 | وزن‌های FP16 حدود 140 GB جا می‌گیرند؛ به کوانتیزه‌سازی یا چند GPU نیاز است |
| Fine-tuning با LoRA / QLoRA | RTX 4090 24 GB، A40 48 GB، L40S 48 GB، A100 80 GB | $1.11 / $0.74 / $1.36 / $2.24 | با بزرگ‌تر شدن مدل، به کارت‌های 48 GB و 80 GB بروید |
| Fine-tuning کامل | A100 80 GB، H100 80 GB، H200 141 GB، B200 180 GB | $2.24 / $4.99 / $6.61 / $9.99 | جز برای مدل‌های کوچک، معمولاً به چند GPU نیاز است |
| Stable Diffusion / ComfyUI | RTX 4090 24 GB، L40S 48 GB | $1.11 / $1.36 | 48 GB برای مدل‌های بزرگ و وضوح‌های بالا راحتی بیشتری می‌دهد |
| تولید ویدئو | L40S 48 GB، RTX PRO 6000 96 GB، H100 80 GB | $1.36 / $3.11 / $4.99 | مدل‌های ویدئویی بسیار حافظه‌برند |
| رندر سه‌بعدی | RTX 4090 24 GB، L40S 48 GB، RTX PRO 6000 96 GB | $1.11 / $1.36 / $3.11 | اندازه صحنه، نیاز به VRAM را تعیین می‌کند |
| پژوهش و آزمایش | L4 24 GB، A40 48 GB، RTX 4090 24 GB | $0.74 / $0.74 / $1.11 | تکرار سریع با هزینه ساعتی پایین |
این پیشنهادها یک نقشه راه کلی‌اند. قیمت و ظرفیت دقیق در پیش‌فاکتور تأیید می‌شود و استفاده رزروشده ماهانه شامل تخفیف است. همه گزینه‌های GPU را می‌توانید در صفحه GPU cloud ما ببینید.
نگاهی کوتاه به کارت‌ها
L4 24 GB و A40 48 GB: اقتصادی‌ترین گزینه‌ها با قیمت شروع $0.74 در ساعت. L4 برای استنتاج مدل‌های کوچک و بارهای کاری سبک کارآمد است. A40 با همان قیمت شروع، 48 GB حافظه ارائه می‌دهد و همین آن را برای مدل‌های متوسط و آزمایش‌های QLoRA بسیار ارزشمند می‌کند.
RTX 4090 24 GB: کارتی مصرفی، اما برای آزمایش، اجرای مدل‌های کوچک و متوسط و تولید تصویر قدرتمند است. حافظه 24 GB آن با مدل‌های بزرگ به‌سرعت محدودکننده می‌شود.
L40S 48 GB: کارتی ویژه دیتاسنتر که در استنتاج و تولید تصویر قدرتمند است. برای Stable Diffusion، ComfyUI و سرویس‌های LLM با اندازه متوسط، توازن خوبی میان قیمت و عملکرد دارد.
RTX PRO 6000 96 GB: با 96 GB حافظه می‌توانید مدل‌های بزرگ، تولید ویدئو و صحنه‌های رندر سنگین را روی یک کارت اجرا کنید.
A100 80 GB: سال‌هاست یکی از کارت‌های استاندارد آموزش هوش مصنوعی است. پشتیبانی نرم‌افزاری بالغ و 80 GB حافظه، آن را گزینه‌ای مطمئن برای LoRA، آموزش کامل و استنتاج مدل‌های بزرگ می‌کند.
H100 80 GB: در آموزش transformerها به‌مراتب سریع‌تر از A100 است و پشتیبانی از FP8 این فاصله را بیشتر می‌کند. در آموزش‌های طولانی می‌تواند هزینه هر کار را کاهش دهد.
H200 141 GB و B200 180 GB: حافظه 141 GB از نوع HBM3e در H200 اجرای مدل‌های بزرگ با تقسیم‌بندی کمتر را آسان‌تر می‌کند. B200 جدیدترین نسل است و برای سنگین‌ترین کارهای آموزش و استنتاج ساخته شده است.
چگونه ساعت‌ها و هزینه را تخمین بزنیم
هزینه در اجاره GPU یک ضرب ساده است: ساعت‌های استفاده x تعداد GPU x قیمت ساعتی. بخش دشوار، تخمین ساعت‌هاست. این روش را پیشنهاد می‌کنیم:
- یک اجرای آزمایشی کوتاه روی بخش کوچکی از مجموعه‌داده خود انجام دهید.
- تعداد نمونه‌ها یا توکن‌های پردازش‌شده در هر ثانیه را یادداشت کنید.
- زمان کل را بر اساس حجم کل داده و تعداد epochها به‌طور تقریبی محاسبه کنید.
- حدود 20 تا 30 درصد حاشیه برای راه‌اندازی، اشکال‌زدایی و ارزیابی اضافه کنید.
مثال عملی
فرض کنید می‌خواهید یک مدل 8B را با LoRA روی مجموعه‌داده‌ای که از اسناد شرکت‌تان ساخته‌اید fine-tune کنید. پس از یک آزمایش کوتاه، تخمین می‌زنید که کل کار، شامل ارزیابی و اجراهای مجدد، حدود 40 ساعت روی یک A100 80 GB زمان می‌برد.
| مورد | مقدار |
|---|---|
| GPU | A100 80 GB |
| قیمت شروع ساعتی | $2.24 (بدون VAT) |
| استفاده تخمینی | 40 ساعت |
| محاسبه | 40 x 2.24 = $89.60 |
| مجموع | $89.60 + VAT |
اگر همین کار را با QLoRA روی یک مدل 7B یا 8B انجام دهید، ممکن است کارت ارزان‌تری مانند RTX 4090 یا A40 کافی باشد. حتی اگر کار کمی طولانی‌تر شود، هزینه کل ممکن است کاهش یابد. یک آزمایش چندساعته برای مقایسه دو کارت اغلب بهترین سرمایه‌گذاری است.
صورت‌حساب ساده است: قیمت‌ها به USD هستند، فاکتورها در ترکیه به‌صورت فاکتور الکترونیکی صادر می‌شوند و مبلغ USD با نرخ روز صدور فاکتور به TRY تبدیل می‌شود.
راه‌اندازی و محیط کار
به سرورهای GPU در CloudRUX می‌توانید از طریق SSH و Jupyter دسترسی داشته باشید. قالب‌های آماده PyTorch و CUDA به شما امکان می‌دهند بدون هدر دادن ساعت‌ها برای درایورها و کتابخانه‌ها، بلافاصله کار را شروع کنید. همچنین می‌توانید ایمیج کانتینر خودتان را بیاورید و همان پشته نرم‌افزاری محیط محلی‌تان را اجرا کنید.
یک نکته مهم: دیسک موقت با توقف سرور پاک می‌شود. برای حفظ وزن‌های مدل، checkpointها و نتایج، از یک volume پایدار استفاده کنید یا از داده‌های خود در ذخیره‌سازی شیء S3 نسخه پشتیبان بگیرید. این عادت از دست رفتن داده را پیشگیری می‌کند و به شما اجازه می‌دهد با خیال راحت سرور را خاموش کنید.
محل نگهداری داده و KVKK
سرورهای GPU در CloudRUX در دیتاسنترهای شریک ما در خارج از کشور اجرا می‌شوند. برای بارهای کاری شامل داده‌های شخصی، این موضوع ممکن است طبق KVKK، قانون حفاظت از داده ترکیه، انتقال فرامرزی محسوب شود.
توصیه می‌کنیم بارهای کاری غیرشخصی یا ناشناس‌سازی‌شده را روی GPUها اجرا کنید. آموزش مدل روی داده‌های غیرشخصی، تولید تصویر، رندر و پژوهش روی مجموعه‌داده‌های باز معمولاً خارج از این دامنه قرار می‌گیرند. در مواردی که نیاز به پردازش داده‌های شخصی دارید، تیم CloudRUX در فرایندهای قرارداد استاندارد به شما کمک می‌کند.
نکاتی برای کنترل هزینه‌ها
- کوچک شروع کنید: کد و pipeline داده را روی یک کارت ارزان اعتبارسنجی کنید، سپس آموزش‌های طولانی را به کارت بزرگ‌تری منتقل کنید.
- سرورهای بیکار را خاموش کنید: در مدل ساعتی، هر ساعت بیکاری در فاکتور ظاهر می‌شود.
- checkpoint ذخیره کنید: checkpointهای منظم، هزینه شروع دوباره از صفر پس از یک وقفه یا باگ را از بین می‌برند.
- برای استفاده پیوسته، رزرو را در نظر بگیرید: اگر قرار است ماه‌ها یک مدل را سرویس دهید، استفاده رزروشده ماهانه شامل تخفیف است.
- دقت مناسب را انتخاب کنید: کوانتیزه‌سازی 8 بیتی یا 4 بیتی برای استنتاج، در صورتی که افت کیفیت قابل قبول باشد، می‌تواند امکان انتقال به کارتی کوچک‌تر و ارزان‌تر را فراهم کند.
پرسش‌های متداول
اجاره GPU بهتر است یا خرید آن؟
اگر استفاده نامنظم است، پروژه هنوز در مرحله آزمایش است یا می‌خواهید کارت‌های مختلف را امتحان کنید، اجاره معمولاً منطقی‌تر است. اگر مطمئن هستید که GPU را تقریباً به‌طور پیوسته در تمام سال استفاده خواهید کرد، خرید را با استفاده رزروشده ماهانه مقایسه کنید.
با کدام GPU شروع کنم؟
برای بیشتر پروژه‌ها، شروع با یک کارت 24 GB یا 48 GB مانند RTX 4090، L4 یا A40 منطقی است. وقتی حافظه کم آمد یا کارها طولانی شدند، به کارت‌هایی مانند A100 یا H100 بروید.
آیا قیمت‌ها ثابت‌اند؟
ارقام، قیمت‌های شروع ساعتی به ازای هر GPU و بدون VAT هستند. قیمت و ظرفیت دقیق در پیش‌فاکتور شما تأیید می‌شود و استفاده رزروشده ماهانه شامل تخفیف است.
با توقف سرور چه بر سر داده‌هایم می‌آید؟
دیسک موقت با توقف سرور پاک می‌شود. داده‌های مورد نیاز خود را روی یک volume پایدار نگه دارید یا از آن‌ها در S3 نسخه پشتیبان بگیرید.
اجاره سرور GPU در CloudRUX
سرویس GPU در CloudRUX اکنون در مرحله دسترسی زودهنگام است. طیف گسترده‌ای از کارت‌ها از L4 تا B200، قالب‌های آماده PyTorch/CUDA، دسترسی SSH و Jupyter، فاکتور الکترونیکی در ترکیه و پشتیبانی مهندسان به زبان‌های فارسی و ترکی ارائه می‌دهیم. کارت‌ها و قیمت‌های شروع را در صفحه GPU cloud ما ببینید، یا برای انتخاب GPU مناسب بار کاری خود و دریافت پیش‌فاکتور با ما در تماس باشید.