GPU sunucu satın almak mı, saatlik kiralamak mı daha mantıklı? Kullanım oranı, başa baş noktası formülü, donanım eskimesi, teslim süreleri ve esneklik açısından iki modeli karşılaştırıyor, CloudRUX fiyatlarıyla somut bir kiralama örneği ve hibrit bir strateji öneriyoruz.
Yapay zekâ projesi başlatan her ekip er ya da geç aynı soruya gelir: GPU sunucuyu satın mı almalıyız, yoksa ihtiyaç duydukça kiralamak mı daha doğru? İlk bakışta satın almak "bir kere öde, hep kullan" gibi görünür. Kiralamak ise saatlik fiyatı yüzünden pahalı algılanabilir.
Gerçek tablo daha nüanslıdır. Doğru cevap; GPU'yu ne kadar yoğun kullanacağınıza, projenizin ne kadar netleştiğine, ekibinizin altyapı yönetme kapasitesine ve donanım piyasasındaki değişim hızına bağlıdır. Bu yazıda iki modeli maliyet ve risk açısından karşılaştırıyor, kendi rakamlarınızla kullanabileceğiniz basit bir hesap yöntemi sunuyoruz.
Asıl Değişken: Kullanım Oranı
Satın alma ile kiralama arasındaki kararı belirleyen en önemli tek değişken kullanım oranıdır. Yani GPU'larınızın bir ay içinde gerçekten iş yaptığı saatlerin, toplam saatlere oranı.
Satın aldığınız bir sunucunun maliyeti, kullansanız da kullanmasanız da işlemeye devam eder. Amortisman, elektrik, soğutma, kabin kirası ve personel zamanı her ay faturaya yansır. Sunucu haftanın yarısında boş duruyorsa, kullandığınız her saatin gerçek maliyeti iki katına çıkar.
Kiralamada ise yalnızca kullandığınız saat için ödersiniz. Model eğitimi bitti, deney tamamlandı, sunucuyu kapatırsınız ve fatura durur. Bu nedenle düzensiz, dönemsel ya da henüz belirsiz iş yüklerinde kiralama neredeyse her zaman avantajlıdır.
Pratikte pek çok ekip, ilk aylarda GPU kullanımını olduğundan yüksek tahmin eder. Veri hazırlığı, etiketleme, kod geliştirme ve değerlendirme gibi aşamalarda GPU'lar çoğu zaman boşta bekler. Gerçek kullanım oranınızı ölçmeden büyük bir donanım yatırımı yapmak, en sık görülen maliyet hatalarından biridir.
Satın Almanın Gerçek Maliyet Kalemleri
GPU sunucu fiyatı denince akla genellikle yalnızca donanımın satın alma bedeli gelir. Oysa sahip olmanın toplam maliyeti çok daha fazla kalemden oluşur:
- Donanım bedeli: GPU'lar, sunucu şasisi, işlemci, bellek, NVMe diskler ve yüksek hızlı ağ kartları.
- Amortisman: Donanımın değerini kaç yılda kaybettiğini varsaydığınız süre. GPU'larda bu süre, yeni nesillerin hızı nedeniyle genellikle kısa tutulmalıdır.
- Elektrik ve soğutma: Yüksek performanslı GPU sunucuları çok güç çeker ve ciddi ısı üretir. Bu maliyet, sunucu çalıştığı sürece her ay devam eder.
- Kolokasyon: Ofiste değil bir veri merkezinde barındırma, kabin, enerji kapasitesi ve bağlantı ücretleri.
- Personel: Kurulum, sürücü ve CUDA güncellemeleri, arıza takibi, donanım değişimi ve güvenlik yamaları için harcanan mühendis zamanı.
- Bakım ve yedek parça: Garanti dışı arızalar, yedek disk ve fan gibi parçalar.
- Fırsat maliyeti: Donanıma bağlanan sermayenin başka bir yatırımda kullanılamaması.
Bu kalemlerin bir kısmı ofisinizde ya da faturalarınızda ayrı ayrı görünür, bir kısmı ise ekip zamanının içinde kaybolur. Sağlıklı bir karşılaştırma için hepsini aylık bir rakama çevirmeniz gerekir.
Başa Baş Noktası Formülü
Satın almanın kiralamadan ucuz hale geldiği noktayı bulmak için basit bir formül kullanabilirsiniz. Önce sahip olmanın aylık maliyetini hesaplayın:
Aylık sahip olma maliyeti = (Satın alma bedeli / Amortisman süresi, ay) + Aylık elektrik ve soğutma + Aylık kolokasyon + Aylık personel payı + Aylık bakım
Ardından kiralamanın aylık maliyetini hesaplayın:
Aylık kiralama maliyeti = GPU sayısı x Saatlik GPU fiyatı x Aylık kullanım saati
İki rakamın eşitlendiği kullanım saati, başa baş noktanızdır. Aylık kullanımınız bu saatin altındaysa kiralamak, üstündeyse ve bu durum uzun süre devam edecekse satın almak daha ekonomik olabilir.
Örnek hesap (varsayımsal): 8 adet H100 80 GB içeren bir sunucu düşünelim. Satın alma bedelini tedarikçinizden aldığınız teklife göre X, amortisman süresini 36 ay, diğer tüm aylık giderlerin toplamını M olarak kabul edelim. CloudRUX'ta H100 için saatlik başlangıç fiyatı 4,99 $ olduğuna göre, 8 GPU'nun bir saatlik kirası 39,92 $ eder. Bu durumda başa baş kullanım saati şöyle bulunur:
Başa baş saat / ay = (X / 36 + M) / 39,92
Bir ayda yaklaşık 730 saat vardır. Bulduğunuz sonuç 730 saate ne kadar yakınsa, satın almanın mantıklı olması için sunucunun o kadar kesintisiz çalışması gerekir. Kendi teklifinizdeki X ve M değerlerini yerine koyarak bu hesabı birkaç dakikada yapabilirsiniz.
Donanım Eskimesi ve Nesil Riski
GPU dünyasında yeni nesiller yaklaşık iki yılda bir piyasaya çıkıyor. Her yeni nesil; daha fazla bellek, daha yüksek bant genişliği ve yapay zekâ iş yükleri için yeni hesaplama formatları getiriyor. Bugün güçlü kabul edilen bir kart, birkaç yıl içinde orta segmente inebilir.
Bu durum satın alan için iki risk doğurur. Birincisi, donanımın ikinci el değeri hızla düşer ve amortisman süresini uzun tutmak gerçekçi olmaz. İkincisi, modelleriniz büyüdükçe mevcut kartların belleği yetersiz kalabilir ve projenin ortasında yeniden yatırım yapmanız gerekebilir.
Kiralamada nesil riski sağlayıcıdadır. Bugün A100 ile çalışırken, ihtiyacınız değiştiğinde H200 ya da B200 gibi daha yeni bir karta geçmek için yeni bir sunucu başlatmanız yeterlidir.
Teslim Süreleri ve Tedarik Kısıtları
Yüksek performanslı GPU'lara olan küresel talep, tedarik zincirinde uzun bekleme sürelerine yol açabiliyor. Sipariş verdiğiniz bir sunucunun teslimatı, model ve dönemine göre haftalar hatta aylar sürebilir. Buna kurulum, veri merkezinde enerji kapasitesi ayarlanması ve yapılandırma süreleri de eklenir.
Yapay zekâ projelerinde zaman kritik bir kaynaktır. Rakipleriniz modelini eğitirken donanım beklemek, satın almanın görünmeyen maliyetlerinden biridir. Kiralamada ise kapasite uygunsa sunucunuz kısa sürede hazır olur ve ekibiniz doğrudan işe başlar.
Esneklik: Ölçeklenme ve Doğru Kartı Seçmek
Her iş yükü aynı GPU'yu gerektirmez. Küçük modellerin çıkarımı (inference) için L4 ya da A40 yeterli olabilirken, büyük dil modellerinin eğitimi H100, H200 veya B200 gerektirebilir. Satın aldığınızda tek bir konfigürasyona bağlanırsınız. Kiralamada her iş için uygun kartı seçebilirsiniz.
CloudRUX GPU sunucu hizmetinde erken erişim kapsamında sunulan kartlar ve saatlik başlangıç fiyatları (KDV hariç) şöyledir:
| GPU | Bellek | Saatlik başlangıç fiyatı (GPU başına) |
|---|---|---|
| NVIDIA L4 | 24 GB | 0,74 $ |
| NVIDIA RTX 4090 | 24 GB | 1,11 $ |
| NVIDIA A40 | 48 GB | 0,74 $ |
| NVIDIA L40S | 48 GB | 1,36 $ |
| NVIDIA RTX PRO 6000 | 96 GB | 3,11 $ |
| NVIDIA A100 | 80 GB | 2,24 $ |
| NVIDIA H100 | 80 GB | 4,99 $ |
| NVIDIA H200 | 141 GB | 6,61 $ |
| NVIDIA B200 | 180 GB | 9,99 $ |
Kesin fiyat ve kapasite, size özel teklifte netleşir. Aylık rezerve kullanımda ise indirimli fiyatlandırma uygulanır.
Satın Alma ve Kiralama Karşılaştırması
| Kriter | Satın Alma | Kiralama |
|---|---|---|
| Başlangıç maliyeti | Yüksek sermaye yatırımı | Yok, kullandıkça ödeme |
| Düşük kullanımda maliyet | Kullanılan saat başına yüksek | Yalnızca kullanılan saat kadar |
| Sürekli yüksek kullanımda maliyet | Uzun vadede avantajlı olabilir | Rezerve kullanım indirimiyle dengelenebilir |
| Nesil eskimesi riski | Sizde | Sağlayıcıda |
| Devreye alma süresi | Tedarik ve kuruluma bağlı, uzun olabilir | Kapasite uygunsa kısa |
| Ölçeklenme | Yeni donanım alımı gerekir | GPU sayısı ve tipi işe göre değişir |
| Operasyon yükü | Elektrik, soğutma, arıza, güncelleme sizde | Altyapı işletimi sağlayıcıda |
| Muhasebe | Yatırım ve amortisman | İşletme gideri, faturalı hizmet |
Somut Bir Kiralama Örneği
Bir ekibin orta ölçekli bir dil modelini kendi verisiyle ince ayar (fine-tuning) yapmak için iki haftalık yoğun bir eğitim planladığını düşünelim. Ekip 8 adet H100 80 GB kullanacak ve eğitim günde 24 saat kesintisiz sürecek.
- Süre: 14 gün x 24 saat = 336 saat
- GPU sayısı: 8
- Saatlik başlangıç fiyatı: 4,99 $
- Toplam: 8 x 4,99 x 336 = 13.413,12 $ + KDV
Eğitim bittiğinde sunucu kapatılır ve maliyet durur. Aynı iş için donanım satın almış olsaydınız, eğitimden sonra sunucunun yeni bir işle sürekli dolu tutulması gerekirdi. Aksi halde yatırımın büyük kısmı boşta beklerdi.
Bu örnekteki rakam, eğitimi kaç kez tekrarlayacağınızı da düşünmeniz için iyi bir başlangıç noktasıdır. Yılda birkaç kez yapılan bu tür eğitimler, çoğu senaryoda kiralama ile çok daha esnek ve öngörülebilir biçimde yönetilir.
Faturalandırma tarafında da sürpriz yoktur: CloudRUX, hizmeti Türkiye'de e-fatura ile faturalandırır. USD cinsinden tutar, fatura tarihindeki kur ile TL'ye çevrilir.
Hibrit Strateji: Kirala, Ölç, Sonra Karar Ver
Pek çok kurum için en sağlıklı yol, iki modeli birbirine rakip değil, aşamalı olarak görmektir:
- Deneme ve prototip aşaması: Farklı GPU tiplerini kiralayarak hangi kartın modelinize en uygun olduğunu test edin. Bu aşamada satın almak, henüz netleşmemiş bir ihtiyaca yatırım yapmak demektir.
- Ölçüm aşaması: Birkaç ay boyunca gerçek GPU saatlerinizi kaydedin. Hangi işlerin sürekli, hangilerinin dönemsel olduğunu ayırın.
- Rezerve kullanım: Sürekli çalışan iş yükleri için aylık rezerve kullanımı değerlendirin. Bu, satın almanın maliyet avantajına yaklaşırken esnekliği korur.
- Sahip olmayı değerlendirme: Kullanım oranınız uzun süre tutarlı biçimde yüksek kalıyorsa ve altyapıyı işletecek ekibiniz varsa, başa baş formülüyle satın almayı yeniden hesaplayın.
Bu yaklaşımla büyük yatırım kararını tahmine değil, gerçek kullanım verisine dayandırırsınız.
Sık Sorulan Sorular
GPU kiralama maliyeti nasıl hesaplanır?
Temel formül GPU sayısı x saatlik GPU fiyatı x kullanım saatidir. Örneğin tek bir L4 GPU'yu 100 saat kullanırsanız başlangıç fiyatıyla 74 $ + KDV ödersiniz. Kesin rakam, kapasite ve süreye göre hazırlanan teklifte netleşir.
Satın alma ne zaman mantıklı hale gelir?
GPU'larınız uzun süre boyunca neredeyse kesintisiz çalışıyorsa, altyapıyı işletecek bir ekibiniz varsa ve başa baş hesabınız bunu destekliyorsa satın alma değerlendirilebilir. Bu kararı birkaç aylık gerçek kullanım verisine dayandırmanızı öneririz.
Kiralık GPU sunucuya nasıl erişirim?
Sunuculara SSH ve Jupyter ile erişebilirsiniz. PyTorch ve CUDA şablonları sayesinde ortam hazır gelir, ekibiniz sürücü kurulumuyla uğraşmadan doğrudan çalışmaya başlar.
GPU sunucular nerede çalışıyor?
CloudRUX GPU sunucuları, yurt dışındaki iş ortağımızın veri merkezlerinde çalışır. Kişisel veri işleyecekseniz KVKK açısından dikkat edilmesi gerekenleri veri yerelliği ve yurt dışına aktarım yazımızda ele aldık.
CloudRUX GPU Sunucu
CloudRUX GPU sunucu hizmeti, L4'ten B200'e kadar geniş bir kart yelpazesini saatlik fiyatlarla erken erişimde sunar. SSH ve Jupyter erişimi, hazır PyTorch ve CUDA şablonları, Türkiye'de e-fatura ve Türkçe konuşan mühendis desteği hizmetin parçasıdır. Kartları ve fiyatları GPU sunucu sayfamızda inceleyebilir, iş yükünüze özel teklif ve kiralama ile satın alma karşılaştırması için bizimle iletişime geçebilirsiniz.