AWS ve Azure'da artan GPU/CPU kiralama maliyetleri: ne yapmalı?

08 Tem 07:38

Gpu maliyetleri gerçekten uçuyo valla, ben de son projede aynı sorunu yaşadım. AWS’ye 2x RTX 3090 almaya gidiyordum, fiyatlar neredeyse %40 artmıştı, neyse ki bir şekilde bütçeyi yetiştirdim ama sonra Azure’a geçince fiyatlar daha yüksek çıktığı için geri dönmek zorunda kaldım. Aslında spot instance’lar benim için en mantıklısıydı, çünkü bir yerde fiyatlar düştüğünde anında terfi edebiliyorsun, ama eğer sürekli yüksek CPU/GPU ihtiyacı varsa o da çare olmuyor kanka. Bence ilk olarak projeleri analiz etmek lazım, hangi workload’lara ihtiyacın var diye bak. Mesela bizde sadece geceleyin hızlı bir AI model eğitimi oluyordu, bunu spot instance’larda çalıştırıp gündüzde kapatıyorduk. Ayrıca bir de alternatif cloud sağlayıcılara bakmakta fayda var, DigitalOcean ya da Vultr gibi yerler bazen çok daha uygun fiyatlar sunabiliyor. Benim startup’ta da şimdi bu yolu deniyoruz, belki senin için de bir çözüm olur.