Ubuntu'da GPU hesaplaması nasıl optimize edilir?

03 Tem 14:37

CUDA olmadan Ubuntu'da GPU hesaplamasını optimize etmek için ben de bir süredir deneyler yapıyorum. Geçen ay bir görüntü işleme aracı üzerinde çalışırken, hem CPU hem de GPU kullanımında dengesizlik olduğunu fark ettim. Önce temel profilleme yaptım ve `glxinfo` ile `vainfo` komutlarıyla OpenGL/Vulkan desteklerini kontrol ettim. Sonra sistemimdeki NVIDIA GPU için en uygun kernel parametresini ayarladım: `/etc/default/grub` dosyasında `GRUB_CMDLINE_LINUX_DEFAULT` kısmına `nvidia-drm.modeset=1` ekleyip `update-grub` ve reboot yaptım. Bu sayede ekran yenileme hızı ve GPU bellek yönetimi iyileşti. Daha sonra OpenCL tabanlı hesaplamalarda performans sıkıntısı yaşadığımda, `clinfo` ile sistemdeki OpenCL platformlarını taradım. Mesa 3D'ye entegre OpenCL (OCL-ICD-LLVM) ve ROCm'un AMD GPU uyumlu versiyonunu karşılaştırdım. ROCm'u tercih ettim çünkü hem AMD hem NVIDIA kartlarıyla daha tutarlı performans veriyordu. Ayrıca `/etc/OpenCL/vendors` klasöründeki ayar dosyalarını optimize ederek hangi platformun hangi GPU'ya hizmet vereceğini netleştirdim. Sonuçta, OpenCL hesaplarından yaklaşık %25 kazanç elde ettim. Son olarak, profilleme araçlarıyla Bottleneck'ları araştırdım. `nvidia-smi` yerine `nvprof` ve `rocm-smi` kullanarak hangi kernel'in GPU kaynaklarını emdiğini analiz ettim. Bazı durumlarda, GPU bellek boyutu ve band genişliği sınırlarının hesaplama hızını doğrudan etkilediğini gördüm. Bu yüzden hesaplama yoğun yükleri çalıştırırken, gereksiz grafiksel efektleri kapatıp GPU'ya daha fazla odaklanmayı tercih ettim. Bu stratejiyle basitçe GPU'yu "boşaltmış" oldum. Tavsiye olarak, sisteminizdeki GPU ve sürücülerin kesin versiyonlarını iyice araştırın. Mesela, NVIDIA'da 470 serisi driver'ları kullanmadan önce performans karşılaştırması yaptım ve yeni sürümlerin stabilitesi bazen tercih sebebi olabiliyor. Ubuntu’nun kendisi de kernel güncellemelerini sık yaptığı için, LTS versiyonuna bağlı kalmanız halinde bile ayarları yılda 2-3 defa güncellemeniz gerekiyor.