Jupyter Notebook ile TensorFlow GPU kurulumu (Windows için)

Jupyter Notebook, veri bilimi için en popüler IDE’lerden biridir. Anaconda Navigator kurulumunu ve Python 3.x kurulumunu gerçekleştirdiyseniz bu IDE’yi artık kullanabilirsiniz. Fakat günümüzde bir ürünü sadece kullanmak yetmez. Onu daha verimli şekilde nasıl kullanacağımızı da bilmemiz gerekir.

Jupyter Notebook varsayılan modunda CPU kullanarak çalışır. Eğer bu IDE’yi genellikle derin öğrenme modellerinizi eğitmek için kullanıyorsanız daha çok işlem gücüne ihtiyacınız var demektir. Bunun için Jupyterinizi CPU yerine GPU kullanarak çalıştırmalısınız.

Peki ama nasıl?

Anaconda Navigator, Python 3.x ve Visual Studio içerisinde“Desktop development with C++” kitinin kurulu olduğunu varsayarak adım adım ilerliyoruz.

ADIM 1: CUDA araç seti kurulumu

İlk olarak CUDA araç setini kurmalıyız fakat burada dikkat etmemiz gereken kuracağımız araçların sürümlerinin birbirleri ile uyumlu olmasıdır. NVIDIA Windows kullanıcıları için TensorFlow GPU kullanımını CUDA v11.2 sürümüne kadar desteklemektedir. Sitesine girdiğinizde v11.8 sürümü ile karışılabilirsiniz ama 11.2'den daha üst sürüm kurmanız durumunda Jupyterinizi GPU ile bağlayamazsınız. Bu sebepten sürümlerin uyumlu olması için TensorFlow’un yayınladığı listeyi kontrol etmelisiniz.

CUDA’nın arşivlerine giderek 11.2 sürümünü seçin. Arşiv linki

Uygun bilgileri aşağıdaki gibi seçtikten sonra kurulum için indirilen .exe uzantılı dosyayı çalıştırın.

Not: Eğer daha yüksek bir CUDA sürümüne sahipseniz öncelikle onun tüm dosyalarını ve SDK’sını kaldırmalısınız.

Kurulum işlemi tamamlandıktan sonra dosya yolunun ortam değişkenlerine eklenip eklenmediğini kontrol edebilirsiniz. Genellikle otomatik olarak eklenmektedir. Ama siz yine de kontrol edin :)

Eğer her şey yolunda ise son bir kontrol işlemi daha yapıp sıradaki aracı kurabilirsiniz. Son kontrolü konsol(cmd) üzerinden aşağıdaki gibi yapabilirsiniz.

nvcc -V

ADIM 2: cuDNN v8.1 kütüphanesinin kurulumu

cuDNN arşivlerine giderek CUDA v11. 2 için uyumlu 8.1 sürümünü seçin. Arşiv linki

Dosya indikten sonra içerisinde bin, include ve lib/x64 klasörlerini görebilirsiniz. Bu klasörlerin içerisindekileri alıp yeni kurduğumuz CUDA’nın içerisindeki uygun klasörlere eklemeliyiz.

Bunun için CUDA klasörünü(C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2) ve cuDNN v8.1 klasörünü açın ardından:

1- cuDNN v8.1 klasöründeki “bin” klasörünün içindeki dosyaları kopyalayın ve CUDA klasöründeki “bin” klasörünün içerisine kopyalayın.

2- cuDNN v8.1 klasöründeki “include” klasörünün içindeki dosyaları kopyalayın ve CUDA klasöründeki “include” klasörünün içerisine kopyalayın.

3- cuDNN v8.1 klasöründeki “lib/x64” klasörünün içindeki dosyaları kopyalayın ve CUDA klasöründeki “lib/x64” klasörünün içerisine kopyalayın.

Buraya kadar bir hata yapmadıysanız CUDA araç setlerinin kurulumu başarılı ile gerçekleşmiştir.

ADIM 3: Sanal ortam oluşturulması

Bundan sonraki işlemler konsol(cmd) üzerinde gerçekleştirilecektir. Bu işlemler için isterseniz Anaconda Prompt isterseniz de Windows konsolu kullanabilirsiniz.

Şimdi bir sanal ortam oluşturacağız. Benim sanal ortamımın adı “gpu6" olacak. Python 3.10.9 versiyonunu kullanacağım. Bu işlem için Python 3.7–3.10 sürümlerinden birine sahip olmanız yeterli.

conda create -n gpu6 python=3.10.9

Ardından “gpu6” ortamına geçiş yapmalısınız.

activate gpu6

ADIM 4: TensorFlow kurulumu

Yeni sanal ortamımızda TensorFlow kurulumunu pip yardımı ile gerçekleştireceğiz. Bu yüzden pip’in kurulu olduğundan emin olmalısınız. Ardından pip yardımı ile “tensorflow-gpu 2.10.0” versiyonunu indirmelisiniz. Çünkü TensorFlow’un GPU desteği yalnızca 2.10 veya önceki sürümler için mevcuttur. TensorFlow 2.11'den başlayarak CUDA yapısı Windows için desteklenmez eğer kullanmak isterseniz WSL2 kurmanız veya TensorFlow-DirectML-Plugin ile tensorflow-cpu kullanmanız gerekecektir. Fakat burada biz 2.10 sürümünü kullanarak GPU kullanımını sağlayacağız.

pip install tensorflow-gpu==2.10.0

ADIM 5: TensorFlow GPU kurulumunun doğrulanması

Eğer her şey yolunda gittiyse konsoldan CUDA inşaasının başarılı şekilde oluşturulup oluşturulmadığını kontrol edebilirsiniz. Doğru çalıştığı taktirde aşağıdaki Python kodu “True” sonucunu dönecektir.

import tensorflow as tf
tf.test.is_built_with_cuda()

ADIM 6: TensorFlow’un Jupyter Notebook’a kurulması

GPU’nun Jupyter Notebook tarafından da kullanılabilmesi için ipykernel kurulumunun gerçekleştirilmesi gerekir.

conda install -c anaconda ipykernel

python -m ipykernel install --user --name=gpu6

Jupyter Notebook’u başlatın ve yeni ortamı aşağıdaki gibi seçerek GPU ile çalışmaya başlayabilirsiniz.

import tensorflow as tf
print("Num GPUs Available: ", len(tf.config.list_physical_devices('GPU')))

import tensorflow as tf
tf.test.is_built_with_cuda()

Son olarak, yukarıdaki komutlardan herhangi birini kullanarak GPU’nun kullanımını kontrol edebilirsiniz.