Gao Kaptan DocsPyTorch ve Jupyter
PyTorch ve JupyterCUDA JupyterLab'i bir MIG dilimi üzerinde aç ve GPU'yu notebook'ta doğrula.
PyTorch + Jupyter şablonu, bir MIG dilimi üzerinde CUDA'lı JupyterLab sağlar — model geliştirme ve eğitim için hazır bir defter ortamı.
Şablonu MIG ile dağıt
Katalog → PyTorch + Jupyter (1× MIG) seçip Deploy. Şablon ayarları:
- İmaj:
quay.io/jupyter/pytorch-notebook:cuda12-latest - GPU: MIG
1g.18gb· Port:8888· Dış erişim: açık - Giriş token'ı:
JUPYTER_TOKEN(dağıtımda güçlü bir değer belirleyin) - Kalıcı volume:
/home/jovyan/work(defterleriniz burada kalır)
JupyterLab'i aç
Pod Running olduğunda erişim linki + JUPYTER_TOKEN ile JupyterLab'i açın. Launcher'da
Notebook, Console ve Terminal hazır gelir.
GPU'yu doğrula
Yeni bir Python 3 defteri açıp şunu çalıştırın:
import torch
print(torch.__version__) # 2.11.0+cu128
print(torch.cuda.is_available()) # True
print(torch.cuda.get_device_name(0))
# NVIDIA H200 NVL MIG 1g.18gb
PyTorch, atadığınız MIG dilimini doğrudan görür — yukarıdaki hücrede tensör device='cuda:0'
üzerinde oluşturuldu. Eğitim/çıkarım bu dilim üzerinde çalışır.
Tek bir MIG dilimi tek bir işe yeter; çok-GPU (DDP/FSDP, NCCL) gereken işler için tam GPU seçin — MIG dilimleri arası P2P/NCCL yoktur. Maliyet profile göre değişir.