GPU Monitor & Validator

Versi Terbaru: 3.1.9

GPU Monitor & Validator adalah alat tingkat profesional untuk memastikan kinerja dan kesehatan optimal GPU NVIDIA dan AMD di lingkungan produksi.

Gambaran Umum

GPU Monitor & Validator menyediakan:

Dukungan multi-vendor: GPU NVIDIA (CUDA) dan AMD (ROCm)
Dukungan multi-GPU yang ditingkatkan: Autentikasi dan validasi yang ditingkatkan untuk sistem dengan beberapa GPU
Pemantauan kinerja real-time
Validasi perangkat keras terhadap spesifikasi produsen
Benchmarking komprehensif dengan stress test PyTorch
Deteksi anomali otomatis
Pemantauan kesehatan berkelanjutan
Deteksi regresi kinerja
Validasi manajemen termal
Verifikasi integritas memori
Antarmuka terpadu yang agnostik vendor

Yang Baru di Versi 3.1.9

Instalasi agnostik driver: Paket tidak lagi mengganggu driver NVIDIA/AMD yang ada
Deteksi PyTorch dinamis: Secara otomatis mendeteksi versi CUDA/ROCm dan menginstal PyTorch yang kompatibel
Dukungan CUDA 13.0: Dukungan penuh untuk driver NVIDIA terbaru termasuk CUDA 13.0
Masalah izin diperbaiki: Masalah izin venv selama instalasi diselesaikan
Visibilitas error yang lebih baik: Error instalasi sekarang ditampilkan dengan benar untuk troubleshooting yang lebih mudah

Persyaratan Sistem

Sistem Operasi

Ubuntu 22.04 LTS (Jammy) atau lebih baru
Ubuntu 24.04 LTS (Noble)
Ubuntu 24.10 (Oracular)
Debian 11 (Bullseye) atau lebih baru
Debian 12 (Bookworm)

Persyaratan Perangkat Keras

GPU NVIDIA: Compute Capability 7.0+ (V100, T4, A100, H100, seri RTX)
GPU AMD: Kompatibel ROCm (seri MI100, MI200, MI300, Radeon Pro VII, W7900)
2MB ruang disk bebas (plus dependensi)

Persyaratan Perangkat Lunak

Python 3.10 atau lebih baru
Koneksi internet untuk setup awal
Untuk NVIDIA: Versi driver NVIDIA apa pun (paket agnostik driver)
Untuk AMD: Versi ROCm apa pun (paket agnostik driver)
Catatan: Paket TIDAK akan menginstal atau memodifikasi driver GPU

Instalasi

Opsi 1: Ubuntu PPA (Direkomendasikan untuk Ubuntu)

# Tambahkan repositori PPA (non-interaktif)
sudo add-apt-repository ppa:cl-ax/gpu-validator -y
sudo apt update

# Instal GPU Agent (non-interaktif)
sudo apt install cl-gpu-agent -y

Opsi 2: Repositori APT (Debian/Ubuntu)

# Tambahkan repositori
echo 'deb [trusted=yes] https://storage.googleapis.com/gpu_validator/apt-repo stable main' | \
  sudo tee /etc/apt/sources.list.d/computelabs-gpu-agent.list

# Perbarui daftar paket
sudo apt update

# Instal GPU Agent
sudo apt install cl-gpu-agent

Opsi 3: Instalasi Manual

Untuk sistem yang tidak memenuhi persyaratan atau memerlukan konfigurasi kustom:

# Clone repositori
git clone https://github.com/compute-labs-dev/gpu_validator_monitor.git
cd gpu_validator_monitor

# Jalankan skrip instalasi
sudo ./scripts/install.sh

Mode Operasi

GPU Validator mendukung empat mode operasi utama:

1. Mode Validasi

cl-gpu-agent --mode validate

Melakukan:

Verifikasi spesifikasi perangkat keras
Tes integritas memori
Pemeriksaan fungsionalitas CUDA
Validasi kompatibilitas driver

2. Mode Benchmark

cl-gpu-agent --mode benchmark

Menguji:

Bandwidth memori
Kinerja core CUDA
Kemampuan tensor core
Throughput PCIe
Efisiensi daya

3. Mode Monitor (Layanan Default)

# Mulai layanan pemantauan
sudo systemctl start cl-gpu-agent

# Aktifkan startup otomatis
sudo systemctl enable cl-gpu-agent

Melacak:

Suhu real-time
Konsumsi daya
Penggunaan memori
Utilisasi GPU
Tingkat error
Metrik kinerja

4. Mode Deteksi

cl-gpu-agent --mode detect

Mendeteksi dan menampilkan:

GPU yang tersedia
Model dan spesifikasi GPU
Versi driver
Kemampuan CUDA/ROCm

Penggunaan

Manajemen Layanan

# Periksa status layanan
sudo systemctl status cl-gpu-agent

# Mulai layanan
sudo systemctl start cl-gpu-agent

# Hentikan layanan
sudo systemctl stop cl-gpu-agent

# Aktifkan startup otomatis
sudo systemctl enable cl-gpu-agent

# Lihat log real-time
journalctl -u cl-gpu-agent -f

Penggunaan Perintah Langsung

# Tampilkan bantuan dan opsi yang tersedia
cl-gpu-agent --help

# Jalankan validasi komprehensif
cl-gpu-agent --mode validate

# Jalankan benchmark kinerja
cl-gpu-agent --mode benchmark

# Jalankan pemantauan (foreground)
cl-gpu-agent --mode monitor

Memahami Hasil

Validator menyediakan tiga metrik kunci:

Status Validasi: PASS/FAIL untuk spesifikasi perangkat keras
Skor Kinerja: Dibandingkan dengan benchmark referensi
Indikator Kesehatan: Tren suhu/daya

Contoh output sukses untuk GPU NVIDIA:

GPU 0 (NVIDIA H100 80GB HBM3):
- Validasi: PASS
- Bandwidth Memori: 3.1 TB/s
- Suhu: 42°C (Maks: 85°C)
- Penggunaan Daya: 119W/700W
- Core CUDA: 100% fungsional
- Tes Memori: PASS
- Status Driver: Optimal

Model GPU yang Didukung

GPU NVIDIA

Data Center: H100, H200
Seri RTX 40: RTX 4090, 4080
Seri RTX 50: RTX 5090, 5080

GPU AMD

Diuji dan Diverifikasi: MI300X
GPU yang didukung ROCm lainnya mungkin bekerja tetapi belum diuji

Troubleshooting

Masalah Umum

Permission Denied Selama Instalasi

Jika Anda melihat [Errno 13] Permission denied selama instalasi:

# Hapus instalasi lama
sudo rm -rf /opt/cl-gpu-agent

# Instal ulang
sudo apt install --reinstall cl-gpu-agent

Ketidakcocokan Versi Driver NVIDIA

Paket tidak lagi menginstal atau memodifikasi driver GPU sejak v3.1.3+. Jika Anda memiliki masalah driver:

# Periksa driver Anda saat ini
nvidia-smi

# Paket akan mendeteksi dan menggunakan driver yang ada
# Tidak ada perubahan driver yang akan dibuat

Dukungan CUDA 13.0 atau Lebih Baru

Jika Anda memiliki CUDA 13.0 atau lebih baru (seperti driver 580.x):

Paket akan secara otomatis mendeteksi ini
PyTorch akan diinstal dengan dukungan CUDA 12.4 (backward compatible)
Driver CUDA 13.0 Anda akan bekerja sempurna dengan PyTorch cu124

Versi Paket Tidak Diperbarui

Jika apt tidak mendapatkan versi terbaru:

# Bersihkan cache dan paksa pembaruan
sudo apt clean
sudo apt update

# Periksa versi yang tersedia
apt policy cl-gpu-agent

# Paksa instal ulang
sudo apt install --reinstall cl-gpu-agent

How is this guide?

GPU Monitor & Validator

Daftar Isi