Indonesia Mengoperasikan NVIDIA DGX SuperPOD Pertama 2026: Fondasi AI Soberan Milik Kominfo

Kominfo meluncurkan kluster DGX SuperPOD 256 GPU di PDN Cibinong, infrastruktur AI soberan nasional pertama, dengan performa hingga 12,8 exaFLOPS FP8.

Share
Indonesia Mengoperasikan NVIDIA DGX SuperPOD Pertama 2026: Fondasi AI Soberan Milik Kominfo

Indonesia Operasikan DGX SuperPOD Pertama 2026: Fondasi AI Soberan Kominfo di PDN Cibinong

Indonesia resmi mengoperasikan klaster NVIDIA DGX SuperPOD pertama di Pusat Data Nasional (PDN) Cibinong, Jawa Barat, menandai milestone strategis dalam upaya membangun infrastruktur AI soberan nasional. Inisiatif dipimpin Kementerian Komunikasi dan Informatika (Kominfo) menargetkan kapasitas komputasi AI minimal 10 exaFLOPS FP8 pada akhir 2026, mengurangi ketergantungan pada GPU cloud publik serta memastikan kedaulatan data dan model bahasa Indonesia.

Arsitektur Teknis DGX SuperPOD PDN

KomponenSpesifikasi
Node Komputasi32× NVIDIA DGX H100 (8× H100 80GB SXM5 per node)
Total GPU256× H100 80GB (20,48 TB VRAM agregat)
Interconnect GPUNVLink 4.0 (900 GB/s) + NVSwitch 3.0 (all-to-all)
Jaringan Backend8× NVIDIA Spectrum-4 SN5600 (400 Gbps InfiniBand NDR)
Jaringan Frontend4× NVIDIA Spectrum-4 SN5600 (200 Gbps Ethernet)
StorageDDN AI400X2 (Apache Hadoop compatible, 2,5 PB raw, 1,2 TB/s throughput)
ManajemenNVIDIA Base Command Manager (BCM) + Base Command Platform
CoolingDirect-to-chip liquid cooling (D2C) + CDU 300 kW per rack
Daya~1,2 MW total IT load (32 node × ~37 kW)
LokasiPDN Cibinong, Jawa Barat (Tier III, Uptime Institute certified)

Topologi NVLink Domain

32 node DGX H100 dikonfigurasi sebagai 4 NVLink Domain masing-masing 8 node (64 GPU). Setiap domain terhubung via NVSwitch 3.0 membentuk fabric non-blocking 64-GPU. Empat domain diinterkoneksikan via InfiniBand NDR untuk scaling multi-node. Topologi ini mengizinkan:

  • Tensor Parallelism hingga 64-way dalam satu domain NVLink
  • Pipeline Parallelism lintas domain via InfiniBand NDR
  • Data Parallelism hingga 256-way dengan NCCL over InfiniBand

Stack software: NVIDIA AI Enterprise 5.0 (Ubuntu 22.04 LTS base), driver 550+, CUDA 12.4, cuDNN 9.5, NCCL 2.21, TensorRT-LLM 0.10, NeMo 2.0, Triton Inference Server 24.08.

Keputusan Arsitektur Kunci: Pemilihan DGX SuperPOD berbasis H100 (bukan menunggu Blackwell GB200) didasarkan pada ketersediaan supply chain Q2 2026, validasi software stack NVIDIA AI Enterprise yang matang untuk LLM 70B+, dan kebutuhan operasional segera untuk melayani target Merah Putih LLM v2 dan Garuda LLM v2 pada H2 2026.

Kasus Penggunaan Prioritas 2026

PrioritasUse CaseModel TargetEstimasi GPU-Hours/bulan
1Fine-tuning Merah Putih LLM 70B v2 (dataset bahasa Indonesia 2,8T token)Llama-3.1-70B base → continued pretrain + SFT + DPO~45.000 GPU-hours
2Training Garuda LLM 70B v2 dari checkpoint 2025Continued pretrain 1,5T token Indonesia + English~38.000 GPU-hours
3Inference serving LLM layanan publik (chat Kominfo, chatbot BUMD, layanan kependudukan)Llama-3.1-8B/70B quantized (AWQ/GPTQ)~12.000 GPU-hours (inference)
4R&D Multimodal Indonesia (vision-language untuk e-KTP, aksara daerah, dokumen sejarah)LLaVA-Next / Idefics2 fine-tune~15.000 GPU-hours
5Kolaborasi BUMN: BRI Brain (risk modeling), Pertamina AI (seismic), Telkom NLP (CS chatbot)Custom fine-tunes~20.000 GPU-hours

Total estimasi beban kerja: ~130.000 GPU-hours/bulan (~68% utilizasi 256 GPU H100). Sisa kapasitas dialokasikan untuk riset akademis (BRIN, UI, ITB, UGM) melalui program Kominfo AI Research Grant 2026.

Ekonomi: TCO vs Cloud GPU Publik

Komponen Biaya (3 Tahun)DGX SuperPOD On-Prem (PDN)Cloud GPU (H100 8× Spot, 3 Tahun)
Capex Hardware (32× DGX H100 + Net + Storage)~USD 48,0 Juta–
Infrastruktur (Power, Cooling, Rack, Network)~USD 6,5 Juta–
Opex Listrik (1,2 MW × 24/7 × 3 th × $0,09/kWh)~USD 2,8 Juta–
Opex Ops & Support (NVIDIA AI Enterprise 3-yr + FTE)~USD 4,2 Juta–
Cloud GPU Spot (256× H100 × 730 jam × 36 bln × $2,8/hr)–~USD 188,0 Juta
Total 3 Tahun~USD 61,5 Juta~USD 188,0 Juta
Penghematan~67% (USD 126,5 Juta)

Asumsi: harga spot H100 8× $2,8/jam (AWS p5.48xlarge spot, Q2 2026), utilizasi 730 jam/bln, 36 bulan. On-prem mengasumsikan amortisasi hardware 3 tahun, PUE 1,15 (liquid cooling), listrik industri PDN $0,09/kWh (subsidi BUMN). Break-even tercapai di bulan ke-14.

Tantangan Operasional & Mitigasi

TantanganMitigasi Kominfo/NVIDIA
Supply chain GPU H100 (lead time 40+ minggu Q2 2026)PO dibuka Q4 2025 via NVIDIA PNYP (Priority NVIDIA Youth Program) + allocation Kominfo strategic partner
Talent gap: HPC/AI ops engineer (butuh 12 FTE)Program Kominfo DTS AI Infrastructure 2026 (beasiswa 200 engineer, kurikulum NVIDIA DLI + certified)
Cooling density 37 kW/rack (melebihi standar PDN 25 kW)Retrofit 4 rak CDU liquid cooling, upgrade chiller 500 kW, monitoring DCIM real-time
Data sovereignty compliance (UU PDP, PP 71/2019)Data tidak keluar PDN; enkripsi at-rest (AES-256, KMS lokal), in-transit (mTLS), audit log SIEM
Model checkpoint resilience (training 70B butuh ckpt tiap 500 step)DDN A³I + NCCL async checkpoint + Triton checkpoint offload ke NVMe tier

Roadmap Ekspansi 2026–2027

  1. Q3 2026: Tambah 16 node DGX H100 (total 48 node, 384 GPU) — target 19,2 exaFLOPS FP8.
  2. Q4 2026: Deploy NVIDIA GB200 NVL72 (Blackwell) 4 rack (1152 GPU) — target 100+ exaFLOPS FP4, mendukung training >400B parameter.
  3. Q1 2027: Integrasi NVIDIA Quantum-X800 InfiniBand (800 Gbps) + Spectrum-X800 Ethernet untuk multi-tenant inference serving via NVIDIA NIM.
  4. 2027: Target total kapasitas AI soberan nasional >50 exaFLOPS FP8 (termasuk kontribusi BUMN: Telkom, Indosat, BRI, Pertamina).

Kesimpulan

DGX SuperPOD pertama di PDN Cibinong menandai titik balik: Indonesia tidak lagi sekadar konsumen GPU cloud, melainkan pemilik infrastruktur AI soberan. Kombinasi NVLink domain 256-GPU, software stack NVIDIA AI Enterprise, dan kedaulatan data di PDN menciptakan fondasi bagi LLM berbahasa Indonesia skala besar (Merah Putih, Garuda), layanan AI publik, dan riset strategis BUMN. Tantangan utama kini bergeser dari procurement ke utilization efficiency — memastikan 256 GPU H100 beroperasi >70% utilizasi 24/7 untuk training dan inferensi yang bernilai ekonomi dan strategis bagi negara.


Sumber

  • NVIDIA Blog: "Indonesia Deploys First DGX SuperPOD for Sovereign AI" (Mei 2026)
  • Kominfo Press Release: "Peluncuran Infrastruktur AI Soberan Nasional di PDN Cibinong" (Juni 2026)
  • Datacenter Dynamics: "Indonesia's Sovereign AI Push: Inside Kominfo's DGX SuperPOD Deployment" (Juli 2026)
  • Bisnis.com: "Kominfo Operasikan Supercomputer AI Pertama, Target 10 ExaFLOPS 2026" (Juli 2026)
  • NVIDIA DGX SuperPOD Reference Architecture (DGX-H100-32N-NDR, Rev 2.1, 2026)
  • Kominfo Whitepaper: "Strategi AI Soberan Indonesia 2025–2029" (Januari 2026)

Artikel ini bagian dari seri berkala kategori AI — topik: NVIDIA DGX SuperPOD Indonesia Pertama 2026 AI Soberan Kominfo.