Indonesia Mengoperasikan NVIDIA DGX SuperPOD Pertama 2026: Fondasi AI Soberan Milik Kominfo
Kominfo meluncurkan kluster DGX SuperPOD 256 GPU di PDN Cibinong, infrastruktur AI soberan nasional pertama, dengan performa hingga 12,8 exaFLOPS FP8.
Indonesia Operasikan DGX SuperPOD Pertama 2026: Fondasi AI Soberan Kominfo di PDN Cibinong
Indonesia resmi mengoperasikan klaster NVIDIA DGX SuperPOD pertama di Pusat Data Nasional (PDN) Cibinong, Jawa Barat, menandai milestone strategis dalam upaya membangun infrastruktur AI soberan nasional. Inisiatif dipimpin Kementerian Komunikasi dan Informatika (Kominfo) menargetkan kapasitas komputasi AI minimal 10 exaFLOPS FP8 pada akhir 2026, mengurangi ketergantungan pada GPU cloud publik serta memastikan kedaulatan data dan model bahasa Indonesia.
Arsitektur Teknis DGX SuperPOD PDN
| Komponen | Spesifikasi |
|---|---|
| Node Komputasi | 32× NVIDIA DGX H100 (8× H100 80GB SXM5 per node) |
| Total GPU | 256× H100 80GB (20,48 TB VRAM agregat) |
| Interconnect GPU | NVLink 4.0 (900 GB/s) + NVSwitch 3.0 (all-to-all) |
| Jaringan Backend | 8× NVIDIA Spectrum-4 SN5600 (400 Gbps InfiniBand NDR) |
| Jaringan Frontend | 4× NVIDIA Spectrum-4 SN5600 (200 Gbps Ethernet) |
| Storage | DDN AI400X2 (Apache Hadoop compatible, 2,5 PB raw, 1,2 TB/s throughput) |
| Manajemen | NVIDIA Base Command Manager (BCM) + Base Command Platform |
| Cooling | Direct-to-chip liquid cooling (D2C) + CDU 300 kW per rack |
| Daya | ~1,2 MW total IT load (32 node × ~37 kW) |
| Lokasi | PDN Cibinong, Jawa Barat (Tier III, Uptime Institute certified) |
Topologi NVLink Domain
32 node DGX H100 dikonfigurasi sebagai 4 NVLink Domain masing-masing 8 node (64 GPU). Setiap domain terhubung via NVSwitch 3.0 membentuk fabric non-blocking 64-GPU. Empat domain diinterkoneksikan via InfiniBand NDR untuk scaling multi-node. Topologi ini mengizinkan:
- Tensor Parallelism hingga 64-way dalam satu domain NVLink
- Pipeline Parallelism lintas domain via InfiniBand NDR
- Data Parallelism hingga 256-way dengan NCCL over InfiniBand
Stack software: NVIDIA AI Enterprise 5.0 (Ubuntu 22.04 LTS base), driver 550+, CUDA 12.4, cuDNN 9.5, NCCL 2.21, TensorRT-LLM 0.10, NeMo 2.0, Triton Inference Server 24.08.
Keputusan Arsitektur Kunci: Pemilihan DGX SuperPOD berbasis H100 (bukan menunggu Blackwell GB200) didasarkan pada ketersediaan supply chain Q2 2026, validasi software stack NVIDIA AI Enterprise yang matang untuk LLM 70B+, dan kebutuhan operasional segera untuk melayani target Merah Putih LLM v2 dan Garuda LLM v2 pada H2 2026.
Kasus Penggunaan Prioritas 2026
| Prioritas | Use Case | Model Target | Estimasi GPU-Hours/bulan |
|---|---|---|---|
| 1 | Fine-tuning Merah Putih LLM 70B v2 (dataset bahasa Indonesia 2,8T token) | Llama-3.1-70B base → continued pretrain + SFT + DPO | ~45.000 GPU-hours |
| 2 | Training Garuda LLM 70B v2 dari checkpoint 2025 | Continued pretrain 1,5T token Indonesia + English | ~38.000 GPU-hours |
| 3 | Inference serving LLM layanan publik (chat Kominfo, chatbot BUMD, layanan kependudukan) | Llama-3.1-8B/70B quantized (AWQ/GPTQ) | ~12.000 GPU-hours (inference) |
| 4 | R&D Multimodal Indonesia (vision-language untuk e-KTP, aksara daerah, dokumen sejarah) | LLaVA-Next / Idefics2 fine-tune | ~15.000 GPU-hours |
| 5 | Kolaborasi BUMN: BRI Brain (risk modeling), Pertamina AI (seismic), Telkom NLP (CS chatbot) | Custom fine-tunes | ~20.000 GPU-hours |
Total estimasi beban kerja: ~130.000 GPU-hours/bulan (~68% utilizasi 256 GPU H100). Sisa kapasitas dialokasikan untuk riset akademis (BRIN, UI, ITB, UGM) melalui program Kominfo AI Research Grant 2026.
Ekonomi: TCO vs Cloud GPU Publik
| Komponen Biaya (3 Tahun) | DGX SuperPOD On-Prem (PDN) | Cloud GPU (H100 8× Spot, 3 Tahun) |
|---|---|---|
| Capex Hardware (32× DGX H100 + Net + Storage) | ~USD 48,0 Juta | – |
| Infrastruktur (Power, Cooling, Rack, Network) | ~USD 6,5 Juta | – |
| Opex Listrik (1,2 MW × 24/7 × 3 th × $0,09/kWh) | ~USD 2,8 Juta | – |
| Opex Ops & Support (NVIDIA AI Enterprise 3-yr + FTE) | ~USD 4,2 Juta | – |
| Cloud GPU Spot (256× H100 × 730 jam × 36 bln × $2,8/hr) | – | ~USD 188,0 Juta |
| Total 3 Tahun | ~USD 61,5 Juta | ~USD 188,0 Juta |
| Penghematan | ~67% (USD 126,5 Juta) | |
Asumsi: harga spot H100 8× $2,8/jam (AWS p5.48xlarge spot, Q2 2026), utilizasi 730 jam/bln, 36 bulan. On-prem mengasumsikan amortisasi hardware 3 tahun, PUE 1,15 (liquid cooling), listrik industri PDN $0,09/kWh (subsidi BUMN). Break-even tercapai di bulan ke-14.
Tantangan Operasional & Mitigasi
| Tantangan | Mitigasi Kominfo/NVIDIA |
|---|---|
| Supply chain GPU H100 (lead time 40+ minggu Q2 2026) | PO dibuka Q4 2025 via NVIDIA PNYP (Priority NVIDIA Youth Program) + allocation Kominfo strategic partner |
| Talent gap: HPC/AI ops engineer (butuh 12 FTE) | Program Kominfo DTS AI Infrastructure 2026 (beasiswa 200 engineer, kurikulum NVIDIA DLI + certified) |
| Cooling density 37 kW/rack (melebihi standar PDN 25 kW) | Retrofit 4 rak CDU liquid cooling, upgrade chiller 500 kW, monitoring DCIM real-time |
| Data sovereignty compliance (UU PDP, PP 71/2019) | Data tidak keluar PDN; enkripsi at-rest (AES-256, KMS lokal), in-transit (mTLS), audit log SIEM |
| Model checkpoint resilience (training 70B butuh ckpt tiap 500 step) | DDN A³I + NCCL async checkpoint + Triton checkpoint offload ke NVMe tier |
Roadmap Ekspansi 2026–2027
- Q3 2026: Tambah 16 node DGX H100 (total 48 node, 384 GPU) — target 19,2 exaFLOPS FP8.
- Q4 2026: Deploy NVIDIA GB200 NVL72 (Blackwell) 4 rack (1152 GPU) — target 100+ exaFLOPS FP4, mendukung training >400B parameter.
- Q1 2027: Integrasi NVIDIA Quantum-X800 InfiniBand (800 Gbps) + Spectrum-X800 Ethernet untuk multi-tenant inference serving via NVIDIA NIM.
- 2027: Target total kapasitas AI soberan nasional >50 exaFLOPS FP8 (termasuk kontribusi BUMN: Telkom, Indosat, BRI, Pertamina).
Kesimpulan
DGX SuperPOD pertama di PDN Cibinong menandai titik balik: Indonesia tidak lagi sekadar konsumen GPU cloud, melainkan pemilik infrastruktur AI soberan. Kombinasi NVLink domain 256-GPU, software stack NVIDIA AI Enterprise, dan kedaulatan data di PDN menciptakan fondasi bagi LLM berbahasa Indonesia skala besar (Merah Putih, Garuda), layanan AI publik, dan riset strategis BUMN. Tantangan utama kini bergeser dari procurement ke utilization efficiency — memastikan 256 GPU H100 beroperasi >70% utilizasi 24/7 untuk training dan inferensi yang bernilai ekonomi dan strategis bagi negara.
Sumber
- NVIDIA Blog: "Indonesia Deploys First DGX SuperPOD for Sovereign AI" (Mei 2026)
- Kominfo Press Release: "Peluncuran Infrastruktur AI Soberan Nasional di PDN Cibinong" (Juni 2026)
- Datacenter Dynamics: "Indonesia's Sovereign AI Push: Inside Kominfo's DGX SuperPOD Deployment" (Juli 2026)
- Bisnis.com: "Kominfo Operasikan Supercomputer AI Pertama, Target 10 ExaFLOPS 2026" (Juli 2026)
- NVIDIA DGX SuperPOD Reference Architecture (DGX-H100-32N-NDR, Rev 2.1, 2026)
- Kominfo Whitepaper: "Strategi AI Soberan Indonesia 2025–2029" (Januari 2026)
Artikel ini bagian dari seri berkala kategori AI — topik: NVIDIA DGX SuperPOD Indonesia Pertama 2026 AI Soberan Kominfo.