Infrastruktur Server AI Indonesia 2026: Tantangan Daya, Pendingin Cair, dan Kedaulatan Data di Era GPU

Jakarta — Ketika Volta Infra, startup berusia 7 bulan, meraih kontrak cloud senilai Rp 180 triliun dari Anthropic pada Juli 2026, sinyalnya jelas: era infrastruktur AI generatif telah tiba, dan Indonesia berada di garis depan. Namun di balik kesuksesan itu tersembunyi tantangan teknis yang jauh lebih kompleks dari sekadar menyediakan GPU. Arsitek infrastruktur di Indonesia kini berhadapan dengan tiga tekanan simultan: kepadatan daya yang melampaui batas pendingin udara, kebutuhan kedaulatan data yang memaksa lokalisasi komputasi, dan perang arsitektur CPU yang menentukan fondasi ekonomi AI nasional.

1. Perang CPU: Intel Xeon 6 Clearwater Forest vs AMD EPYC 9006 — Fondasi Orkestrasi GPU

Pada 2026, CPU tidak lagi sekadar "host" untuk GPU. Intel Xeon 6+ (Clearwater Forest) dan AMD EPYC 9006 Series bersaing sebagai orchestrator beban kerja agen AI otonom. Kedua arsitektur ini dirancang untuk agentic AI — di mana ribuan agen AI berjalan paralel, masing-masing memerlukan thread CPU, bandwidth memori, dan latensi antar-socket yang deterministik.

# Contoh spesifikasi perbandingan puncak 2026
# Intel Xeon 6990E+ (Clearwater Forest, Intel 18A)
# - 288 E-core, 2-socket, TDP 450W
# - 12-channel DDR5-8000, 96 lane PCIe 6.0 / 64 lane CXL 3.0
# - 576MB LLC, Intel AMX untuk inferensi matrix INT8/BF16

# AMD EPYC 9965 "Turin" (Zen 5, TSMC N3)
# - 192 core / 384 thread, 2-socket, TDP 500W
# - 12-channel DDR5-6400, 128 lane PCIe 5.0 / CXL 2.0
# - 384MB L3, AVX-512 VNNI untuk throughput AI end-to-end

Insight Praktis: Bukan soal core count tertinggi, tapi agents per watt per rack. AMD EPYC 9006 unggul pada thread density (512 thread/socket vs 288 Intel), sementara Xeon 6+ mengunggulkan memory bandwidth per core (DDR5-8000 vs DDR5-6400) dan CXL 3.0 untuk memory pooling yang kritis saat model LLM melebihi VRAM GPU.

Di Indonesia, pilihan CPU sering didiktekan oleh ekosistem vendor server lokal. Lenovo, HPE, Dell, dan Supermicro sudah menyiapkan platform Gen12/Gen11 yang certified untuk kedua CPU. Namun, faktor ketersediaan suku cadang dan SLA dukungan di Jakarta sering memutuskan keputusan lebih dari benchmark sintetis. Enterprise Indonesia cenderung memilih platform yang sudah memiliki footprint service engineer di dalam negeri — saat ini banyak berbasis Intel Xeon existing base, namun AMD EPYC 9005 sudah menguasai 40% pasar server AI baru Q1 2026 (data IDC).

2. Liquid Cooling: Dari Opsional Menjadi Mandatori di Rack >100 kW

Chip AI generasi terbaru — NVIDIA Blackwell B300 (1.2 kW), AMD MI325X (1 kW), Intel Gaudi 3 (900 W) — mendorong kepadatan rack melebihi 100 kW. Pendingin udara (CRAC/CRAH) hitting batas termodinamika di approach temperature 35-40°C. Solusi wajib 2026: Direct-to-Chip (D2C) Liquid Cooling dengan cold plate pada CPU dan GPU, dipasangkan Coolant Distribution Unit (CDU) rack-level.

# Arsitektur Liquid Cooling Standar 2026 (Referensi OCP ORv3)
# 1. Facility Water Loop (FWL): 30-45°C supply, delta T 10-15°C
# 2. CDU Rack: Heat exchanger brazed plate, 250-500 kW capacity
# 3. TCS (Technology Cooling System): Cold plate CPU/GPU, manifold leak-free
# 4. Coolant: PG25 (Propylene Glycol 25%) atau dielectric fluid single-phase
# 5. Redundansi: N+1 CDU per row, quick-disconnect non-drip fittings

Equinix JK1 Jakarta (fase 1: 550 kabinet, fase 2 target 1.600 kabinet) sudah membangun infrastruktur dual-mode cooling — air-side economizer untuk beban konvensional, liquid-ready manifold untuk zona AI. Edge DC (Indonet) menerapkan teknologi StatePoint Liquid Cooling berbasis membran evaporatif yang mengurangi konsumsi air 40% dibanding cooling tower konvensional — kritis untuk kelestarian air di Jawa Barat.

Catatan Lapangan: BSSN dan Kominfo mulai mensyaratkan liquid cooling readiness pada tender data center pemerintah sektor strategis 2026. Vendor yang tidak memiliki referensi D2C deployment di Indonesia 2025-2026 berisiko gagal kualifikasi teknis.

3. Kedaulatan Data & Data Residency: Mengubah Topologi Deployment

UU PDP, regulasi OJK (sektor keuangan), dan mandat Kominfo soal Sovereign Cloud Framework memaksa enterprise menyimpan dan memproses data sensitif di dalam negeri. Implikasinya pada arsitektur server:

• Training/ Fine-tuning: Harus di GPU cluster lokal (Indonesia Central Cloud Region Microsoft, JK1 Equinix, TrendAI DC, Volta Infra Norwegia tapi data plane lokal)
• Inferensi Produksi: Edge inference di region Jakarta/Surabaya/Batam dengan latency <10ms
• Backup/DR: Replikasi synchronous ke DC kedua di wilayah Indonesia (mis. Jakarta → Batam via NCC/CANDLE cable)

# Contoh profil daya rack AI 2026 (2-socket EPYC 9965 + 8x MI325X)
# Idle:           2.8 kW  (CPU C-state tief, GPU clock-gated)
# Prefill (batch): 42 kW  (CPU all-core turbo, GPU compute 100%)
# Decode (stream): 28 kW  (CPU memory-bound, GPU memory-bound)
# Peak transient:  52 kW  (power virus workload, butuh CDU headroom 30%)
# Rata-rata 24h:  18 kW  (dengan SDP + workload scheduling)