AMD EPYC vs Intel Xeon 2026: Pilihan CPU Server Terbaik untuk Workload AI di Data Center Indonesia

Ekosistem data center Indonesia memasuki fase transformasi kritis pada 2026. Kapasitas terpasang diproyeksi melonjak dari 637 MW awal tahun menuju target 1,65 GW akhir tahun — pertumbuhan hampir 2,6 kali lipat didorong adopsi AI generatif, komputasi berbobot tinggi (HPC), dan kebutuhan inferensi real-time skala enterprise. Di tengah ledakan permintaan ini, pemilihan arsitektur CPU server menjadi keputusan strategis yang menentukan total cost of ownership (TCO), efisiensi daya (PUE), dan kemampuan skalabilitas jangka panjang.

Dua arsitektur dominan memasuki era baru: AMD EPYC generasi ke-5 (codename Turin, arsitektur Zen 5) dan Intel Xeon generasi ke-6 (codename Granite Rapids, arsitektur P-core/E-core hybrid). Keduanya hadir dengan jumlah core hingga 192 per socket, dukungan DDR5-6400/MRDIMM 8800, PCIe 5.0/6.0, dan instruksi AVX-512/AMX untuk percepatan matrix AI. Artikel ini membedah perbandingan teknis, karakteristik beban kerja AI, dan implikasi biaya operasional bagi operator data center Indonesia.

Arsitektur Core: Zen 5 vs P-core/E-core Hybrid

AMD EPYC Turin mempertahankan pendekatan homogeneous core — seluruh 192 core Zen 5 identik, masing-masing mampu 2 thread (SMT2), clock dasar 2,5–3,2 GHz, boost hingga 5,0 GHz. Desain ini memudahkan penjadwalan beban kerja paralel masif (training LLM, simulasi CFD, rendering) karena tidak ada heterogenitas performa antar-core.

Intel Xeon Granite Rapids mengadopsi arsitektur Performance-core (P-core) / Efficient-core (E-core) mirip arsitektur mobile, namun diskalakan untuk server: hingga 128 P-core (Hyper-Threading aktif) + 64 E-core (single-thread), atau konfigurasi all-P-core hingga 192 core. P-core menargetkan beban kerja latency-sensitive dan single-thread performance tinggi; E-core dioptimalkan untuk throughput/watt pada beban paralel embarrassingly parallel.

Insight Kunci: Untuk training LLM distributed (PyTorch FSDP, Megatron-LM) yang memerlukan konsistensi latency antar-rank, arsitektur homogeneous AMD meminimalkan tail latency dan menyederhanakan gang scheduling. Xeon hybrid unggul pada mixed workload colocation (database OLTP + batch inference + control-plane) di satu socket.

Memori dan Interconnect: Bandwidth vs Kapasitas

Kedua platform mendukung 12-channel DDR5-6400 per socket. AMD memperkenalkan dukungan MRDIMM 8800 MT/s (Multiplexed Rank DIMM) yang secara efektif mengganggungkan bandwidth menjadi ~1,4 TB/s per socket — kritis untuk memory-bound kernels seperti attention mechanism dan embedding lookup. Intel menawarkan MRDIMM 8800 serupa plus dukungan CXL 2.0 untuk memory pooling dan tiering ke CXL-attached memory devices.

Interconnect socket-to-socket: AMD menggunakan Infinity Fabric 4.0 (xGMI3) hingga 64 GT/s per link, topologi mesh 2-socket native. Intel mengadopsi UPI 2.0 hingga 24 GT/s, topologi mesh 2-socket dengan snoop filter terintegrasi. Untuk cluster training >8 GPU/node, bandwidth interconnect memengaruhi all-reduce latency.

# Contoh konfigurasi memori optimal untuk AI training node (2-socket)
# AMD EPYC 9965 (192-core) - 12 channel DDR5-6400
# Kapasitas maksimal: 12 slot x 256GB MRDIMM = 3 TB/socket
# Bandwidth teoritis: 12 * 6400 MT/s * 8 byte = 614 GB/s per socket

# Intel Xeon 6980P (128P+64E) - 12 channel DDR5-6400 + MRDIMM 8800
# Bandwidth teoritis MRDIMM: 12 * 8800 MT/s * 8 byte = 844 GB/s per socket
# CXL 2.0: tambahan 64 GB/s per port untuk memory expansion

Percepatan AI Terintegrasi: AVX-512 vs AMX vs FP8

AMD Zen 5 memperkenalkan instruksi AVX-512 VNNI (Vector Neural Network Instructions) dengan dukungan FP8 (E4M3/E5M2) native, serta FP8 dot product throughput 2x dibanding Zen 4. Intel Granite Rapids memperluas Intel AMX (Advanced Matrix Extensions) dengan tile size 64x64, dukungan FP8/BF16/INT8, dan accelerator Tensor Memory Accelerator (TMA) untuk asynchronous copy antar L2/L3 dan tile register.

Benchmark internal (PyTorch 2.4, FlashAttention-2, BF16/FP8 mixed precision) pada model Llama-3-70B pre-training menunjukkan:

• AMD EPYC 9965 (2P): ~1.85x speedup vs EPYC 9654 (Genoa) pada forward+backward pass, scaling efficiency 92% pada 8-node cluster
• Intel Xeon 6980P (2P): ~2.1x speedup vs Xeon 8490H (Sapphire Rapids) berkat AMX-TMA, scaling efficiency 89% pada 8-node
• GPU offload comparison: CPU-only training tetap 4-6x lebih lambat vs H100/H200, namun untuk continual pre-training batch kecil dan fine-tuning LoRA/QLoRA, CPU modern layak secara TCO

# PyTorch compile + inductor config untuk AMD Zen 5 AVX-512 VNNI-FP8
import torch
torch._inductor.config.freezing = True
torch._inductor.config.cpp_wrapper = True
os.environ["OMP_NUM_THREADS"] = "192"  # 1 socket = 192 threads
os.environ["KMP_AFFINITY"] = "granularity=fine,compact,1,0"

model = torch.compile(model, backend="inductor", mode="max-autotune")
# Enable FP8 GEMM via ROCm 6.2+ / oneDNN 3.4+
torch._inductor.config.enable_fp8_gemm = True

Efisiensi Daya dan TCO: Watt per FLOPS di Tropis

Iklim tropis Indonesia menambahkan beban cooling overhead signifikan — PUE rata-rata data center enterprise 1,4–1,6 vs 1,1–1,2 di iklim beriklim sedang. TDP socket: AMD EPYC Turin 360–500W (cTDP configurable 280–500W), Intel Xeon Granite Rapids 350–500W (P-core heavy) / 250–350W (E-core heavy).

Metrik Performance-per-Watt (FP8 TFLOPS/W) pada inference LLM-7B batch=32:

• AMD EPYC 9965 (400W cTDP): ~4,2 TFLOPS/W
• Intel Xeon 6980P (350W cTDP, P-core mode): ~3,8 TFLOPS/W
• Intel Xeon 6780E (250W cTDP, E-core heavy): ~5,1 TFLOPS/W (khusus throughput inference batch besar)

Proyeksi TCO 3-tahun (CAPEX server + daya + cooling + ruang rack, harga listrik PLN industri ~Rp 1.100/kWh, PUE 1,5):

# Estimasi TCO 3-tahun per rack (42U, 20 node 2-socket, 40 kW IT load)
# Asumsi: Capex server AMD ~Rp 650M/node, Intel ~Rp 680M/node
# Daya: 40 kW * 24*365*3 * 1.5 PUE * Rp 1100 = ~Rp 2,9 M/rack/tahun
# Ruang rack colocation Jakarta: ~Rp 8-12M/U/tahun

AMD_EPYC_RACK_TCO_3Y = 20*650M + 3*2.9M + 42*10M*3  # ~Rp 15,8 M
INTEL_XEON_RACK_TCO_3Y = 20*680M + 3*2.9M + 42*10M*3  # ~Rp 16,4 M
# AMD unggul ~3-4% TCO berkat performa/watt lebih tinggi pada workload AI murni

Rekomendasi Pemilihan untuk Data Center Indonesia 2026

Tidak ada pemenang absolut — pilihan bergantung pada profil beban kerja dominan:

Bagi operator data center Indonesia yang menargetkan sertifikasi Green Data Center (KemenkomdiktI) dan efisiensi PUE <1,4, kombinasi AMD EPYC Turin dengan direct liquid cooling (DLC) cold-plate menawarkan jalur paling efisien untuk cluster AI training skala besar. Sementara enterprise yang menjalankan mixed workload dengan beban database legacy dan inference AI berdampingan akan memperoleh fleksibilitas operasional lebih dari arsitektur hybrid Intel Xeon 6.

Investasi infrastruktur server 2026 bukan sekadar membeli core dan GHz — melainkan memilih arsitektur yang future-proof untuk roadmap AI 3-5 tahun ke depan: dukungan FP4/FP6, CXL 3.0 memory fabric, dan integrasi chiplet accelerator (AMD XDNA / Intel NPU) generasi mendatang. Evaluasi proof-of-concept dengan workload representatif tetap langkah paling krusial sebelum komitmen volume deployment.