Sign in Subscribe
FinOps

FinOps 2026: Mengapa Cloud Waste Naik 29% dan Bagaimana Perusahaan Indonesia Mengatasinya

Laporan Flexera 2026 mengungkap cloud waste naik ke 29% — pertama kali dalam lima tahun. AI workload jadi penyebab utama. Artikel ini bahas strategi FinOps praktis untuk tim DevOps dan engineering Indonesia: tagging otomatis, rightsizing Kubernetes, FOCUS billing standard, dan governance AI spend.

Aziz

— 4 min read
Share
FinOps 2026: Mengapa Cloud Waste Naik 29% dan Bagaimana Perusahaan Indonesia Mengatasinya

Laporan Flexera 2026 State of the Cloud yang dirilis Maret lalu mengejutkan banyak CIO dan tim platform: cloud waste melonjak ke 29% dari total belanja cloud, naik dua poin dari 27% tahun 2025. Ini adalah kenaikan pertama dalam lima tahun — dan penyebab utamanya jelas: AI workload yang tumbuh liar tanpa disiplin biaya.

Di Indonesia, di mana perusahaan mulai migrasi skala besar ke AWS, Azure, dan GCP sambil bereksperimen dengan LLM dan GPU instance, angka ini bukan sekadar statistik global. Ia merefleksikan realitas di tim DevOps lokal: cluster EKS/GKE yang over-provisioned, S3 bucket orphan, GPU A100/H100 yang berjalan 24/7 untuk inference batch yang cuma butuh jam-jam tertentu, dan tagging yang tidak konsisten sehingga finance tidak bisa men-charge-back ke business unit yang benar.

Highlight: 98% organisasi sekarang mengelola AI spend, naik drastis dari 31% dua tahun lalu (Flexera 2026). Tapi hanya separuh yang punya governance formal untuk AI cost. Gap inilah yang menciptakan waste.

1. Root Cause: AI Workload Tanpa Guardrails FinOps

Perbedaan fundamental antara workload tradisional dan AI workload ada pada ketidakpastian penggunaan resource. Training model butuh GPU burst berhari-hari; inference butuh latency rendah tapi volume fluktuatif. Tim data science sering request instance p4d.24xlarge (8x A100) atau g5.48xlarge (8x A10G) tanpa capacity planning. Setelah eksperimen selesai, instance sering tidak di-terminate — karena "mungkin besok dipakai lagi".

Di sisi lain, layanan managed seperti Amazon Bedrock, Azure OpenAI, dan Vertex AI menagih per token atau per jam endpoint. Tanpa monitoring granular, satu tim bisa menghabiskan puluhan juta rupiah dalam seminggu untuk fine-tuning yang tidak masuk production.

# Contoh: Estimasi biaya GPU training tanpa guardrails
# p4d.24xlarge (8x A100 40GB) ≈ $32.77/jam (On-Demand US-East-1)
# 14 hari training × 24 jam = 336 jam
# Total: ~$11,000 ≈ Rp 175 juta (kurs Rp 15.900)
# Jika 3 tim lakukan paralel tanpa koordinasi → Rp 500 juta+/bulan

2. Tiga Pilar FinOps Modern untuk Era AI (2026)

Framework FinOps Foundation versi 2026 menekankan tiga pilar yang harus diadopsi bersamaan:

a. Observability & Allocation (Tagging Otomatis + FOCUS)

Standar FOCUS (FinOps Open Cost and Usage Specification) kini stabil v1.0 (Juni 2026). AWS CUR 2.0, Azure Cost Details, dan GCP Billing Export sudah mendukung schema FOCUS. Artinya: tim platform bisa menulis satu query SQL untuk biaya multi-cloud.

-- Contoh query FOCUS: biaya GPU per project per hari
SELECT
  BillingPeriodStart,
  ResourceTags["project"],
  ServiceName,
  SUM(EffectiveCost) AS daily_gpu_cost
FROM focus_billing_export
WHERE ServiceName LIKE '%GPU%' OR SKU LIKE '%p4d%' OR SKU LIKE '%g5%'
GROUP BY 1,2,3
ORDER BY 1 DESC;

Di sisi implementasi: tagging wajib otomatis via Terraform/Pulumi policy pack. Setiap resource yang dibuat tanpa tag project, environment, owner, cost_center ditolak di pipeline CI/CD.

b. Optimization & Rightsizing (Kubernetes + GPU)

Tools seperti Vantage, nOps, CloudZero, dan CAST AI kini mendukung GPU rightsizing dan workload-aware autoscaling. Untuk cluster Kubernetes (EKS/GKE/AKS), pola terbaik 2026:

  • Node pool terpisah untuk GPU (spot/preemptible untuk training, on-demand untuk inference)
  • Karpenter / GKE Autopilot dengan NodeClaim yang specify nvidia.com/gpu limit
  • KEDA dengan scaler prometheus berbasis gpu_utilization metric → scale-to-zero saat idle
# Karpenter NodePool untuk GPU training (spot)
apiVersion: karpenter.sh/v1beta1
kind: NodePool
metadata:
  name: gpu-training-spot
spec:
  template:
    spec:
      requirements:
        - key: nvidia.com/gpu
          operator: Exists
        - key: karpenter.sh/capacity-type
          operator: In
          values: ["spot"]
      tolerations:
        - key: nvidia.com/gpu
          operator: Exists
          effect: NoSchedule
  limits:
    nvidia.com/gpu: 100  # max 100 GPU di pool ini
  disruption:
    consolidationPolicy: WhenEmpty
    consolidateAfter: 5m

c. Governance & Accountability (Chargeback + AI Policy)

Enterprise Indonesia yang matang (bank, e-commerce, telco) mulai menerapkan showback → chargeback bertahap. Langkah praktis:

  1. Bulan 1-2: Dashboard per business unit (Grafana/PowerBI + FOCUS)
  2. Bulan 3: Showback bulanan ke VP Engineering & CFO
  3. Bulan 6: Chargeback otomatis via tag cost_center ke anggaran departemen
  4. Khusus AI: Policy "No GPU without approved ML project ID" — enforce via admission controller (OPA/Gatekeeper)

3. Tooling Landscape 2026: Mana yang Dipakai Tim Indonesia?

Berdasarkan survei komunitas DevOps Jakarta (Juli 2026) dan data GitHub stars:

Kategori Tools Populer Catatan
Multi-cloud Cost Visibility Vantage, CloudZero, nOpsVantage paling cepat setup (15 menit); nOps kuat di Kubernetes rightsizing
Kubernetes CostCAST AI, Kubecost, GoldilocksCAST AI auto-rightsize + spot fallback; Goldilocks untuk VPA rekomendasi
AI/GPU SpecificRun:ai, NVIDIA GPU Operator, KueueRun:ai untuk scheduling & quota; Kueue (CNCF) untuk queueing training job
IaC Policy / Tag EnforcementTerraform Sentinel, OPA, CheckovSentinel untuk Terraform Cloud; OPA/Gatekeeper untuk Kubernetes admission
Billing StandardFOCUS (SQL/Parquet), OpenCostOpenCost open-source, integrate Prometheus + FOCUS export

Rekomendasi untuk tim menengah (50-200 engineer): mulai dengan OpenCost + FOCUS export ke BigQuery/ClickHouse + Grafana dashboard — zero license cost, full control. Enterprise (>500 engineer) pertimbangkan Vantage/CloudZero untuk anomaly detection ML-based dan executive reporting.

4. Checklist Implementasi 30 Hari (Quick Wins)

  1. Hari 1-3: Enable AWS CUR 2.0 / Azure Cost Details / GCP Billing Export ke bucket FOCUS-compliant
  2. Hari 4-7: Deploy OpenCost di cluster K8s; verify FOCUS parity dengan cloud provider bill
  3. Hari 8-14: Implement tagging policy di Terraform (Sentinel/OPA); block deploy tanpa tag wajib
  4. Hari 15-21: Setup Karpenter/KEDA untuk GPU node pool; enable scale-to-zero untuk inference endpoint
  5. Hari 22-30: Build dashboard per project (cost, GPU hours, waste estimate); present ke leadership
# Quick check: estimasi saving dari rightsizing GPU
# Asumsi: 20 GPU A10G (g5.xlarge) running 24/7, utilisasi rata-rata 15%
# Sebelum: 20 × $1.006/jam × 730 jam = $14,688/bulan
# Sesudah (KEDA scale-to-zero + spot training): 40% utilization efektif
# Estimasi saving: ~$8,800/bulan ≈ Rp 140 juta/bulan

Kesimpulan: FinOps Bukan Cost Cutting, Tapi Value Engineering

Naiknya cloud waste ke 29% bukan kegagalan cloud — tapi tanda kematangan organisasi yang belum sebanding dengan kecepatan adopsi AI. Perusahaan Indonesia yang berhasil menurunkan waste ke di bawah 15% (benchmark FinOps Foundation 2026) memiliki satu kesamaan: FinOps diembed di engineering culture, bukan dibuang ke finance team.

Mulai hari ini: wajibkan tagging, standarkan billing ke FOCUS, otomatisasi rightsizing GPU, dan buat AI spend visible ke pembuat keputusan. Waste 29% bukan takdir — itu pilihan arsitektur dan proses yang bisa diubah.

Artikel ini disusun berdasarkan Flexera 2026 State of the Cloud Report, FinOps Foundation Framework v2026, survei komunitas DevOps Indonesia, dan best practices dari implementasi multi-cloud di enterprise lokal. Kode contoh production-ready untuk Kubernetes 1.28+ dan Terraform 1.9+.

Read more