Sandisk HBF dan BiCS10 QLC: Solusi Storage Generasi Baru untuk Era Inferensi AI 2026

Tahun 2026 menandai titik balik krusial bagi industri penyimpanan data. Semakin masifnya adopsi model Large Language Model (LLM) dan agentic AI di perusahaan, menciptakan tekanan tak precedented terhadap infrastruktur storage. Bottleneck tidak lagi pada komputasi GPU, melainkan pada kemampuan mengakses dan memindahkan data skala besar dengan latensi rendah dan efisiensi daya optimal. Di FMS 2026 (Future of Memory and Storage), Sandisk memperkenalkan dua terobosan fundamental: HBF (High Bandwidth Flash) dan BiCS10 QLC NAND — yang bersama-sama menjawab memory wall yang menghambat skala inferensi AI modern.

HBF: Layer Baru Antara HBM dan SSD

High Bandwidth Flash (HBF) bukan sekadar SSD lebih cepat. Ia adalah arsitektur memori baru yang menempati posisi strategis di antara HBM (High Bandwidth Memory) yang mahal dan kapasitas terbatas, dengan SSD tradisional yang memiliki bandwidth lebih rendah. Menggunakan antarmuka UCIe (Universal Chiplet Interconnect Express) dan TSV stacking (Through-Silicon Via) 8 hingga 16 lapis, HBF menawarkan bandwidth 0,4–3,0 TB/s dengan kapasitas hingga 512 GB per modul.

Insight Kunci: HBF tidak menggantikan HBM — ia melengkapinya. HBM tetap unggul untuk training dan beban kerja latensi ultra-rendah, sementara HBF menyediakan kapasitas masif untuk KV cache, RAG (Retrieval-Augmented Generation), dan inference serving skala besar dengan biaya per GB jauh lebih rendah.

// Contoh arsitektur hybrid HBM + HBF untuk inference server
class AIInferenceNode {
    HBMModule hbm;        // 80-192 GB, bandwidth >3 TB/s
    HBFModule hbf;        // 256-512 GB, bandwidth 1-3 TB/s
    NVMeSSD coldStorage;  // 30+ TB, capacity tier
    
    Tensor allocateKVCache(ModelConfig cfg) {
        // Hot KV cache → HBM
        // Warm KV cache → HBF  
        // Cold/archival → NVMe
        return tieredAllocation(cfg.contextLength);
    }
}

BiCS10 QLC NAND: Kepadatan Generasi Ke-10

BiCS10 (Bit Cost Scalable generasi ke-10) QLC NAND merepresentasikan lompatan kepadatan 3D NAND Sandisk/Kioxia. Dengan arsitektur CBA (CMOS Bonded Array) dan wafer bonding, BiCS10 mencapai kepadatan bit yang memungkinkan SSD enterprise berkapasitas 61 TB dalam format E3.S — kapasitas yang sebelumnya mustahil tanpa mengorbankan endurance atau power efficiency.

Inovasi kunci BiCS10 QLC:

• Adaptive Write Technology: Mengubah karakteristik QLC agar perilaku mirip multi-tier store, mengurangi write amplification hingga 40%.
• PCIe Gen 6 Ready: Desain controller mendukung 64 GT/s, mempersiapkan transisi ke SSD Gen6 2026-2027.
• Low-Power Idle States: L1.2 substate mengurangi konsumsi daya idle hingga 50% vs generasi sebelumnya — kritis untuk data lake skala exabyte.

Framework Siklus Data AI: Dari Ingestion ke Inferensi

Sandisk tidak hanya menjual hardware; mereka memetakan kebutuhan penyimpanan ke setiap tahap AI data lifecycle melalui AI Data Cycle Framework terbaru:

1. Raw Data Archival — Object storage + HDD/QLC SSD untuk data lake mentah.
2. Preprocessing & Feature Engineering — NVMe TLC SSD berperforma tinggi (PCIe Gen5).
3. Training Checkpoint — HBM/HBF hybrid untuk checkpointing cepat.
4. Model Serving / Inferensi — HBF untuk KV cache + QLC SSD kapasitas besar untuk model weights.
5. Inference Logs & Feedback Loop — QLC SSD berkapasitas tinggi untuk telemetry dan RLHF data.

Pendekatan tiered ini memungkinkan perusahaan mengoptimalkan TCO (Total Cost of Ownership) dengan menempatkan data pada tier yang tepat — menghindari over-provisioning HBM yang mahal untuk beban kerja yang justru lebih cocok di HBF atau QLC SSD.

Implikasi untuk Arsitek Infrastruktur Indonesia

Bagi CTO dan arsitek cloud di Indonesia yang membangun AI factory atau sovereign AI cloud, tersedianya HBF dan BiCS10 QLC di pasar 2026 mengubah kalkulasi ekonomi:

• Kapital expenditure (CapEx) turun 30-40% untuk kapasitas inferensi setara, berkat HBF menggantikan sebagian HBM.
• Operational expenditure (OpEx) berkurang via efisiensi daya BiCS10 QLC — watts per TB terendah dalam industri.
• Supply chain resilience terjamin lewat joint venture Sandisk-Kioxia Yokkaichi yang diperpanjang hingga 2034.

Integrasi dengan platform Kubernetes (CSI driver untuk HBF, LocalPV untuk QLC SSD) dan dukungan KV cache offload di vLLM, TensorRT-LLM, dan SGLang memastikan software stack siap saat hardware tiba di data center Jakarta, Surabaya, atau Batam.

Kesimpulan

Era inferensi AI 2026 menuntut pemikaran ulang fundamental tentang memory hierarchy. HBF dan BiCS10 QLC NAND dari Sandisk bukan sekadar produk baru — mereka mendefinisikan layer baru dalam arsitektur AI infrastructure. Perusahaan Indonesia yang adopsi awal akan memperoleh keunggulan biaya dan skala yang sulit dikejar kompetitor yang tetap bergantung pada arsitektur HBM-only atau SSD-only. Waktu untuk proof-of-concept HBF di klaster inferensi Anda adalah sekarang — sebelum model window context 1M+ token jadi standar industri.