BiCS10 QLC NAND dan HBF: Inovasi Penyimpanan Flash untuk Era Inferensi AI 2026

Industri penyimpanan data memasuki fase transformasi fundamental di 2026. Beban kerja AI generatif — khususnya inferensi skala besar dengan context window yang meluas dan arsitektur agentic AI — mendorong permintaan kapasitas, bandwidth, dan efisiensi daya ke level yang belum pernah terjadi sebelumnya. Di FMS 2026 (Future of Memory and Storage), Sandisk memperkenalkan tiga pilar teknologi: BiCS10 QLC NAND generasi kedelapan, HBF (High Bandwidth Flash) berbasis NAND, dan AI Data Cycle Framework terbaru. Sementara itu, Synology di COMPUTEX 2026 menampilkan DSM dengan dukungan GPU pada NAS untuk inferensi AI on-premise. Kedua inovasi ini mengkonfirmasi tren yang sama: flash memory tidak lagi hanya media penyimpanan pasif, melainkan fondasi aktif infrastruktur AI.

BiCS10 QLC NAND: Kepadatan Tinggi untuk Data Lake AI

BiCS10 mewakili generasi ke-10 teknologi 3D NAND Sandisk/Kioxia. Berbeda dengan pendekatan generasi sebelumnya yang fokus pada peningkatan jumlah layer semata, BiCS10 menerapkan arsitektur CMOS Bonded Array (CBA) yang memisahkan die logika (CMOS) dari die memori (array sel). Pemisahan ini memungkinkan proses fabrikasi die logika di node yang lebih matang (misalnya 28nm) sementara die array memanfaatkan litografi EUV untuk word-line dan bit-line yang lebih rapat.

# Contoh parameter BiCS10 QLC (estimasi teknis)
NAND_GENERATION=10
CELL_TYPE=QLC  # 4 bit per cell
LAYERS=218+
DIE_DENSITY=1Tb+ per die
INTERFACE=Toggle 5.0 / ONFI 5.0
PLANES_PER_DIE=4
PAGE_SIZE=16KB + 512B spare
BLOCK_SIZE=2MB (128 pages)
READ_LATENCY=~95us (random)
PROGRAM_LATENCY=~1.8ms (typical)
ERASE_LATENCY=~3.5ms
ENDURANCE_P/E=1000 cycles (QLC)
POWER_ACTIVE=~45mW per die
POWER_STANDBY=~5mW per die

Insight Teknis: CBA wafer bonding memungkinkan logic-under-array architecture di mana peripheral circuitry tidak lagi bersaing untuk area silicon di bawah array sel. Hasilnya: kepadatan bit naik ~40% vs generasi sebelumnya, sedangkan konsumsi daya per GB turun ~30%.

Bagi beban kerja AI, BiCS10 QLC menjawab kebutuhan fast data lake — lapisan penyimpanan yang menyediakan throughput baca tinggi (sequential read > 3.6 GB/s per die) untuk mengumpankan GPU/NPU selama fase retrieval-augmented generation (RAG) dan kv-cache offloading. Endurance 1.000 P/E cycle QLC cukup untuk write-once, read-many pola yang khas pada training checkpoint dan inference cache.

HBF (High Bandwidth Flash): Menembus "Memory Wall" Inferensi

HBM (High Bandwidth Memory) tetap raja bandwidth dan latensi rendah, namun kapasitas per package terbatas (maksimal 24-36GB per stack HBM3E) dan biaya per GB sangat tinggi. HBF hadir sebagai komplementer: berbasis NAND 3D (menggunakan die BiCS10), dikemas dengan through-silicon via (TSV) dan reflowable molded underfill untuk mencapai bandwidth > 2 TB/s per package dengan kapasitas 256GB-1TB per modul E3.S.

# Spesifikasi konseptual HBF (berbasis presentasi Sandisk FMS 2026)
ARCHITECTURE=3D NAND + TSV stacking
INTERFACE=PCIe Gen6 x8 / CXL 3.0
BANDWIDTH_SEQ_READ=2.4 TB/s
BANDWIDTH_SEQ_WRITE=1.8 TB/s
LATENCY_READ=~2.5us (vs ~100ns HBM)
CAPACITY_PER_MODULE=256GB, 512GB, 1TB (E3.S 1T form factor)
POWER=25W (active), 5W (idle)
ENDURANCE=3 DWPD (Drive Writes Per Day)
USE_CASE=KV cache offloading, RAG index, activation checkpointing
COST_PER_GB=~15-20% HBM3E

Arsitektur hybrid HBM+HBF menjadi jalur realistis: HBM menangani hot tier (model weights, attention scores), HBF mengelola warm tier (KV cache history, retrieved documents, intermediate activations). Sandisk mendemonstrasikan SSD Enterprise E3.S dengan HBF yang mendukung PCIe Gen6 dan CXL 3.0 untuk memory pooling across server rack.

AI Data Cycle Framework: Pemetaan Penyimpanan End-to-End

Sandisk memperbarui framework siklus data AI yang memetakan kebutuhan penyimpanan ke enam tahap: (1) Raw Data Ingestion — high-throughput write (QLC TLC mix), (2) Data Preparation & Curation — random read/write campuran, (3) Training Checkpointing — large sequential write, (4) Model Compression/Quantization — read-heavy, (5) Inference Serving — ultra-low latency read (HBF/HBM), (6) Inference Logging & Feedback Loop — append-only write. Setiap tahap memiliki profil I/O yang berbeda, dan framework ini membantu arsitek memilih media (QLC, TLC, SLC, HBF, HBM) serta form factor (E1.S, E3.S, U.2, ruler) yang optimal.

# Contoh placement policy berbasis AI Data Cycle
storage_tier_map = {
    "raw_ingest": {"media": "TLC SSD", "form": "E1.S", "capacity": "30.72TB"},
    "data_prep": {"media": "TLC SSD", "form": "E1.S", "capacity": "15.36TB"},
    "training_ckpt": {"media": "QLC SSD", "form": "E3.S", "capacity": "61.44TB"},
    "model_compress": {"media": "TLC SSD", "form": "U.2", "capacity": "7.68TB"},
    "inference_hot": {"media": "HBF", "form": "E3.S", "capacity": "1TB"},
    "inference_warm": {"media": "QLC SSD", "form": "E3.S", "capacity": "30.72TB"},
    "logging_feedback": {"media": "QLC SSD", "form": "E1.S", "capacity": "15.36TB"}
}

Synology di COMPUTEX 2026 memperkuat narasi ini dengan DSM yang mendukung GPU passthrough pada NAS (seri Plus dan Enterprise), memungkinkan inferensi model small-to-medium (7B-70B parameter) berjalan on-premise tanpa data keluar ke cloud. Cluster Manager dan ActiveProtect Manager 2.0 dengan deteksi anomali berbasis AI melengkapi tumpukan: penyimpanan, komputasi, dan proteksi data terintegrasi dalam satu platform.

Implikasi untuk Arsitek Infrastruktur Indonesia

Bagi organisasi Indonesia yang mengadopsi AI — dari BUMN, perbankan, e-commerce, hingga startup — dua tren ini menuntut pergeseran strategi procurement:

• CapEx shift: Alokasikan budget dari HDD capacity-tier ke QLC/E3.S untuk warm tier, dan HBF untuk inference tier. HDD tetap relevan untuk cold archive (compliance, backup).
• Form factor standardization: E3.S 1T menjadi standar de facto untuk high-density flash di rack 1U/2U (32 drive per 1U). Pastikan chassis server mendukung hot-plug E3.S dan PCIe Gen6 backplane.
• Software-defined storage (SDS) readiness: Adopsi CSI driver yang storage-class-aware (misalnya Longhorn, Rook-Ceph, atau vendor SDS) agar Kubernetes bisa memprovision volume ke tier yang tepat berdasarkan label storage-tier: inference-hot|warm|cold.
• Power & cooling: HBF 25W per modul berarti 32 drive = 800W per 1U. Perlu direct liquid cooling (DLC) atau setidaknya rear-door heat exchanger untuk kepadatan rack > 30kW.
• Keamanan data & soberanitas: Inferensi on-premise (Synology DSM + GPU) menjaga data sensitif (KYC, transaksi, medis) tetap di wilayah hukum Indonesia, memenuhi PDP dan regulasi sektor (OJK, Kemenkes).

Kesimpulan

Tahun 2026 menandai titik balik: flash memory berevolusi dari “penyimpanan” menjadi “memori terdistribusi” untuk AI. BiCS10 QLC menurunkan biaya per GB data lake, HBF menembus “memory wall” inferensi dengan ekonomi yang masuk akal, dan framework siklus data AI memberi peta navigasi bagi arsitek. Organisasi yang menginternalisasi pemetaan tier ini hari ini akan memperoleh efisiensi TCO 30-50% saat skala inferensi naik ke jutaan request/hari di 2027-2028. Waktu untuk proof-of-concept HBF + QLC di lingkungan staging adalah sekarang — sebelum production inference memaksa keputusan darurat.