tuandunghcmut/ternary-bonsai-memory-footprint-report

Ternary Bonsai — CPU Memory Footprint Report

Ước lượng + kiểm chứng thực tế chi phí RAM (weight + KV-cache) khi chạy các checkpoint prism-ml/ternary-bonsai (1.7B / 4B / 8B) trên CPU qua llama.cpp, ở các context length và độ chính xác KV-cache khác nhau.

Dữ liệu thô: memory_data.json. Báo cáo đầy đủ (bảng biểu, giải thích công thức): xem bên dưới.

1. Kiến trúc

Tất cả 3 size dùng head_dim=128, num_key_value_heads=8 (GQA) — nghĩa là 4B và 8B có chi phí KV-cache/token giống hệt nhau (chỉ phụ thuộc layers × kv_heads × head_dim, không phụ thuộc hidden_size hay số query head).

Model	hidden	layers	q heads	kv heads	head_dim	intermediate	vocab	embed tied
Bonsai 1.7B	2048	28	16	8	128	6144	151669	yes
Bonsai 4B	2560	36	32	8	128	9728	151669	yes
Bonsai 8B	4096	36	32	8	128	12288	151669	no

8B không tie embedding/lm_head → tốn thêm ~621M tham số lm_head riêng so với nếu tied.

2. Weight memory

GGUF Q2_0: block 128 phần tử, 34 byte/block (2 byte scale + 32 byte data) → 2.125 bit/weight thật (không phải đúng 2 bit, do overhead scale). Verified khớp thực tế: dự đoán 1018.7 MiB cho 4B, file GGUF thật (checkpoint-600) = 1.07 GB.

Model	Quantizable params	Q2_0 toàn bộ (kể cả embed/lm_head)	Q2_0 proj-only (embed FP16)	Tham chiếu: full FP16
1.7B	1.41B (81.9%)	436 MiB	950 MiB	3.20 GiB
4B	3.63B (90.3%)	1019 MiB	1661 MiB	7.49 GiB
8B	6.95B (84.8%)	2074 MiB	4129 MiB	15.25 GiB

3. KV-cache — chi phí mỗi token

bytes/token = 2 (K+V) × layers × kv_heads × head_dim × bytes_per_element

Không phụ thuộc weight quantize — đây là bộ nhớ runtime, tách biệt hoàn toàn khỏi model weight.

Model	elem/token	FP16 (16-bit)	Q8_0 (8.5-bit)	Q5_1 (6-bit)	Q5_0 (5.5-bit)	Q4_1 (5-bit)	Q4_0 (4.5-bit)
1.7B	57344	112.0 KiB	59.5 KiB	42.0 KiB	38.5 KiB	35.0 KiB	31.5 KiB
4B	73728	144.0 KiB	76.5 KiB	54.0 KiB	49.5 KiB	45.0 KiB	40.5 KiB
8B	73728	144.0 KiB	76.5 KiB	54.0 KiB	49.5 KiB	45.0 KiB	40.5 KiB

4. Tổng chi phí (weight + KV-cache) theo context length

Đơn vị MiB. Weight cố định theo model, KV-cache tăng tuyến tính theo context × precision.

Bonsai 1.7B (weight = 436 MiB)

Context	FP16	Q8_0	Q5_1	Q4_0
4,096	884	674	604	562
8,192	1,332	912	772	688
16,384	2,228	1,388	1,108	940
32,768	4,020	2,340	1,780	1,444
65,536	7,604	4,244	3,124	2,452

Bonsai 4B (weight = 1019 MiB)

Context	FP16	Q8_0	Q5_1	Q4_0
4,096	1,595	1,325	1,235	1,181
8,192	2,171	1,631	1,451	1,343
16,384	3,323	2,243	1,883	1,667
32,768	5,627	3,467	2,747	2,315
65,536	10,235	5,915	4,475	3,611

Bonsai 8B (weight = 2074 MiB)

Context	FP16	Q8_0	Q5_1	Q4_0
4,096	2,650	2,380	2,290	2,236
8,192	3,226	2,686	2,506	2,398
16,384	4,378	3,298	2,938	2,722
32,768	6,682	4,522	3,802	3,370
65,536	11,290	6,970	5,530	4,666

Chưa tính compute buffer / graph scratch / overhead server (~85–100 MiB, xem mục 5) — cộng thêm vào mọi ô trên để ra RAM thật cần cấp.

5. Kiểm chứng thực tế — cái nào đo thật, cái nào chỉ tính

Toàn bộ số liệu ở mục 2–4 là tính từ công thức (block-format GGUF + kiến trúc config.json). Phần dưới đây là phép đo thật để kiểm chứng — chạy 4 server llama-server CPU riêng biệt (checkpoint-600, 4B, Q2_0) với -c 4096 và từng loại KV-cache (-ctk/-ctv), đọc trực tiếp dòng log nội bộ của llama.cpp (llama_kv_cache: size = ... MiB) — không suy luận gián tiếp qua RSS.

5.1 KV-cache buffer — so với log nội bộ llama.cpp (chính xác, không nhiễu overhead)

Precision	Công thức dự đoán	Log llama.cpp thật	Lệch	Trạng thái
FP16	576.0 MiB	576.00 MiB	0.0%	✓ verified
Q8_0	306.0 MiB	306.00 MiB	0.0%	✓ verified
Q5_1	216.0 MiB	216.00 MiB	0.0%	✓ verified
Q4_0	162.0 MiB	162.00 MiB	0.0%	✓ verified
Q5_0	154.0 MiB	—	—	○ chưa test (cùng block-family Q5_1)
Q4_1	180.0 MiB	—	—	○ chưa test (cùng block-family Q4_0)

Công thức KV-cache khớp tuyệt đối 0.0% lệch trên cả 4 precision đã test — đây là phép tính block-format cố định, không phải ước lượng thống kê, nên ngoại suy sang context khác (8k/16k/32k/64k) và model khác (1.7B/8B) dùng cùng công thức có độ tin cậy tương đương.

5.2 Tổng RSS tiến trình (weight + KV + overhead thật) — 4B @ 4,096

Precision	Dự đoán (weight+KV)	RSS thật — vừa load	Overhead	RSS thật — sau 3,742 token
FP16	1,595 MiB	1,681 MiB	+86 MiB (5.4%)	1,768 MiB (+173 MiB, 10.8%)
Q8_0	1,325 MiB	1,445 MiB	+120 MiB (9.1%)	— (chưa test)
Q5_1	1,235 MiB	1,353 MiB	+118 MiB (9.5%)	— (chưa test)
Q4_0	1,181 MiB	1,298 MiB	+117 MiB (9.9%)	— (chưa test)

Quan trọng: overhead là một hằng số cộng thêm theo MiB (~86–120 MiB), không phải hệ số nhân theo %. Nó đến từ vocab/logits buffer, server framework, và compute/scratch buffer cho attention (kích hoạt khi generate) — gần như không đổi bất kể weight/KV-cache lớn hay nhỏ. %-lệch trông tăng ở Q4_0 (9.9%) so với FP16 (5.4%) chỉ vì mẫu số (tổng dự đoán) nhỏ hơn — số MiB tuyệt đối ổn định.

Weight file size cũng verify được: dự đoán 1018.7 MiB, file GGUF thật (checkpoint-600) = 1,074,969,152 byte = 1,025.2 MiB → lệch +0.64% (metadata/tokenizer/vocab string trong GGUF header).

Chưa kiểm chứng (ngoại suy từ công thức, chưa đo thật): mọi context length khác 4,096 (8k/16k/32k/64k) · cả bảng 1.7B và 8B (chỉ 4B được test) · overhead-theo-context ở context dài hơn 4k (giả định overhead compute-buffer không scale mạnh theo context, nhưng chưa đo trực tiếp ở 32k/64k để xác nhận).

6. Khuyến nghị

• Q8_0 cho KV-cache là điểm cân bằng an toàn nhất — giảm ~47% RAM so với FP16, phù hợp làm default cho mọi context ≥8k trên CPU.
• Q4_0 tiết kiệm nhất (~72% so với FP16) nhưng nên A/B test chất lượng trước khi dùng cho context >32k.
• Ở context ngắn (4k), weight chiếm phần lớn RAM hơn KV-cache. Ở context dài (32k+), KV-cache vượt hẳn weight — đây mới là biến số cần tối ưu khi tăng context.
• 4B và 8B có chi phí KV-cache/token giống hệt nhau — nâng cấp 4B→8B chỉ tốn thêm ~1 GiB weight, không đổi chi phí context. 1.7B rẻ hơn ~22% KV-cache/token so với 4B/8B nhờ ít layer hơn.

---

Nguồn: config.json — prism-ml/ternary-bonsai (HF) · llama.cpp ggml-common.h (block format). Đo thực: checkpoint-600 v2 (internal_qat LoRA r256), Q2_0 GGUF, CPU build.