Hardware Recipes, Benchmark đúng cách và 10 sai lầm hay gặp khi chọn LLM Inference Engine

Mỗi setup hardware có recipe engine tối ưu riêng - từ CPU-only server đến cụm 8×H100. Benchmark tốt đo TTFT, TPOT, p95 và KV cache hit rate - không phải tok/s single-user. Và 10 sai lầm phổ biến nhất mà hầu hết team đều mắc ít nhất một lần. Phần cuối trong series 4 bài.