Xin HE's Website

Share papers, techniques, and wonderful life

GPU 算力没在算模型，在等 CPU 发号施令——CUDA Graph 是怎么解决这件事的

21 min read · July 08, 2026

2026 · LLM 推理加速 CUDA transformers 工程优化
推理模型做 decode，GPU 只有 3% 在干活——SparseSpec 把稀疏 Attention 变成了 2.1× 加速

4 min read · July 07, 2026

2026 · LLM 推理加速推测解码 Self-Speculative Decoding 稀疏 Attention 论文解读
投机解码到底能快多少？从理论建模到 closed-form 的完整推导

20 min read · July 07, 2026

2026 · LLM 推理优化投机解码理论分析
vllm v1 源码解析（四）：插件系统——用 Python entry_points 实现零侵入扩展

8 min read · July 06, 2026

2026 · LLM vllm Python 源码解析
vllm v1 源码精读（三）：KV Cache 管理、Chunked Prefill 与异步架构

16 min read · July 06, 2026

2026 · vllm LLM推理 KV Cache PagedAttention 源码分析