RESEARCH KNOWLEDGE BASE · 2026
把 Speculative Decoding 的论文森林,变成一张可以行动的地图¶
从严格采样理论到 DSpark、DFlash 与生产级调度:这里不是摘要合集,而是一套可追溯、可比较、可复现的中文研究知识库。
最新检索 · 2026-08-26
在 2026-08-10 核心快照之外,新核验 20 份 arXiv PDF(354 页),并从正式出版源补出 AHSD、SPIDE、LinguaSpec、HCSpec。重点变化覆盖 ResiSpec 的严格 residual correction、DARTree/LiLiCorr 的并行 joint proposal、TreeWY 的 recurrent-state tree verification,以及 AgentSpec/S2-MoE/MemSpec 的真实 serving 成本。
先选你的入口¶
-
第一次进入方向
用统一的 proposal—verification—serving 抽象建立全局坐标,再沿时间线理解问题如何演化。
-
准备做算法研究
横向比较 joint proposal、严格校正、树验证与 lossy verifier,直接进入尚未解决的问题。
-
准备做系统研究
聚焦 batch、KV、MoE、动态预算、SLA 与真实 serving,避免被 batch=1 的最高数字误导。
-
核对 Lossless / Lossy
区分 greedy-exact、distribution-preserving、模型保持与有界近似,明确每个速度数字的正确性代价。
六条研究主线¶
01 基础、理论与综述 9 篇 · 从 blockwise 到严格 speculative sampling
02 独立 Drafter 与对齐 7 篇 · 蒸馏、在线适应与跨语言边界
03 Feature Head、MTP 与并行块 20 篇 · EAGLE、DFlash、Domino、DSpark
04 Tree、多候选与 Verification 9 篇 · 分支覆盖、残差账本与近似验证
当前研究前沿¶
最值得进入的交叉点
2026 年的核心冲突不再是“再训练一个更小的模型”,而是如何同时获得 可精确计算的 joint proposal、严格 verification、硬件成本感知的动态预算。本库推荐从“严格可校正的半并行 joint drafter + non-anticipating block scheduler”切入。
设计一次或常数次 forward 即可计算规范化联合概率的并行 proposal,并与 Block Verification / 多候选树组合;先通过 toy-vocabulary distribution gate,再追求速度。
在真实 arrival、异长 context、MoE expert union 和多 SLA 下,为全 batch 动态分配 verification 节点,并给出 non-anticipating 或 regret 保证。
围绕 acceptance-collapse 做请求级 cost isolation:低收益自动回退 AR、共享 batch 风险隔离、最坏额外成本上界与 false fallback 评估。
每个结论如何进入知识库¶
flowchart LR
A[高召回检索<br/>1,260 条候选] --> B[相关性筛选<br/>66 篇核心]
B --> C[逐页全文核读<br/>1,188 页]
C --> D[实现级解读<br/>公式·流程·局限]
D --> E[一致性审计<br/>版本·页码·SHA-256]
E --> F[跨论文比较<br/>研究空白]