#Prefill (1)

TokenGate：可学习词元剪枝让大模型高效预填充

TokenGate在中间层学习评分并保留top-K词元，以门控注意力端到端训练；预填充TTFT降低1.4–11.3倍、峰值显存降低1.5–3.4倍，报告精度不降。