HullFT — 让测试时微调既会挑样本又省算力

待复核

是什么

HullFT 是一篇 2026 年的测试时微调论文：每来一个问题，先从资料库里挑一小撮最有用的训练片段，临时微调模型，再回答这个问题。

日常类比：像考试前 10 分钟复习。普通近邻检索像把最像题目的 20 张讲义都抱来，里面可能 15 张内容重复；HullFT 像先看这些讲义覆盖了哪些角度，再挑出能拼出题目全貌的一组，并把重复复习变快。

它的名字里有 Hull，因为方法把 query embedding 看成候选样本 embedding 的凸组合：如果几个候选点的”重心”能靠近 query，就说明这几个样本合起来能覆盖这个问题。

最后它不只是选样本，还把小数权重变成整数次数。某个样本重要，就可能重复训练几次；重复训练时再复用梯度，少跑前向和反向。

为什么重要

不理解 HullFT，下面这些事都没法解释：

为什么 TTFT 看起来很诱人，却很难直接放进线上系统：每个请求都要选样本、微调、再推理，延迟直接打到用户脸上
为什么单纯 kNN 选最近邻会浪费预算：最近不等于互补，前 20 个结果可能只是同一段语义的复读
为什么 SIFT 这类多样性选择能提升质量但会变慢：它要显式计算冗余和信息增益，选择阶段本身变成瓶颈
为什么 HullFT 的重点不是”又发明一种微调”，而是把选样本的几何结构和训练步骤的缓存结构接在一起

核心要点

HullFT 可以拆成 三件事：

Frank-Wolfe 选支撑点：先用 FAISS 之类的检索器拿到 K 个候选，再在这些候选里找一组点，让它们的加权平均靠近 query。类比：拼地图时不选 10 张几乎一样的街景，而是选能覆盖东南西北的几张。
整数化小数权重：Frank-Wolfe 给的是 0.17、0.08 这种小数权重，但微调需要”训练几次”这种整数。HullFT 先向下取整，再贪心补足 N 个样本，最后做局部交换，让整数 multiset 仍然尽量贴近 query。
Gradient Reuse 省训练成本：整数化会自然产生重复样本，比如同一句文本训练 4 次。HullFT 不每次都重新算梯度，而是每 r 步刷新一次，中间复用缓存梯度，减少 forward-backward 次数。

这三件事合起来，目标是同一个：在固定时间预算内，让模型见到更有信息量的样本数。

实践案例

案例 1：把 query 拼成候选样本的重心

query = embed("请解释 Transformer 的注意力机制")
pool = knn_search(query, k=200)       # 先粗筛候选
weights = frank_wolfe(query, pool)    # 找少量非零权重
support = [p for p, w in weights if w > 0]

逐部分解释：

knn_search 只负责把搜索范围缩小，不直接决定最终训练集
frank_wolfe 每次看当前残差还缺哪个方向，再加一个候选点
support 不是”最像的前 N 个”，而是一组能共同靠近 query 的点

案例 2：把小数权重变成训练次数

N = 20
weights = [0.42, 0.31, 0.18, 0.09]
counts = [int(N * w) for w in weights]  # [8, 6, 3, 1]
while sum(counts) < N:
    j = best_repair_move(query, support, counts)
    counts[j] += 1

逐部分解释：

weights 是几何世界里的”重要程度”，不能直接喂给普通微调循环
counts 是训练世界里的”每个样本重复几次”
best_repair_move 用剩余名额修补向下取整带来的偏差，保证总数正好是 N

案例 3：重复样本怎么少算梯度

for sample, count in zip(support, counts):
    cached_grad = None
    for step in range(count):
        if step % 2 == 0:
            cached_grad = backward(model, sample)
        adam_step(model, cached_grad)

逐部分解释：

同一个 sample 连续训练，梯度不会每一步都完全变掉
step % 2 == 0 表示每两步重新算一次，其余步直接复用
论文默认看重的是短时间预算，所以这种近似能换来明显的端到端速度

踩过的坑

把 HullFT 理解成普通 RAG：RAG 是把资料塞进上下文，HullFT 是临时改模型参数；两者都用检索，但代价和风险完全不同。
以为 convex hull 一定覆盖真实答案：HullFT 只在 kNN 候选池里做凸重构；如果候选池本来漏了关键资料，再好的几何选择也救不回来。
忽略整数化的重要性：只拿 Frank-Wolfe 权重做 loss reweighting 容易带来方差和噪声放大；论文要的是精确 N 个等权样本组成的 multiset。
把 Gradient Reuse 当免费午餐：复用梯度会引入近似误差；r 太大时参数已经漂移，缓存梯度就不再可靠，所以论文选择较小刷新间隔。

适用 vs 不适用场景

适用：

线上推理能接受短暂微调，但每秒延迟都很贵的 LLM 服务
语料库里重复内容很多，普通 top-k 近邻容易选到一堆近重复片段
已经有 embedding 检索池和微调代码，只缺一个更聪明的 per-query selector
想研究”几何选样本 + 优化器缓存”如何共同影响 TTFT 的系统

不适用：

候选池检索质量很差，相关样本根本没进入 K 个候选
任务要求严格可复现、不能接受每个请求临时改权重
模型太大或部署环境太小，连一次短微调都无法承担
需要跨很多文档做长链推理，这时可能先考虑 rag-lewis-2020 或图式检索

历史小故事（可跳过）

1956 年：Frank 和 Wolfe 提出条件梯度法，核心优点是不用做昂贵投影，只沿着顶点方向前进。
1907-2010s：Carathéodory 定理和 coreset 研究逐渐说明，很多高维对象可以用少量代表点近似。
2024 年：Hardt 和 Sun 的 TTT-NN 让 LLM 在测试时从近邻样本上微调，证明少量邻居就能明显改善语言建模。
2025 年：SIFT 用主动选择思想减少冗余，质量更好，但 per-query 选择成本更高。
2026 年：HullFT 把 Frank-Wolfe 选样本、几何整数化、梯度复用绑成一条流水线，目标是把 TTFT 推向低延迟场景。

学到什么

选择样本也是优化问题：不是把最近的样本拿来就完事，而是让候选集合的重心尽量靠近 query。
几何结构会影响训练结构：小数权重整数化后产生重复样本，重复样本又让梯度复用成为可能。
速度优势来自两段相乘：选择阶段平均比 SIFT 快约 12 倍，Gradient Reuse 又把微调阶段加速约 1.48 倍。
论文的关键指标是时间预算下的 BPB%：不是同样 N 下谁更准，而是在 0.75s、1.75s、2.0s 这种预算内谁能到更低 bits-per-byte。

关联

faiss-2017 —— HullFT 的第一步仍要靠近邻索引拿 K 个候选
rag-lewis-2020 —— 都用外部语料增强 LLM，但 RAG 改上下文，HullFT 改参数
adam-2014 —— 论文微调用 Adam，Gradient Reuse 复用的是送进优化器的梯度
gpt-3 —— 展示了大模型闭卷能力，HullFT 代表”临时开卷并改权重”的路线
hnsw-2018 —— 另一种近邻检索底座，可替换 HullFT 前置候选池
colbert-2020 —— 也是检索质量影响下游生成/微调效果的例子
llm-wiki-retrieval-reasoning —— 连接”检索到资料”和”让模型更会用资料”这条线

反向链接

（暂无反向链接）

HullFT — 让测试时微调既会挑样本又省算力

是什么

为什么重要

核心要点

实践案例

案例 1：把 query 拼成候选样本的重心

案例 2：把小数权重变成训练次数

案例 3：重复样本怎么少算梯度

踩过的坑

适用 vs 不适用场景

历史小故事（可跳过）

学到什么

延伸阅读

关联

反向链接