When is Your LLM Steerable？

（arxiv 2026）

提出了一种名为 SteerBoost 的方法，通过分析大语言模型在生成最初几个 token时的内部隐藏状态变化，来提前预测激活引导（Activation Steering）的最终效果，从而大幅降低了寻找最佳引导参数所需的完整文本生成和事后评估成本。

激活引导的基础机制

首先，我们需要理解“引导”是如何在数学层面上发生的。假设我们要让模型偏向概念 $c$（例如“使用表情符号”），我们先提取出一个代表该概念的引导向量 $v_c$ 。

在标准的推理过程中，模型的隐藏层状态是逐层计算的。当我们在特定的层 $L _ {steer}$ 注入引导信号时，公式如下：

$$\tilde{h} _ {1:t}^{(L _ {steer})} = DecoderLayer _ {L _ {steer}}(\tilde{h} _ {1:t}^{(L _ {steer}-1)}) + \alpha v_c$$

其中：

为了捕捉引导效果是如何在神经网络中传播的，研究人员设计了一个“双通道”对比实验：

引导生成 (Steered Pass)：在 $L _ {steer}$ 层加入引导向量 $\alpha v_c$，让模型自回归地生成前 $k$ 个 token（例如 $y_1, y_2, …, y_k$）。此时，收集每个生成的 token $t$ 在不同层 $l$ 的隐藏状态 $\tilde{h}_t^l$ 。
无引导前向传播 (Unsteered Pass)：取出刚才生成的这段一模一样的 token 序列，不加任何引导向量，将其强制输入回模型进行一次单步前向传播。获取对照组的隐藏状态 $h_t^l$。

提取了生成的第 1、2、4、6 个 token 的隐藏状态。

因为两次处理的 token 序列完全相同，$\tilde{h}_t^l$ 和 $h_t^l$ 之间的任何差异，都完全归因于注入的引导向量 $v_c$ 的影响，这提供了一个极佳的受控比较基础。

接下来，研究人员在这个对比网格（Token位置 $\times$ 网络层数）上，提取了三大类关键的数学特征：

用来衡量引导向量在空间中对模型内部状态的几何影响程度：

Steering Affinity (SA)：评估被引导后的状态与目标向量有多对齐：

$$SA = \cos(\tilde{h}_t^l, v_c)$$
DeviationNorm (DN)：评估引导把原本的状态“推远”了多少（欧氏距离）：

$$DN = ||\tilde{h}_t^l - h_t^l||_2$$
DirectionalSim (DS)：评估被引导后的状态在多大程度上保留了原来的方向：

$$DS = \cos(\tilde{h}_t^l, h_t^l)$$
DeviationAlignment (DA)：评估被改变的这部分偏移量（即 $\tilde{h}_t^l - h_t^l$），有多少是顺着我们期望的目标向量 $v_c$ 的方向的：

$$DA = \cos(\tilde{h}_t^l - h_t^l, v_c)$$

用来追踪上述几何特征随着生成更多 token 是如何跨越时间演变的：

描述这次干预本身的物理属性：

(注：除了这些局部网格的数值，研究人员还会对这些特征按 Token 和按层级计算全局的平均值、标准差、最大值和最小值作为汇总统计特征。)

提取出以上特征后，研究人员对这些特征进行归一化，并训练了一个梯度提升决策树 (GBDT, 具体使用了 XGBoost 模型) 。

之所以选择树模型，有三个原因：

通过反向加权处理类别不平衡后，这个模型最终输出一个分类预测，直接判定这次参数尝试属于三种结果中的哪一种：UNDERSTEER（引导不足）、SUCCSTEER（引导成功）或 OVERSTEER（引导过度）。