File size: 11,613 Bytes
5e2e120
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
# Multi-Teacher Soft Routing for Flow-OPD(`multi_opd`)

> 在 Flow-OPD 的稠密多 teacher 蒸馏上,用**逐时间步 + 逐空间位置**的软路由替换原本的
> **硬路由**(每个 prompt 只配一个 teacher)。包含两条改进:
> **想法 1(按时间步分工)** 与 **想法 2(velocity 空间 PCGrad 去冲突)**。
>
> 本文档用于介绍这次迁移:改了什么、为什么这么改、怎么配、怎么跑,以及迁移到训练机上的**补充事项**。

---

## 0. 动机(为什么要软路由)

Flow-OPD 的稠密监督是:在每个去噪步,让 student 的预测均值 `prev_sample_mean` 去贴 teacher 的
`prev_sample_mean`。由于 SDE 一步更新里

```
prev_sample_mean = sample · (1 + std²/(2σ)·dt) + v · (1 + std²(1-σ)/(2σ)) · dt
```

两个模型在同一 `(sample, t)` 上的均值之差 = `B · (v_teacher − v_student)`,其中 `B > 0` 是标量。
**所以在 `prev_sample_mean` 空间里算距离/投影,等价于在 velocity 空间里算**(差一个正标量)。

原版**硬路由**(alternate 模式):每个 epoch 只训练一个数据集,并且只用该数据集对应的**单个**
teacher LoRA 提供监督。问题:一张图常常需要多种能力(例如「四个写着 XX 字的气球」= counting + OCR),
硬路由只能选一个 teacher,丢掉另一边的知识;路由分错则整条样本在错的 teacher 上训练。

**为什么不能简单地把多个 teacher 的 loss 加权平均?** 因为 flow matching 的逐步 loss 是二次型,
`∇(‖v−v₁‖² + ‖v−v₂‖²)` 把 student 拉向 `(v₁+v₂)/2`——当两个 teacher 冲突时,平均速度两边都不满足
(正是硬路由想避免的梯度打架又被请回来)。所以关键不是"软不软",而是"在哪一层软、怎么合"。

---

## 1. 方法

### 想法 1 — 按时间步分工(timestep-split routing)

每个 teacher 给一个随去噪进度变化的权重 `w_t(frac)`,`frac = j/(N−1) ∈ [0,1]`
(`frac=0` 第一步/高噪声,`frac=1` 最后一步/低噪声):

```
w_t(frac) = exp(−sharpness · (frac − center_t)²)  →  跨 teacher 归一化使 Σ w_t = 1
```

- **高噪声段(早)** 定的是粗结构/布局/数量 → 让 **composition/counting teacher(GenEval)** 主导,`center=0.0`
- **低噪声段(晚)** 定的是细节/笔画清晰度 → 让 **text/OCR teacher** 主导,`center=1.0`

两个 teacher 时这就是一条 **sigmoid 式的交叉**;`sharpness` 越大越接近"硬分段"(单 teacher/步、零冲突),
中间的重叠带才是想法 2 起作用的地方。`weight_floor` 把该步权重过小的 teacher 直接剔除(保持 disjoint 段干净,
并避免近零权重 teacher 通过投影扰动主 teacher)。

### 想法 2 — velocity 空间 PCGrad(co-active teacher 去冲突)

在多个 teacher 都活跃的步上,不做 target 平均,而是对**加权残差**做梯度手术(Gradient Surgery / PCGrad),
**逐空间位置**(在 channel 维上点积)判断冲突:

```
r_t = teacher_mean_t − policy_mean        # 残差 ∝ (v_teacher − v_student)
d_t = w_t · r_t                            # 加权下降方向
若 d_i · d_k < 0(该位置两 teacher 互相抵消):
    d_i ← d_i − (d_i · d_k)/‖d_k‖² · d_k   # 投掉冲突分量,使 d_i ⟂ d_k
combined = Σ_t d_t'                         # 去冲突后求和
target   = sg(policy_mean) + combined      # sg = stop-grad
```

逐位置投影天然吃下了冲突的**空间局部性**(文字区域 OCR 说了算、布局区域两者基本一致)。

### 合成 target + 回归 loss

```
loss = mean_b[ ‖policy_mean − sg(target)‖²_(c,h,w) / (2 · std²) ]
```

因为 `target` 被 stop-grad,loss 对 `policy_mean` 的梯度 ∝ `−combined`,即把 student 沿
**去冲突后的、按时间步路由的 teacher 共识方向**推进——也就是你说的"去冲突后的残差相加,得到合成目标,做一次回归"。

- 无冲突且权重归一 → `target = Σ w_t · teacher_mean_t`(加权平均,纯想法 1)。
- 有冲突 → PCGrad 砍掉互相抵消的分量(想法 2)。
- `sharpness→∞` → 退化为按时间步的硬分段;`use_pcgrad=False` → 朴素加权平均(消融对照)。

---

## 2. 改了哪些文件

| 文件 | 改动 |
|---|---|
| **`flow_grpo/multi_routing.py`** | 新增。纯张量路由数学(无模型依赖,可单测):`timestep_weights`(想法1)、`pcgrad_combine`(想法2,逐位置/channel 维)、`build_target`(合成 detached 回归 target,返回 `(target, weights)`)。 |
| **`scripts/train_sd3_opd_mix.py`** | 新增 `reward_mode="multi_opd"`:每步对**所有** teacher 前向(`forward_ref_mean` 辅助函数)→ `build_target` → gkd 式直接 MSE 回归,`beta>0` 可叠加 MAR/base 锚。日志记录 `multi_loss` 与每 teacher 的 `route_w_<name>`。 |
| **`config/grpo.py`** | 新增 `mix_opd_1gpu`(单卡复现 baseline 硬路由 kl_only)与 `multi_opd_1gpu`(想法1+2)。 |
| **`scripts/single_node/sd3_opd_mix_1gpu.sh` / `sd3_multi_opd_1gpu.sh`** | 新增。单卡启动脚本(HF_HOME / offline / bf16 / num_processes 1)。 |

**为跑通额外修的兼容性 bug(迁移到任何新环境都用得上):**
- `config/grpo.py`、`config/sft.py` 的 `import imp`(Py3.12 已删)→ 换成 importlib 的 `_load_source`。
- 缺失的 `flow_grpo/assets/`(`import flow_grpo.prompts` 模块级 `resources.files(...)` 崩溃)→ 补空包。
- 单卡下 `transformer.module.disable_adapter()` 无 `.module` → 改用 `unwrap_model(transformer, accelerator)`(单/多卡都安全)。
- LoRA 训练时 `autocast` 被硬关 → 文本编码器 bf16 与 fp32 transformer 类型冲突(`mat1/mat2 dtype`)。开启
  `autocast`(bf16 无需 GradScaler)解决;SDE 数学仍走 fp32。
- autocast 下 VAE 解码出 bf16,`numpy()` 不支持 → patch 里把图像 `.float()`(图像只用于 reward/可视化,不在梯度路径)。

---

## 3. 怎么跑

```bash
# 复现 baseline(硬路由,单 teacher/epoch,kl_only)
bash scripts/single_node/sd3_opd_mix_1gpu.sh

# 想法 1+2(多 teacher 软路由)
bash scripts/single_node/sd3_multi_opd_1gpu.sh
```

两个脚本都设置了本地缓存(无需联网/下载):

```bash
export HF_HOME=/workspace/Research/UMM/.hf_cache   # SD3.5-M 基座
export HF_HUB_OFFLINE=1
# teacher LoRA:
#   OCR/text  = /workspace/Research/UMM/checkpoints/teachers/text
#   GenEval   = /workspace/Research/Fopd/weights/teachers/geneval
```

冒烟验证(本机 1×A100 80G):baseline 跑到 Epoch 5、multi_opd 跑到 Epoch 3,多 teacher 反传稳定,显存 ~63GB。
reward 用 server-free 的 `jpeg_compressibility` 占位(OPD 梯度来自 teacher-KL,不依赖任务 reward)。

---

## 4. 配置项(`config.train.multi_opd`)

```python
config.train.reward_mode   = "multi_opd"
config.train.kl_scale      = 0          # 跳过原单 teacher 的 kl_ref 前向(我们前向所有 teacher)
config.train.kl_reward_level = "none"
config.train.beta          = 0.0        # >0 则叠加 MAR/base 锚(需要时再开)
config.train.multi_opd = {
    "centers": {"geneval": 0.0, "ocr": 1.0},  # 时间中心:0=早/高噪→结构, 1=晚/低噪→细节
    "sharpness": 8.0,        # 越大 → 时间分工越"硬"(越 disjoint)
    "use_pcgrad": True,      # 想法2 开关;False = 朴素加权平均(消融)
    "weight_floor": 0.05,    # 该步归一权重 < floor 的 teacher 被剔除
}
```

- `centers` 的 key 必须与 `config.alternate_datasets[*].name` 一致(teacher 顺序取自 `ref_transformers`,
  权重按名字对齐,与顺序无关)。
- teacher 来源仍是每个数据集的 `kl_ref_lora_path`;multi_opd 会忽略"当前 epoch 是哪个数据集",**对每个 prompt 都用全部 teacher**。

---

## 5. 补充事项(迁移到训练机时务必看)

1. **环境版本错位**:本机用的是较新的 `torch 2.8 / transformers 4.57 / peft 0.17 / accelerate 1.11`,
   `diffusers==0.33.1`(`--no-deps` 装,避免动到上面这套)。`setup.py` 里的旧 pin(torch 2.6 等)**不要**照装去降级。
   上面第 2 节列的 5 个兼容性 fix 是通用的,新环境若版本不同也大概率需要。

2. **单卡 vs 多卡**:`.module` 那处已修成两边都安全。多卡时注意现有不变式仍要满足:
   `num_image_per_prompt (k)` 必须整除 `num_processes × train_batch_size`;`num_batches_per_epoch` 为偶数
   (`gradient_accumulation_steps = num_batches_per_epoch // 2`)。把 `mix_opd_8gpu` 的 batch 规模按卡数还原即可,
   multi_opd 的逻辑与卡数无关。

3. **真实 reward**:冒烟用的是 `jpeg_compressibility` 占位。上训练机后把
   `alternate_datasets[*].reward_fn` 换回 `{"ocr":1.0}` / `{"geneval":1.0}`(需 PaddleOCR / GenEval reward-server)。
   注意:OPD/multi_opd 的**训练梯度来自 teacher-KL,不是任务 reward**;任务 reward 只用于采样期的统计/零方差掩码,
   以及外部评测。真实指标请用 `scripts/single_node/run_eval.sh` + T2I-CompBench 在保存的 LoRA 上跑。

4. **MAR/base 锚(`beta>0`)**:开启后会额外前向一次 base(`unwrap_model(...).disable_adapter()`)得到
   `prev_sample_mean_ref_base`,loss 变成 `multi_loss + beta · ‖policy_mean − base_mean‖²/(2std²)`。
   也可用 `train.mar_lora` 指定一个 task-agnostic 美学 teacher 作为锚。

5. **显存**:当前实现里**每个 teacher 都是一份完整常驻 transformer**(2 个 ≈ 63GB)。teacher 数量多时,
   建议改成"单 base + 多 LoRA adapter 切换"(PEFT `add_adapter`/`set_adapter`),可省下 N−1 份 base;
   或把 teacher 以 bf16 载入。autocast 下 teacher 前向本就走 bf16,载入 dtype 只影响常驻权重显存。

6. **gkd(回归)vs policy-gradient**:multi_opd 目前是 **gkd 式直接回归**到合成 target(贴合"做一次回归"的设计,
   也最适合想法 2 的 target 构造)。若想要 ratio/PPO 形式的软路由(把合成 KL 当 advantage),是另一种接法,可再加。

7. **消融与退火**:
   - `use_pcgrad=False` → 朴素加权平均(用来证明 PCGrad 是否有净增益)。
   - `sharpness` 调大 → 接近按时间步硬分段;想做"温度从软退火到硬"就逐步调大它。
   - `weight_floor=0` → 所有 teacher 全程参与(重叠最大)。
   - `centers` 全设 0.5 + `use_pcgrad=False` → 退化为全程等权平均的对照。

8. **数值**:transformer 前向走 bf16 autocast,SDE/log-prob/KL 全程 fp32(`sde_step_with_logprob` 内部 `.float()`)。
   `/ (2·std²)` 是逐步 KL-to-Gaussian 归一(早步高噪声权重小、晚步权重大),与原 gkd/kl_only 一致。

9. **与 RG-STR 的关系**:`/workspace/Research/Fopd/Flow-OPD` 里那套 `rgstr`(reliability-gated spatio-temporal,
   带 attention 归因 + 可靠性门控)是更重的版本;本 `multi_opd` 是其**轻量子集**(想法 1+2),代码独立、便于做干净的 baseline/消融。

---

## 6. 快速自检(路由数学,无需模型)

```python
from flow_grpo import multi_routing as mr
# 想法1:geneval(center0) 早段主导,ocr(center1) 晚段主导
mr.timestep_weights(0.0, [0.0,1.0], 8.0)   # ≈ [1.0, 0.0]
mr.timestep_weights(1.0, [0.0,1.0], 8.0)   # ≈ [0.0, 1.0]
# 想法2:冲突分量被投掉,一致分量保留 / build_target 在 disjoint 段≈对应 teacher
```