 Shaun ZhouandClaude Opus 5
|
004d7a1ce7
|
fix(simclr): 换优化器种类时不再加载不兼容的动量缓冲
adamw 换成 sgd 时 load_state_dict 不会报错，SGD 会收下 AdamW 的 exp_avg/exp_avg_sq
却永远用不上——动量实际从零开始，但状态里白占内存，之后存盘还会一路带下去。
改为检测到优化器种类变化就跳过加载并给出日志，模型权重与训练进度不受影响。
README 补一张表，说明续训时哪些配置按 yaml、哪些来自存档、哪些不能改。
Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
|
2026-09-05 11:10:04 +08:00 |
|
|
Shaun ZhouandClaude Opus 5
|
b7505a743d
|
fix(simclr): 续训以配置为准，不再被存档里的超参静默覆盖
optimizer.load_state_dict 会整体覆盖 param_groups，把 lr / weight_decay 连同动量缓冲
一起还原成存档时的值。改了 yaml 再续训，改动会被静默吃掉：配置写 lr=5e-4，
实际仍按存档的 1e-3 训，scheduler.base_lrs 也是旧值。
改为「配置文件是唯一真相源，存档只提供进度」：
- 加载优化器状态前先抄下配置构造出的每组超参，加载后按组写回，只留下动量缓冲；
按组写回也保住了 build_optimizer 的分组结构（BN 与 bias 那组 weight_decay=0）
- 调度器统一按当前配置重建再快进到已训 epoch，不再恢复存档状态（它带着旧的
T_max 与 base_lrs）。cosine/step/multistep 都是 epoch 的确定性函数，
快进与恢复状态等价，因此不存在第二种行为
- 存档里额外记下当时的 optimizer/scheduler 配置，续训时逐项列出差异，
明确说明按当前配置执行
- 补回归测试：改 lr/weight_decay/总轮数后续训，三者都按 yaml 生效，
分组结构与动量缓冲不受影响
Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
|
2026-09-04 21:46:40 +08:00 |
|
|
Shaun ZhouandClaude Opus 5
|
865cdd7210
|
fix(simclr): 续训时改变总轮数不再让学习率卡在 0
resume 会恢复调度器状态，其中包含存档时的 T_max。原计划 10 轮的 cosine 跑完后
学习率已降到 0，此时把 epochs 改成 30 接着练，学习率仍是 0——训练照常进行、
日志照常打印，但一步都学不动。是静默失败，比报错更难发现。
- 总轮数与存档一致时行为不变，直接恢复调度器状态
- 不一致时按新的总轮数重建调度器，并快进到当前 epoch；重建前先把 lr 复位回
initial_lr，因为 cosine 的链式实现基于当前 lr 递推，从 0 出发只会一路留在 0
- 实测续训到 30 轮时 lr 恢复为 7.50e-04，与 cosine 在 10/30 处的理论值一致
- 补三个回归测试：改变总轮数后的学习率、总轮数不变时直接恢复状态、
save_interval 落的中间盘可直接续训
- 修正一个旧测试：它断言续训后 lr 仍等于旧计划末尾的 0，编码的是错误行为
Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
|
2026-09-04 17:25:45 +08:00 |
|
|
Shaun ZhouandClaude Opus 5
|
345dee50da
|
feat(simclr): 支持断点续训，恢复优化器与调度器状态
此前 simclr.checkpoint 的语义是"有权重就跳过训练"，没有真正的续训：
中途停掉再启动只能从头再来，或者放弃已训的轮次。
- 新增 simclr_last.pth：骨架 + 投影头 + 优化器 + 调度器 + scaler + epoch + step，
与给下游用的 simclr_backbone.pth 并存，两者在同一时机落盘
- 新增 simclr.resume：载入完整状态从下一个 epoch 接着练。只恢复权重不恢复动量与
cosine 进度的话，续训时损失会先反弹一段
- resume 与 checkpoint 互斥（同时给直接报错）；拿只含骨架的 simclr_backbone.pth
去 resume 会给出可操作的报错，提示改用 checkpoint
- 续训轮数已达计划值时不再训练，只打警告
Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
|
2026-09-03 09:34:55 +08:00 |
|
|
Shaun ZhouandClaude Opus 5
|
be6173c746
|
feat(simclr): 接入 SwanLab 可视化，并补上本地看板缺失的依赖
- SimCLRTrainer 记录 simclr/loss、loss_avg、lr（按 step）与 epoch_loss、
epoch_seconds、gpu_mem_peak_mb（按 epoch），超参为完整 yaml 配置；
正常结束与 KeyboardInterrupt 两条路径都会 finish()
- 配置新增 simclr.swanlab（字段同 train.swanlab），默认 mode: local，
不需要登录，日志写到 <work_dir>/swanlog
- 依赖改为 swanlab[dashboard]：此前 `swanlab watch` 在干净环境里会报
"Please install the swanboard package"，README 里检测训练那节的看板命令
同样受影响，现已随 uv sync 装好
- README 补齐本地看板/云端/离线补传三种用法与端口、局域网参数
Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
|
2026-09-03 09:24:39 +08:00 |
|
|
Shaun ZhouandClaude Opus 5
|
b6f83fcad0
|
fix(simclr): 周期性落盘，中途中断不再丢失训练成果
此前 fit() 只在全部 epoch 跑完后才保存骨架，一次跑到 epoch 12 被停掉后
13 分钟的训练全部作废。
- 每 save_interval（默认 5）个 epoch 保存一次骨架
- 捕获 KeyboardInterrupt，中断时先落盘再返回
- 聚类脚本改用 resolve_device，自监督分支不再有 GPU 守卫
Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
|
2026-09-02 21:43:35 +08:00 |
|
|
Shaun ZhouandClaude Opus 5
|
f433e5cf59
|
feat: 未分类样本的无监督聚类（多 stage 特征 + KMeans，可选 SimCLR）
把 data/film 下所有图片拉平做聚类，不使用任何目录名，簇数由 num_clusters 决定。
预处理针对该批数据的实际情况（14.5k 张已裁好的缺陷小图，中位 152x113，
宽高比 0.24~39.9）：尺寸与亮度都是 ROI 裁剪和光照的产物、不是缺陷属性，
因此拉伸到 128x128（不用 letterbox，其填充比例等价于编码了宽高比）并逐图 z-score。
- cluster: torch 实现的 kmeans++/Lloyd（含空簇处理与 n_init）、PCA、轮廓系数、
NMI 稳定性、多 stage 特征提取；不引 scikit-learn
- 白化默认关闭：CNN 特征谱极陡（λ1/λ32≈165x），白化会把噪声方向抬到与信号同权，
实测最大簇一度吃掉 96% 的样本
- simclr: NT-Xent 自监督预训练，用项目自己的卷积骨架，权重可直接初始化 DefectNet；
属于训练，走 require_cuda() 守卫
- 产出 assignments.csv、summary.json、按簇的软链目录与代表样本拼图，供人工核对
全量 14,579 张：轮廓系数 0.326、换种子稳定性 0.964，CPU 约 100 秒。
Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
|
2026-09-02 17:55:47 +08:00 |
|