 Shaun ZhouandClaude Opus 5
|
92c88b785c
|
fix(config): --set 拦下不存在的键，并支持续训时重开学习率曲线
用户反馈"聚类配置里改不了 lr/weight_decay"，实测是两件事：
1. --set 的键打错字母会凭空造出一个谁也不读的键，训练照跑但改动无效。
实例：simclr.optmizer.weight_decay=0.0（optimizer 少个 i）被静默接受。
现在 apply_overrides 默认只允许覆盖已存在的键，报错时给出同级可用键
与最接近的拼写（"是不是想写 'optimizer'？"）。需要新增键时可 strict=False。
2. lr 其实生效了，但从 2229/2500 续训时 cosine 只剩满值的 3%，
新设的 1e-3 落到 2.87e-5。新增 restart_schedule 开关：按剩余轮数重开曲线，
新 lr 从满值开始；SimCLR 与检测训练都支持。续训日志补上调度进度，
并在 lr 不足 initial_lr 的 10% 时警告并给出两种解法。
顺带：严格校验立刻暴露出 configs/cluster/film.yaml 里根本没有 scatter 段
（代码 cfg.get("scatter", {}) 兜底走默认值，所以功能正常但配置项形同虚设），已补上。
Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
|
2026-09-07 19:30:17 +08:00 |
|
|
Shaun ZhouandClaude Opus 5
|
141cb907f2
|
feat: 支持 cuda / mps / cpu 三后端，Mac 上可用 MPS 训练
移除"训练必须有 Nvidia GPU"的硬性守卫，改为按后端能力分派。
- utils/device: resolve_device("auto") 按 cuda > mps > cpu 挑最快的可用后端；
显式指定不可用的后端时直接报错，不会悄悄退回 CPU——训练慢几十倍却不吭声是最坏的情况
- AMP 随后端取默认值：CUDA 开、MPS 关。MPS 上 autocast 数值正常但实测更慢
（tiny_conv @128²：fp32 76 ms/步、fp16 90 ms、bf16 108 ms），需要时 amp: true 可强开
- PeakMemory 统一显存峰值统计：CUDA 读内置计数器，MPS 无峰值 API 改用逐 step 采样
（是下界，日志与产出里已标注）
- profile_inference 支持 MPS，并提示 torch.profiler 没有 MPS 的 ProfilerActivity，
算子明细只反映 CPU 侧下发耗时
- train.py / eval.py 新增 --device，配置默认改为 auto
- check_env 改为列出全部可用后端与 auto 的选择结果
实测：tiny_conv 训练在 MPS 上比 CPU 快约 32 倍。
Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
|
2026-09-02 21:43:35 +08:00 |
|
|
Shaun ZhouandClaude Opus 5
|
b0d0dfffbb
|
feat: 训练与评估入口及 yaml 配置
- train.py: 先过 require_cuda() 守卫再建模型/数据，支持 --resume 与 --set 覆盖
- eval.py: 允许 CPU，输出定位与分类指标并可写 json
- configs: model/dataset/train/eval 四类，通过 `_base_` 组合；
classes 既可直接写列表，也可指向 YOLO data.yaml 由框架读 names
Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
|
2026-09-02 17:55:20 +08:00 |
|