LOCAL MODEL LAB / 学习入口
本地小模型训练 Resources
核实日期:2026-10-10。先查下列原始资料,再生成课程;版本和硬件支持后续继续核实。
Knowledge
- Cloudflare Pages Direct Upload 官方文档 覆盖静态资源的本地构建与发布。用于维护手机课程入口;网页发布与模型训练服务是不同任务。
- ComfyUI 自定义节点属性官方文档 覆盖输入输出类型、输出节点与缓存失效。用于设计训练桥接节点;普通图像 LoRA 节点不自动适配文本模型训练。
- ComfyUI Server Routes 官方文档
覆盖
/prompt、/history/{prompt_id}、/queue与自定义路由。用于区分画布任务、训练 worker 任务与模型服务请求。 - ComfyUI WebSocket Messages 官方文档 覆盖 execution_success、execution_cached 和 ui 回读。用于理解画布执行成功的边界以及重复 Queue 的行为。
- ComfyUI 官方 API 示例 覆盖 API 格式图提交。用于后续实现桥接节点后导出 API 工作流;课程附带的 blueprint 不是可提交的 API 图。
- Qwen2.5-0.5B-Instruct 官方模型卡 覆盖参数规模、Apache-2.0 许可、指令模型与聊天模板。用于确认首轮起点;模型质量仍需在本任务实测。
- Qwen3-0.6B 官方模型卡 覆盖另一种小模型及思考模式开关。用于第二轮迁移比较;首轮选 Qwen2.5 以减少思考模板变量。
- MLX 官方文档 覆盖 Apple Silicon 的数组、自动微分、延迟求值和统一内存。用于理解训练运行时,而非把参数大小当成峰值内存。
- MLX-LM 官方 LoRA 操作指南 覆盖 SFT 数据、prompt masking、adapter、融合和内存取舍。用于首次监督微调与保存产物。
- MLX-LM 官方服务源码 覆盖模型路径、监听地址、健康检查与聊天端点。用于确认服务确实加载训后的模型。
- LoRA 原始论文 覆盖冻结原权重、训练低秩增量的思想。用于区分“更新哪些参数”与“用什么训练目标”。
- TRL 官方 SFT 文档 覆盖监督目标与数据格式。用于概念主读;本文不假设其 CUDA 示例可以直接在 Mac 上运行。
- DeepSeekMath 原始论文 提出 GRPO,介绍同题分组采样与相对奖励。用于强化学习阶段主读;论文效果不代表本机小实验效果。
- TRL 官方 GRPO 文档 覆盖奖励函数、分组优势、KL、采样和日志。用于检查原理与诊断,不替代 Mac 工具链的实测。
- mlx-lm-lora 项目维护者文档 覆盖 Mac 上的 GRPO 实现和自定义奖励。用于实际强化学习工具;这是社区实现,必须完成小步冒烟与权重回读。
- mlx-lm-lora 5.8.6 发布 与 mlx-lm 0.32.0 发布 用于固定本次研究的候选版本。已读取两者发布 wheel 的 CLI、数据和奖励源码,尚未安装运行训练。
- TRL 官方 DPO 文档 覆盖离线偏好对与直接优化。用于区分 DPO、在线强化学习与 RLHF;本任务的实际 RL 阶段采用 GRPO。
Wisdom (Communities)
- ComfyUI 官方仓库 Discussions 用于携带节点接口、最小图、缓存行为与错误日志讨论自定义训练编排;不需要现在发帖。
- MLX 官方仓库 Discussions 用于携带硬件、版本、最小复现与内存数据讨论 Mac 训练问题;不需要现在加入或发帖。
- Hugging Face Research 论坛 用于讨论奖励设计、评估和失败实验。先带匿名合成样本与对照结果,再寻求同行反馈。
Gaps
- 2026-10-10 实际探测本机
http://127.0.0.1:8188:ComfyUI 0.35.0、MPS,队列当时为空。当前注册的 TrainLoraNode 接收 MODEL/LATENT/CONDITIONING,属于图像扩散模型训练;未发现本课 Qwen SFT/GRPO 桥接节点。节点清单只证明当前安装状态,不证明其他第三方项目不存在。 - 新增的 ComfyUI 路线是教学与接口设计,bridge 节点尚未实现/安装,blueprint 不能拖入执行。尚无 ComfyUI → MLX worker → 训后 API 的真实闭环证据。
- comfy-cli 的 freshness 检查本次超时,不能据此断言当前节点生态已是最新;本次没有升级或重启已有 ComfyUI。
- 本机尚无该版本组合的安装、模型加载、梯度更新、GRPO 奖励方差、权重回读或 HTTP 服务证据。
- 训练耗时、峰值统一内存和最佳超参数未知。路线中的步数与学习率是教学起点,不是性能承诺。
- 没有证据保证 GRPO 优于 SFT;若同组奖励全相同,需要先诊断题目难度、采样或奖励,不能靠增加步数宣称有效。
- 合成计价规则不证明真实电商任务、营销文案质量或混剪业务效果;迁移前需重新定义数据、奖励与验收。