- moss-image.com
- LoRA 训练
训练与使用 MOSS-Image LoRA
训练该选哪个版本、支持 MOSS-Image 的四个训练工具及其显存需求、OpenMOSS 的打标方法,以及值得了解的社区 LoRA。
在 Base 上训练 MOSS-Image LoRA,保持文本编码器冻结,并按模型训练时的方式为图片打标。 目前有四个开源工具支持 MOSS-Image,社区 LoRA 也已经能修复色带、加速采样和编辑图片。
用 Base 还是 SFT?
OpenMOSS 发布 Base 时刻意没有做后训练或 CFG 蒸馏,就是为了方便社区微调:它保留了完整的训练分布。除非你明确想在 SFT 精选风格的基础上调整,否则请用 Base 训练。在一个版本上训练的 LoRA 不保证能完美迁移到另一个版本。
训练工具
KohakuMossTrainer
KohakuMossTrainer 于 2026 年 10 月 18 日发布,支持对 Base 和 SFT 进行全量微调和 LyCORIS 训练(包括 LoRA)。
- 最低约 6 GB 显存即可训练适配器,支持 CPU 卸载。
- 混合精度:BF16、FP16、FP8、MXFP8 和 INT8。
- 多卡:DDP、FSDP 与流水线并行。
- 支持 Windows 和 Linux;NVIDIA SM70 至 SM120 显卡,以及 Intel Arc。
- 丰富的优化器支持与优化过的算子。
DiffSynth-Studio
魔搭社区的 DiffSynth-Studio 支持对 Base 和 SFT 进行全量微调和 LoRA 训练,提供训练文档和示例脚本。如果你已经在用 DiffSynth 或从魔搭下载模型,它会很顺手。
Kohya sd-scripts
sd-scripts 于 2026 年 10 月 18 日加入 MOSS-Image LoRA 训练,脚本为 moss_image_train_network.py,并附训练指南。它可以直接读取 ComfyUI 单文件权重。不支持 fp8,请改用 ConvRot INT8(--convrot_int8、--convrot_int8_text_encoder)。官方实测(1024 × 1024,batch 1,LoRA dim 16,梯度检查点,缓存潜变量和文本编码器输出,RTX PRO 6000):
| 配置 | 训练时显存峰值 | 内存 |
|---|---|---|
| bf16 DiT + bf16 文本编码器 | 13.2 GB | 17.2 GB |
| ConvRot INT8 DiT + 文本编码器 | 9.1 GB | 9.9 GB |
INT8 + --blocks_to_swap 20 | 6.9 GB | 14.0 GB |
启动阶段缓存文本编码器输出时会短暂占用更多显存(bf16 最高 15.3 GB)。
Ostris AI Toolkit
AI Toolkit 于 2026 年 10 月 16 日加入 MOSS-Image Base 和 SFT 支持,也能训练 SFT 编辑版本。
OpenMOSS 的建议
- 保持文本编码器冻结。 不要微调 Qwen3.5-9B。
- 按训练数据的方式打标。 MOSS-Image 学习的是长而忠实的描述:逐字转写图中可见文字,并描述文字的排版。
- 简单的 SFT 就很有效。 OpenMOSS 表示,在他们的实验中,对 Base 做简单的监督微调就能解锁 GIF 生成、参考图生成等新能力。
官方打标方法
OpenMOSS 公开了自己使用的重打标提示词。它要求视觉语言模型返回一个 JSON 对象,包含三种长度的描述、水印框和边框标记。核心规则:
caption.long:描述构图、主体、场景、色彩、光线和风格,并逐字转写图中可见文字——不翻译、不改写——包括换行、顺序、对齐、字号层级和字体风格。caption.medium:一段话。caption.short:一句话。- 描述中不要提及水印;水印单独记录为 0–1000 归一化坐标框。
打标模型方面,OpenMOSS 推荐 Gemma 4、Qwen 3.5 27B 或 Qwen 3.5 35B-A3B,并开启思考模式以提高准确率。完整提示词见用户指南。
入门清单
- 收集风格一致的高分辨率图片(至少 100 万像素),裁成你计划生成的比例。
- 用上面的方法打标;对于文字较多的设计,逐一核对每个可见文字是否转写准确。
- 在 Base 上训练并冻结文本编码器。从适中的 rank 和学习率开始,经常保存检查点。
- 先用官方采样参数测试——50 步、CFG 3、shift 5、跳过第 22 层——再调整其他参数。
社区 LoRA 与权重
| 项目 | 作用 | 说明 |
|---|---|---|
| MOSS-Image-SFT-8-steps-dmd | 把 SFT 蒸馏到 8 步、无需 CFG | 仍在开发中;ComfyUI LoRA 强度 1(lora_latest 用 0.7) |
| MOSS-Image-SFT-DeBand | 减轻 SFT 的竖向色带 | 附 ComfyUI 预设;可能改变细节 |
| MOSS-Image-FP16-fixed | Base 与 SFT 的 FP16 安全权重 | 提供 Diffusers 与 ComfyUI 格式 |
在 ComfyUI 中使用 LoRA
把 LoRA 文件放进 models/loras,在 MOSS-Image 子图中的扩散模型加载器和采样器之间加一个 LoraLoaderModelOnly 节点,强度按作者推荐设置。基础工作流见 ComfyUI 教程。
各工具的能力描述来自其官方文档(核对于 2026 年 10 月 26 日),本站未做基准测试。
常见问题
训练 MOSS-Image LoRA 用 Base 还是 SFT?
OpenMOSS 推荐用 Base 做微调和 LoRA 训练:它没有做后训练或 CFG 蒸馏,保留了完整的训练分布。下文的训练工具也都能训练 SFT。
训练 MOSS-Image LoRA 需要多少显存?
建议按 8–12 GB 准备。Kohya sd-scripts 实测:bf16 为 13.2 GB,ConvRot INT8 权重为 9.1 GB,INT8 加块交换为 6.9 GB(1024 × 1024,batch 1,缓存文本编码器输出)。KohakuMossTrainer 表示借助 CPU 卸载最低约 6 GB 即可训练适配器。显存越少,每步越慢。
需要微调文本编码器吗?
不需要。OpenMOSS 明确建议在后训练 MOSS-Image 时保持 Qwen3.5-9B 文本编码器冻结。