30GB 才敢全驻卡、24GB 只放得下 2 个实例:MOSS-Image 开源,自建出图的显存账要按编码器算
一、开源的到底是什么
OpenMOSS 与 Mosi 把 MOSS-Image 放了出来:一个 5B 级单流 DiT,跑在 FLUX.2 的 latent 空间里,配 Qwen3.5-9B 文本编码器,权重 Apache 2.0,商用边界写得清楚。它卖的不是画质军备,而是三件工程上真能省钱的事:中英文字形渲染、JSON 布局(把每个框和每段文案的位置写进提示词)、最长约 4K token 的长提示词。Base 与 SFT 两个检查点同图运行,切换只是换一次 loader。
落地速度也不像实验室项目:day-0 进了 SGLang、vLLM-Omni 与 ComfyUI,ComfyUI 原生节点 10 月 16 日合入(目前只在 nightly),训练侧有 KohakuMossTrainer 与 DiffSynth-Studio 接手。有报道称四天内下载量达 130 万次——单一来源、未见第三方核验,按报道口径看,别当官方数据引用。
二、显存账不能按 5B 算:编码器比主干大 65%
采购的坑就在这里。主干 5.08B(BF16 权重索引 10,164,617,280 字节),文本编码器 8.39B,编码器是主干的 1.65 倍,与 Qwen-Image 2.1 同一类结构性问题。所以"5B 的模型,一张 12GB 卡够了吧"这种判断会直接翻车。
第三方按权重精度加每百万像素激活余量做的测算(其自述激活余量借自同 latent 空间的 FLUX.2 klein,属规划估计而非实测):1MP(1024×1024)下,BF16 全驻卡 30.0GB、BF16 编码器离卡 13.2GB、8-bit 加离卡 8.1GB、4-bit 6.1GB;2MP 分别是 32.2、15.4、10.3、8.3GB;4MP 为 36.6、19.8、14.7、12.7GB。
换算成卡位就刺眼了:BF16 全驻卡 1MP 要 30.0GB,24GB 消费卡一张也放不下,差 6GB、超 25%;退到 8-bit 且编码器离卡是 8.1GB,24GB 卡能放 2 个实例(16.2GB,余 7.8GB),第 3 个要 24.3GB 刚好越界;再压到 4-bit 才够 3 个(18.3GB,余 5.7GB)。Apple Silicon 一侧另有独立 MLX 端口实测:1024² 单图峰值 9.3GB(8-bit 档)与 7.4GB(compact 档),下载 14.1/12.1GB,比测算表高约 15%。结论是规划时按 +20% 留头,别把 8.1GB 当天花板。
还有一笔账常被漏算:档位共存等于权重多份。官方模板用的文件约 13GB,MLX 端口下载 14.1GB 与 12.1GB,若同时保留 ComfyUI 的 int8 版、BF16 版和 compact 版,盘上很容易压到 40GB 上下;多实例部署时每个实例还要在显存里独占一份权重,靠共享省卡这条路走不通。硬件清单里除了显存,该加一列本地 NVMe 容量与冷启动预热时间。
三、两条比加卡更便宜的杠杆
步数。官方示例是 50 步、guidance 3.0;社区已出 8 步 DMD 蒸馏版,还有 4 步变体,步数分别降到 1/6.25 与 1/12.5。卡数不变的前提下,这是最直接的吞吐杠杆,代价是细节与文字笔画质量必须自己抽样验——别拿 SFT 原版的效果给蒸馏版背书。
微调入口。KohakuMossTrainer 宣称 adapter(含 LoRA)训练最低 6GB 显存(厂商自报),支持 BF16/FP16/FP8/MXFP8/INT8、DDP/FSDP/流水并行与 CPU offload,覆盖 NVIDIA SM70 至 SM120 以及 Intel Arc、Windows 与 Linux。这意味着顺序可以反着来:先用现有卡做领域 LoRA 跑出业务收益,再补卡。
四、私有化验收单,我会加这五条
其一,写清档位:全驻卡、编码器离卡、4-bit,三档峰值显存各自实测,不接受"大约"。其二,编码器离卡的延迟代价单独测,整图耗时上升多少要写进 SLA,而不只看首字延迟。其三,并发实例数按 P95 定,不按均值;8.1GB 只是权重加激活的估计,中间张量随分辨率上涨。其四,步数变动必须配抽样:8 步、4 步版本的文字错误率与 4K 长提示词可用率各测一轮。其五,许可与商用边界写进合同附件:权重是 Apache 2.0,但社区蒸馏版与第三方 LoRA 的授权各自独立,不是同一份授权。
一句观察:图像模型的自建成本正在从"参数多少"转向"编码器放哪"——同一张卡,档位选错就是 0 实例和 2 实例的差别。采购表里该新增的一列是"编码器驻留策略",而不是再多一列算力峰值。
来源:OpenMOSS/MOSS-Image 官方仓库与项目页、ComfyUI 官方 MOSS-Image 教程、第三方显存测算与 MLX 端口实测、量子位报道(下载量口径)。