M3.1 Flash 权重还没到:428B 参数、免费窗口到期与自建时机五个问答
问题一:权重没放出来,现在能自建吗
不能。MiniMax 10 月 19 日发布 M3.1 Flash 时明确说权重「稍后发布」,OpenRouter 的说法是本周晚些,VentureBeat 给出的日期是 10 月 23 日。在权重落地之前,能用的只有三条路径:官方 API、M Plan 订阅、桌面版 MiniMax Code,全部是托管形态。想上私域的团队这一周只能做选型预算,不能做部署。
问题二:428B 参数要多少显存
Ollama 模型页给出的参数量是 428B,上下文标注 976K。按参数量推算(这是估算,不是厂商指标):FP8 精度权重约 428GB,4bit 量化约 214GB,再叠加 KV 缓存与运行时开销。这意味着单机 8 卡 80GB 的机器在 FP8 下刚好卡在权重边界上,长上下文场景几乎没有余量;要留出 30% 以上余量,得往 16 卡或更高带宽的整机走。按 4bit 部署则能压到单机 8 卡以内,代价是精度与长上下文表现要自己验。
问题三:免费窗口和权重发布之间有空窗,怎么处理
OpenRouter 的免费期在 10 月 22 日 12:00 UTC 前后结束,Ollama Cloud 标到 22 日 23:59 UTC,权重按 23 日算——中间至少一天没有免费层可用,权重也还没到。过渡方案很实际:把正在跑的评测任务在 22 日前跑完,或者接受按 0.15 与 0.60 美元的价格继续调用。这个价格在智能体场景下仍然便宜,短时空窗不会造成业务中断,但预算表要提前更新。
问题四:这模型的幻觉数据怎么看
Artificial Analysis 的独立评测给了两个必须一起看的数字:智能指数 42.7,在 351 个模型里排第 21;完成一个指数任务的平均成本约 0.22 美元,前代 M3 约 0.51 美元。同一次评测里还有一条更关键的:在 AA-Omniscience 上它答对 56%,但在没答对的题目里,93% 是直接给出错误答案,而不是承认不知道,总分只有 16。
这对选型是决定性信息。把它放在开放域的问答、客服直答位,风险很高;放在有编译器、有测试、有检索结果校验的智能体与编码流水线里,错的答案会被下游拦住,性价比才成立。私有化部署之前,先想清楚它接在哪一层。
问题五:什么时候该买卡
我的判断是分三步走。第一步,权重发布后先做两周 API 影子测试,用自己的一千条真实任务比出与现用模型的通过率与单任务成本;第二步,如果某条业务线的月度调用费用超过一台 8 卡整机的月折旧,且数据不能出域,才进入采购;第三步,买卡时按 4bit 档位定容量,按 FP8 档位定互联,别按厂商的宣传参数下单。
还有一个容易忽略的点:匿名期那批亮眼数据是「早期版本」。OpenRouter 记录 Space Bunny 在匿名期首 token 从 1.95 秒降到 1.22 秒、吞吐从 70 涨到 100 token/s,但那是没挂真实业务负载的测试环境。正式版加上你自己的并发,这个数字会掉,压测要以落地场景为准。
来源:MiniMax 官方博客、OpenRouter 模型页与公告、Artificial Analysis、VentureBeat、Ollama 模型页