10M上下文只有托管入口:Mirendil Fern 0.1 的私有货架空窗与三道硬件选型账
千万token的上下文,到底有多大
10 月 26 日,成立仅一年的 AI 实验室 Mirendil 发布了首个模型 Fern 0.1。最醒目的数字是它的上下文窗口:最高 1000 万 token,约合 23MB 代码、50 万行,官方对标整个 Megatron-LM 代码库的量级,并称一次可以装下数十到数百条完整的 agent 轨迹、或数天 agent 工作日志。
横向参照:据媒体引述,当前主流闭源旗舰的上下文上限是 1M token;10M 高出一个数量级。但窗口不等于能力——官方在 10M 满窗跑 RULER 长文基准:单针检索 100%、多键检索 90%,多跳问题准确率只有 45% 左右(公司自报评测,未经独立复核)。

托管先行:私有货架上的空窗期
对私有化部署一侧,关键信号在接入方式:官方模型表里 Fern 的 Access 标注为 Coming soon,早期访问为托管形式、权重未开放、未公布价格——官方博客与媒体报为两个独立信源,结论一致。Mirendil 的模型家族分三档(高效档主打高并发 agent 任务、更强档、最强档 2–10T 参数在训),目前只有 0.1 版本放出。
背景:Mirendil 今年 6 月出隐身期,媒体报其种子轮融资 2 亿美元、估值 10 亿美元,由 a16z 与 Kleiner Perkins 联合领投,NVIDIA 跟投(单一媒体信源,未交叉核实);两位创始人分别出自 Anthropic 与 Google。官方自报:底座 Mirendil-Base 由一名研究员用时 3.5 个月、算力成本不足 1000 万美元训出——长上下文正是这家实验室押注的护城河。
私有化一侧的三道选型账
第一道,能力账。多跳 45%(厂商自报)说明 10M 窗口当前只适合“必须看全量”的任务:日志排障、训练数据审计、agent 轨迹复盘,而不适合复杂推理。对“大代码库+检索”为主的工作负载,1M 档开放权重模型(Kimi K3.1、Qwen 系)今天就能免费私有部署,不必等它。
第二道,硬件账。10M 上下文的 KV cache 体量比 1M 档高一个数量级,单卡乃至小集群装不下长会话,需要大 HBM 多卡节点加分层 KV cache(HBM+主机内存/闪存 offload)的推理架构;国产路径即昇腾/海光多节点。Mirendil 未公布逐 token KV 与架构细节,容量测算只能按分层缓存架构估算,切勿为“10M”字样买单一台单机。同时 10M 长窗口的 KV 体量对端侧与边缘设备不现实,端侧部署此题不成立,这是纯数据中心议题。
第三道,入场时机账。托管早期访问无价格,先行者大概率是企业与科研机构。等开放权重与正式定价落地,应比三条曲线:托管 API 单价、自建推理单 token 成本、1M 开放权重+RAG 自托管栈。建议设生产准入门槛:多跳准确率 ≥ 80% 再上生产,80% 之前它只能算长文档阅读工具。若届时托管价落在每百万输出 token 10 美元以内的常见档位,多日日志审计这类批量任务仍有空间与自建栈拼成本;高出太多,RAG 自托管仍是主力。
观察:上下文大小是这家一年期实验室的产品护城河(1000 万美元训练对赌 2 亿美元融资),但对私有化硬件选型而言,护城河要等开放权重与价格落地才算数;现在值得列观察位,不值得建仓。
来源标注:Mirendil 官方博客《Introducing Fern》(10-26 发布、10-27 修订)、Startup Fortune(10-27)、AI Parbellum、青云 TOP 早报;融资数据为媒体报(单一信源,未交叉核实),基准数字为厂商自报。