单节点 2.3TB HBM3e、开放权重推理专属轨:Akamai 的边缘转身给私有化加一条中间道
今日官宣:两个产品、一条推理专线
10 月 27 日,Akamai 正式发布 Akamai Inference 与 Akamai Agent Sandbox 两款产品,目前均处于 beta 阶段。官方定位是把「托管模型服务+智能体隔离执行」装进 Akamai Cloud:企业可以构建、微调自己的或托管的开放权重模型,用自有数据做 grounding,把智能体关进受约束的执行边界里跑,再用一套安全组合覆盖应用、智能体与基础设施三层。Inference 的接口是标准的 OpenAI 兼容 API,存量应用不改代码就能换入口;计费分两条轨,serverless 按量付费与专属部署并行。上线目录共 12 个开放权重模型,参数规模从 8B 到 2.8T,包括 NVIDIA Nemotron 3 Ultra、OpenAI gpt-oss-120b、Google Gemma 4,外加给 RAG 用的嵌入模型。官方同时说明,推理 beta 先行开放 serverless 形态,B300 集群的可用性要直接找销售谈;按 M token 计的公开价目表尚未给出,这条要盯住后续公告。以上数字来自公司新闻稿,属厂商自报口径。捆绑方式值得留意:模型目录、执行沙箱、安全组件三件套叠在边缘网络上卖,和传统云厂商的「算力+模型」、AI 公司的「模型+API」都不一样。
Agent Sandbox:给智能体加一道笼子
Agent Sandbox 为智能体提供隔离执行环境:代码跑在 Akamai Functions 上,计算、内存、出站连接与系统能力四个维度全部由 WebAssembly 设资源上限,组件本身以开源形式在 Spin 框架里交付。逻辑很直白:智能体一旦能调工具、连外网,执行边界就从可选项变成企业验收的必选项。把沙箱做开源,等于把「笼子」的规格书摆到桌面,采购方可以逐条对照自己的安全基线,也方便在私有环境里复现同款隔离。
硬件账本:每节点 2.3TB HBM3e
对私有化采购方,随公告披露的硬件信息更值得看:Akamai 把 GPU 集群扩到 NVIDIA Blackwell Ultra,每个 8 卡节点单卡 288GB HBM3e、节点合计 2.3TB;并已披露为 2027 年的 NVIDIA Vera Rubin 平台准备基础设施。背景数据:Akamai Cloud 的多年期合同总额超过 140 亿美元,全球 4350 多个边缘节点。本段全部为厂商自报。粗算一下容量:目录里 120B 量级的开放权重模型(如 gpt-oss-120b),FP8 权重约 120GB,单节点 2.3TB 放得下且余量充裕,长上下文与并发都吃得动;而 2.8T 参数的大 MoE 即使按 FP8 计权重也要约 2.8TB,单节点装不下,只能多节点组网——节点数与组网拓扑是这套目录里真正要算的账。
一句话观察与选型参照
观察:CDN 巨头从边缘安全转向「专属部署+隔离执行」全栈,是推理开始变成一种边缘计算品类的信号,4350 个边缘节点意味着低时延推理的地理分布直接拉满。对私有化买方,专属部署这条轨等于「半私有化」中间道——权重与容量锁给单一客户,数据边界清晰,但资产仍在厂商手里;节点配置(每节点 2.3TB HBM3e)可以直接当作中型开放模型的采购模板,合同里建议加一条 Vera Rubin 换代条款,签之前把每 M token 三条账(专属轨价格、自建 Blackwell、第三方 API)算一遍再比。
来源:Akamai 官方新闻稿(GlobeNewswire,2026-10-27),另见 Investing.com 与 Yahoo Finance 报道;文中厂商自报数据以公司口径为准。