OnvergeAI·临界智能
NEWS · 临界智能

行业新闻

汇聚全球顶尖的AI大模型及人工智能领域知识

星火X2.6发布全国产云+端方案:端侧比云端省约68%,但要16个月才回本

星火X2.6发布全国产云+端方案:端侧比云端省约68%,但要16个月才回本

科大讯飞10月22日发布星火X2.6与全国产云+端协同方案,飞星平台以国产万卡算力底座亮相。本文按每月30万次办公问答测算:端侧月成本约1153元、比云端API省约68%,首年硬件4万元、约16个月回本,并给出数据边界优先的选型顺序与X2.6参数未公开的风险。

丁香 · 2026-10-22
折旧从4年改到7-8年:黄仁勋这句"八年寿命",先改的是自建算力的成本门槛

折旧从4年改到7-8年:黄仁勋这句"八年寿命",先改的是自建算力的成本门槛

黄仁勋10月21日在GTC柏林后称Blackwell与Vera Rubin可用七至八年,行业财务模型普遍按四年。本文把这条口径换成自建机房的卡时账:折旧腰斩、电费不变,八年折旧加电费约0.50美元/卡时,仅为H100现租价2.35美元的21%,但前提是利用率与软件栈支持。

丁香 · 2026-10-22
40B 代码模型塞进 48GB 笔记本:Flint 的 125 tok/s 得按带宽重算

40B 代码模型塞进 48GB 笔记本:Flint 的 125 tok/s 得按带宽重算

Recursive 开源 39.8B MoE 代码模型 Flint(2.5B 激活、262K 上下文、Apache 2.0)。本文按内存带宽重算厂商自报的 125/150 tok/s,给出 48GB 端侧与单卡 H200 私有化部署的选型与采购边界。

丁香 · 2026-10-22
8 卡 H20 吞吐涨 43%:Humming 开源量化内核,私有化部署的卡时省三成

8 卡 H20 吞吐涨 43%:Humming 开源量化内核,私有化部署的卡时省三成

蚂蚁集团与 vLLM 社区开源的 Humming 量化推理内核库,让 8 卡 H20 跑 DeepSeek-V4.1-Flash 的输出吞吐提升 14%–43%、TTFT 降 25%–32%,并已完整支持平头哥真武 810E 等 CUDA 兼容设备。

丁香 · 2026-10-22
4999 美元的 64GB DGX Spark 明天开卖:每 GB 内存反而比 128GB 版贵 44%

4999 美元的 64GB DGX Spark 明天开卖:每 GB 内存反而比 128GB 版贵 44%

NVIDIA 确认 DGX Spark 64GB 版 10 月 23 日经六家 OEM 出货、起价 4999 美元,带宽维持 273GB/s;但单位内存成本 78.1 美元/GB,比 128GB 版的 54.3 美元贵 43.9%,双机扩容加价 43.9% 只换来厂商自报 1.7 倍吞吐。

丁香 · 2026-10-22
DeepInfer 双硬件清单背后的国产化采购逻辑

DeepInfer 双硬件清单背后的国产化采购逻辑

DeepInfer开源引擎原生同时支持NVIDIA SM100与华为昇腾950 NPU,Apache 2.0无营收分成,为私有化部署多开一条国产化采购线。

丁香 · 2026-10-21
llm-d 1.0 把集群级推理做进生产:11.5 倍成本差背后,自建的门槛变了

llm-d 1.0 把集群级推理做进生产:11.5 倍成本差背后,自建的门槛变了

这一版的重点不是再刷一次跑分,而是把工程重心挪到上线之后:路由器主备热切换,预填充与解码副本作为一个整体锁步升级,按租户与优先级分流的多租户流控,以及把多轮会话钉在已持有 KV 缓存的副本上。

丁香 · 2026-10-21
16GB 卡跑 27B 安全模型:四个权重文件加起来 15.98GB,余量只剩 0.02GB

16GB 卡跑 27B 安全模型:四个权重文件加起来 15.98GB,余量只剩 0.02GB

OrcaRouter 紧急开源 OrcaCyber Nano 1.0:27B 稠密视觉语言模型、262K 上下文、全离线推理。按权重仓库四个文件核算,16GB 卡装满只剩 0.02GB 给 KV 缓存,24GB 才是真实部署门槛。

丁香 · 2026-10-21
面壁公开 LES 调度细节:35B MoE 手机跑到 20 token/s,端侧部署的硬件边界在哪

面壁公开 LES 调度细节:35B MoE 手机跑到 20 token/s,端侧部署的硬件边界在哪

面壁智能公开 LES 前瞻专家调度细节:35B-A3B 稀疏 MoE 以约 3GB 内存跑在手机端,iPad Pro M4 超 17 token/s、iPhone 18 Pro Max 超 20 token/s(厂商自报)。本文从内存带宽、SSD 预取、量化路线与芯片生态四条边界给出端侧私有化部署的选型与成本测算。

丁香 · 2026-10-21
英特尔 D 系列 480GB 风冷推理卡入场:单卡装下三千亿参数模型,带宽账得先算清

英特尔 D 系列 480GB 风冷推理卡入场:单卡装下三千亿参数模型,带宽账得先算清

英特尔在 OCP 峰会定名 D 系列:最高 480GB 低功耗显存、1.3 PFLOPS 算力、350W 风冷卡,单卡可跑三千亿参数模型。本文折算带宽对解码吞吐的硬约束、八卡整机二点八千瓦的年电费一点五九万元,并给出三类私有化场景的选型结论。

丁香 · 2026-10-21
自建机房先算水再算电:2 吉瓦冷却用水压到近零,1 兆瓦负载一年省 158 万元电费

自建机房先算水再算电:2 吉瓦冷却用水压到近零,1 兆瓦负载一年省 158 万元电费

英伟达 10 月 21 日在 GTC 柏林宣布欧洲伙伴采用 DSX AI Factory 平台建厂,闭式液冷配干冷器把冷却耗水压到接近零,2 吉瓦规模每天省 5400 万升水;功耗软件让同等 token 产出最多省 30% 电。本文把官方数字折到 1 兆瓦、10 兆瓦、250 兆瓦三种自建规模,并给出液冷选型的四条边界。

丁香 · 2026-10-21
端侧全本地门槛抬到 36GB:从 24GB 到 36GB 这 12GB 买的是什么

端侧全本地门槛抬到 36GB:从 24GB 到 36GB 这 12GB 买的是什么

Perplexity 10 月 20 日为 Mac 版 Computer 增加端侧模式,模型与智能体完全本地运行,最低要求 Apple 芯片加 36GB 统一内存,比 9 月的混合计算模式高 12GB。以硬件选型视角拆这 12GB 的用途、机型选择与批量采购建议。

丁香 · 2026-10-21
M3.1 Flash 权重还没到:428B 参数、免费窗口到期与自建时机五个问答

M3.1 Flash 权重还没到:428B 参数、免费窗口到期与自建时机五个问答

MiniMax M3.1 Flash 已按每百万 token 输入 0.15 美元、输出 0.60 美元上线,72 小时免费窗口到 10 月 22 日结束,权重预计 10 月 23 日放出。以五个问答拆 428B 参数的显存档位、空窗期对策与自建时机判断。

丁香 · 2026-10-21
DeepInfer 开源的是引擎不是服务:64+64 卡起步的私有化部署账

DeepInfer 开源的是引擎不是服务:64+64 卡起步的私有化部署账

DeepSeek 10 月 20 日开源内部推理框架 DeepInfer(Apache 2.0),但只含离线推理,KV 缓存、prefill/decode 分离与负载均衡均未放出。支持 SM100 与昇腾 950,高效最小部署 64+64 卡。以实操视角拆门槛、硬件选型与替代账。

丁香 · 2026-10-21
要不要把 K2.5 跑进自己机房?一张给部署方的决策树(256k 上下文 + 渠道弃用信号)

要不要把 K2.5 跑进自己机房?一张给部署方的决策树(256k 上下文 + 渠道弃用信号)

决策树场景式:K2.5 开放权重 256k 上下文已上 Cloudflare 渠道($0.60/$3.00/$0.10 缓存),但官方渠道已标弃用。沿「合规→调用量→硬件预算」三层判断,要不要自建、怎么建。

丁香 · 2026-10-20
问:奇瑞发「行业首个垂域大模型 + 车规芯片」,硬件采购和私有化方要接住什么

问:奇瑞发「行业首个垂域大模型 + 车规芯片」,硬件采购和私有化方要接住什么

问答场景式:奇瑞把「算力、算法、数据」三层写进瑶光 2035,配车规级芯片。私有化部署方与企业算力采购侧最常问的 5 个问题,逐一拆开。

丁香 · 2026-10-20
M2.5 开放权重 230B 落私域:一张「跑得起、跑得动、跑不亏」的采购判断

M2.5 开放权重 230B 落私域:一张「跑得起、跑得动、跑不亏」的采购判断

M2.5 开放 230B MoE 权重(激活约 10B/256 专家取 8),SWE-Bench 80.2% 逼近闭源旗舰。分析式判断:什么企业该上、显存档位怎么定、私有化相对 API 的成本账怎么算。

丁香 · 2026-10-20
开源模型只做初筛: TheoPhysEval 实测通过率与 DeepSeek-1017 权重, 科学 agent 私有化两线架构

开源模型只做初筛: TheoPhysEval 实测通过率与 DeepSeek-1017 权重, 科学 agent 私有化两线架构

TheoPhysEval 用 50 道未发表理论物理题评测 agent,开放权重代表 DeepSeek-V4.1-Flash 在真实轨道得 54%、断网隔离轨道 50%,与闭源最强 98% 存在明显代差。断网后开放权重只掉 4 个百分点,说明本地部署可用,科学类任务宜走闭源前沿加开放权重初筛的两线架构。

丁香 · 2026-10-19
API毛利85%写进账单: 增速拐头之后, 私有化盈亏点要重算

API毛利85%写进账单: 增速拐头之后, 私有化盈亏点要重算

Anthropic Q3营收168亿美元, 增速自147%拐至45%, 调整后毛利85%、首次盈利。厂商毛利线就是企业每月付的账单构成, 本文给企业客户TCO四步重算: 负载切分、盈亏点前移测算、锁定风险、验收基线, 并说明财报数字如何变成可季度更新的采购模板输入。

丁香 · 2026-10-18
密钥=支付授权: BYOK黑产工具现市, 私有化TCO多了一项零损失成本

密钥=支付授权: BYOK黑产工具现市, 私有化TCO多了一项零损失成本

OpenCode 1.4%用户密钥泄露已现盗刷, 黑产BYOK工具MONST3R-AI让推理账单由受害者支付. 本文给企业四步密钥治理清单, 并把安全成本项纳入私有化TCO: API模式事故=账单差额, 私有模式接近零, 高Agent负载盈亏点前移.

丁香 · 2026-10-18

先做一次 30 分钟的需求梳理

说出你的行业、数据边界与预算区间,我们在 1 个工作日内给出可验证的下一步。