OnvergeAI·临界智能
NEWS · 临界智能

新闻

临界智能新闻中心:公司动态、产品更新与行业观察。

501B权重进机房: NVFP4 233GB门槛下的私有化硬件选型三档账

501B权重进机房: NVFP4 233GB门槛下的私有化硬件选型三档账

Reflection按Apache 2.0开放501B开放权重模型Beam(激活23B), 10月16日同步登陆AWS托管部署. 本文按NVFP4(约233GB)/FP8(约467GB)/BF16(约1TB)三档显存账拆解本地部署硬件选型, 给出2卡POC起步路径, 国产算力适配建议与TCO对比节奏.

丁香 · 2026-10-18
一台笔记本跑74B智能体:RTX Spark选型账本,64GB还是128GB

一台笔记本跑74B智能体:RTX Spark选型账本,64GB还是128GB

NVIDIA Nemotron 3.5 Bolt 74B-A9B开源(22.1GB/2位量化),RTX Spark笔记本10月16日开售。解析64/128GB档位选型、24GB内存预算陷阱、边缘部署vs云端API成本账,附采购节奏建议。

丁香 · 2026-10-18
552B权重当天开源:V4.1-Flash 1017 私有化选型账本,显存、吞吐与搜索接口自建的取舍

552B权重当天开源:V4.1-Flash 1017 私有化选型账本,显存、吞吐与搜索接口自建的取舍

DeepSeek 10月17日同步开放 V4.1-Flash-1017 的 MIT 权重(552B MoE,输入激活8B,输出激活16B,1M上下文,HF与ModelScope双通道首发)。本文按硬件梯度拆解私有化部署的显存与吞吐账,并对比自建搜索抓取能力与官方接口的成本拐点。

丁香 · 2026-10-18
1.5GW TPU租约用十息票的债去租,本地部署的硬件账要重新算

1.5GW TPU租约用十息票的债去租,本地部署的硬件账要重新算

FT独家:Broadcom 600亿美元债务包给Anthropic约1.5GW TPU五年租约(总承诺1252亿美元)杠杆化,次级档10%+息票比4个月前贵1.5-2.5个百分点。本文拆电力/利息/折旧三笔账,并给开放权重本地化、H100/H200/B200硬件梯度、混合路由三条替代路径的回本测算。

丁香 · 2026-10-17
一块钱 API 时代:Haiku 5.5 降价之后,私有化硬件选型要重画三条判断线

一块钱 API 时代:Haiku 5.5 降价之后,私有化硬件选型要重画三条判断线

Anthropic 把 Haiku 5.5 打到 0.10/0.50 美元每百万 token,Batch 五折加缓存读 0.1 倍。高频子任务成本逼近白嫖线,"为了降本买卡"的私有化逻辑需要重算。拆解数据合规、量级、离线三条判断线,硬件选型从堆卡数转向看利用率曲线。

丁香 · 2026-10-17
Meta 816B 开放权重:700GB 显存账本与三档硬件选型,美系旗舰私有化落地测算

Meta 816B 开放权重:700GB 显存账本与三档硬件选型,美系旗舰私有化落地测算

Meta 10月15日开放 816B/42B 激活多模态 MoE 权重,NVFP4 需最低 700GB 显存(4 卡 B300 或 8 卡 H200),双 Mac Studio 可桌面部署。本文给出三档硬件选型账本、许可证商业条款风险点与三步采购测试法,供企业客户评估私有化落地。

丁香 · 2026-10-17
501B开源模型Beam本地部署选型:NVFP4档显存账、H100/H200/B200硬件梯度与API转私有化回本测算

501B开源模型Beam本地部署选型:NVFP4档显存账、H100/H200/B200硬件梯度与API转私有化回本测算

501B开源模型Beam本地部署选型:NVFP4档显存账、H100/H200/B200硬件梯度与API转私有化回本测算

丁香 · 2026-10-17
大模型私有化部署窗口期:开放权重冲上 800B 档,API 价格基准持续下探

大模型私有化部署窗口期:开放权重冲上 800B 档,API 价格基准持续下探

私有化部署视角:Meta 816B 与 NVIDIA 120B 开放权重落地、腾讯 Hy4 770B Apache-2.0、前沿 API 价格基准 $2/$10、语音与 Agent 场景本地化选项,及合规趋势提示。

临界智能 · 2026-10-16

先做一次 30 分钟的需求梳理

说出你的行业、数据边界与预算区间,我们在 1 个工作日内给出可验证的下一步。