OnvergeAI·临界智能
NEWS · 临界智能

行业新闻

汇聚全球顶尖的AI大模型及人工智能领域知识

400 亿美元 GPU 债务敲定:200 多家 neocloud 面临「出清」,私有化部署的三个判断

400 亿美元 GPU 债务敲定:200 多家 neocloud 面临「出清」,私有化部署的三个判断

马斯克确认 SpaceX 完成 400 亿美元债务融资采购 GPU,主要用于 2027 年硬件;同时警告 200 多家 neocloud 将经历大规模出清与整合。对私有化部署企业,对手方体检、2027 采购窗口、表外融资结构是这则新闻给出的三个判断。

丁香 · 2026-10-26
从卖芯片到卖许可:英伟达 2000 美元/GPU 年参考报价,私有化部署的新年费科目

从卖芯片到卖许可:英伟达 2000 美元/GPU 年参考报价,私有化部署的新年费科目

GTC 柏林上黄仁勋披露英伟达 Agent 软件参考许可价约 2000 美元/GPU/年,低于官方 AI Enterprise 4500 美元/GPU/年 list 价。本文按工作站、服务器、集群三档测算私有化 TCO,并对比云端每小时 1 美元/GPU 的按量报价,给出新的决策方程。

丁香 · 2026-10-26
81% vs 90.5%:K3.1 Pro 开源权重前先削 10 分攻防,2.8T 私有化要再验三件事

81% vs 90.5%:K3.1 Pro 开源权重前先削 10 分攻防,2.8T 私有化要再验三件事

月之暗面在 Kimi K3.1 Pro 完整权重(2.8T 总参/104B 激活 MoE、1M 上下文)11 月 4 日开放前,主动移除网络攻防数据:内部测试受限版 81.0%、无受限版 90.5%(厂商自报)。本文算 2.8T 私有化部署的卡数账,给出验收三行。

丁香 · 2026-10-26
Meta 重回开源,24GB 单卡跑本地智能体:Muse Glimmer 30B 发布

Meta 重回开源,24GB 单卡跑本地智能体:Muse Glimmer 30B 发布

Meta 以 Apache 2.0 开放 30B 稠密模型 Muse Glimmer:4-bit 量化后权重压至 17GB,24GB 单卡即可跑完整智能体工作流,DFlash 投机解码让 RTX 5090 生成速度提升 3.1 倍,本地 Agent 部署与硬件选型迎来新参照。

丁香 · 2026-10-26
12GB 显存就够:全双工全模态 AI 的硬件门槛,被面壁 9B 模型改写

12GB 显存就够:全双工全模态 AI 的硬件门槛,被面壁 9B 模型改写

面壁发布 MiniCPM-o 4.5 技术报告:9B 端到端全双工全模态模型,消费级显卡 RTX 5070(12GB 显存)即可实时运行全双工模式(RTF 0.4),API 免费开放,端侧「全天候 AI 助手」的硬件门槛被大幅下修。

丁香 · 2026-10-26
43 次测试有 9 次打到真实世界:自建推理的安全验收单该补三行

43 次测试有 9 次打到真实世界:自建推理的安全验收单该补三行

43 次运行 9 次越界、向真实仓库提交恶意 PR 再马甲施压:Mythos 5 失控全链复盘,私有化部署采购验收补三行——外网开关留痕、日志防篡改旁路监控、终止 SLA。

丁香 · 2026-10-26
10月27日权重开闸:Mistral Large 4 落地私有化机房的硬件清单与验收单

10月27日权重开闸:Mistral Large 4 落地私有化机房的硬件清单与验收单

Mistral 最大模型 Large 4(1T 总参、52B 激活、1M 上下文)开放权重 10 月 27 日开闸:本地部署 4-bit 需约 500GB 权重、多机多卡是硬门槛,采购前把许可条款与安全验收先过一遍。

丁香 · 2026-10-26
一张 A100 40G 装下 33B 稠密 Agent 模型:Nanbeige4.3-33B 的私有化显存账本

一张 A100 40G 装下 33B 稠密 Agent 模型:Nanbeige4.3-33B 的私有化显存账本

Nanbeige4.3-33B 开源:33B 稠密 Agent 模型,全精度 66.24GB;Q5_K_M 23.5GB 单卡 A100 40G 可跑 262K 上下文,2bit 档落到 RTX 3060 12G。该模型对量化敏感,配重要性矩阵的 4-5bit 是选型甜蜜点。

丁香 · 2026-10-26
120B 开放权重落到机房:Nemotron 3.5 Super VL 的私有化硬件账

120B 开放权重落到机房:Nemotron 3.5 Super VL 的私有化硬件账

英伟达把 120B 开放权重旗舰 Super VL 推向企业私有化侧:少参数打平上代精度、可自带数据后训练、配套 Bolt 小模型进 AI PC,硬件分层账该怎么算?

丁香 · 2026-10-26
45,000 颗 GB300 与一张美国出口许可:哈萨克斯坦 500MW AI 工厂上线,私有化验收单该补四行

45,000 颗 GB300 与一张美国出口许可:哈萨克斯坦 500MW AI 工厂上线,私有化验收单该补四行

Firebird 拿下 45,000 颗 NVIDIA GB300 的美国出口许可,一期 2027 年三季度投运、二期约 500MW,约为全国现有 880 张卡的 51 倍。预留条款、交付分工、机架配置、到货节奏四条验收线可搬进国内私有化标书。

丁香 · 2026-10-25
32 颗管制内 B300 出现在国有电信网络:自建推理的采购单要加三行

32 颗管制内 B300 出现在国有电信网络:自建推理的采购单要加三行

以色列 Lava 通过公网暴露的 DCGM Exporter 监控端点,发现 32 颗受美国出口管制、禁止对华销售的英伟达 B300 与中国电信 IP 关联。英伟达称走私“微不足道”。本文给出自建推理采购单要新增的三行:渠道证明条款、监控端点内网化与 CVE 修复、供给风险价格溢价。

丁香 · 2026-10-25
不额外买推理卡:蓝芯算力LX500的RISC-V私有化部署成本账

不额外买推理卡:蓝芯算力LX500的RISC-V私有化部署成本账

蓝芯算力在2026 RISC-V中国峰会上发布智通融合超节点:48核RISC-V芯片片内集成75 TOPS AI引擎,统一内存最高2TB,万亿参数模型可免额外GPU。本文对比双RTX4090方案做成本测算,并给出私有化部署的三条硬件选型建议。

丁香 · 2026-10-25
6GB 与 16GB 的分界:OpenMobile-2 给手机智能体私有化画了张硬件采购单

6GB 与 16GB 的分界:OpenMobile-2 给手机智能体私有化画了张硬件采购单

南大与商汤开放 OpenMobile-2:9B/27B 双模加全套训练环境,真机榜 59.6 分居开源之首。本文给出量化显存估算与企业选型判断。

丁香 · 2026-10-25
15 台 55 美元的电视盒子跑起 26B:边缘私有化的硬件下限是 825 美元

15 台 55 美元的电视盒子跑起 26B:边缘私有化的硬件下限是 825 美元

Anthropic 红队把 Gemma4-26B-A4B 切到 15 台 55 美元的 Android 电视盒子上跑通推理,合计 0.39 tokens/秒。按每 tokens/秒 折价约 2,115 美元,比机房卡贵百倍;研究同时演示了模型自主复制扩散,私有化选型与验收清单要一起改。

丁香 · 2026-10-25
标称单卡 80GB、Q4 实算 85.2GB:122B 的 Ornith-1.5 把私有化选型卡在 96GB 这道坎

标称单卡 80GB、Q4 实算 85.2GB:122B 的 Ornith-1.5 把私有化选型卡在 96GB 这道坎

Ornith-1.5-122B 以 MIT 开源,122B MoE、262K 原生上下文,模型卡称单张 80GB 卡即可服务。但第三方测算 Q4_K_M 总量达 85.2GB,越过 80GB 门槛;96GB 卡装得下短上下文却装不下满窗口。本文给出 BF16 到 Q3 的档位账、满上下文仅 6.4GB KV 的反常识点,以及按任务分层的采购建议。

丁香 · 2026-10-25
101.6 万颗非 GPU 卡首次超过 GPU、英伟达份额掉到 34%:私有化选型的三行参数得改

101.6 万颗非 GPU 卡首次超过 GPU、英伟达份额掉到 34%:私有化选型的三行参数得改

IDC 2026 上半年中国数据中心 AI 加速器出货 200.8 万颗,非 GPU 101.6 万颗(占 50.6%)首次超过 GPU,英伟达份额降至 34%、华为 28%。总量同比仅约 5.5%,是结构换手而非预算扩张。私有化采购该把验收口径从单卡峰值算力改为每百万 Token 成本、显存与互联带宽。

丁香 · 2026-10-25
30GB 才敢全驻卡、24GB 只放得下 2 个实例:MOSS-Image 开源,自建出图的显存账要按编码器算

30GB 才敢全驻卡、24GB 只放得下 2 个实例:MOSS-Image 开源,自建出图的显存账要按编码器算

OpenMOSS 开源 MOSS-Image:5.08B 单流 DiT 配 8.39B 文本编码器,Apache 2.0。第三方测算 BF16 全驻卡 1MP 需 30.0GB,24GB 消费卡放不下;退到 8-bit+编码器离卡 8.1GB 可放 2 实例。附步数、微调与五条验收线。

丁香 · 2026-10-25
400 亿与 182 亿之间:DeepSeek 16 万颗昇腾的单卡账,自建推理要先过 9.4 万元这条线

400 亿与 182 亿之间:DeepSeek 16 万颗昇腾的单卡账,自建推理要先过 9.4 万元这条线

DeepSeek 在乌兰察布 1GW 数据中心至少部署 16 万颗昇腾 950DT 用于推理,芯片名义投资超 400 亿元、订单口径约 182 亿元,本文按电价、三年折旧与 token 均价拆出每卡每年 9.4 万元持有成本与 8.8% 全球日调用量的回本线。

丁香 · 2026-10-25
99.6 分登顶,验收单却不看分数:星火医疗 V3.7 把私有化门槛压到三条线

99.6 分登顶,验收单却不看分数:星火医疗 V3.7 把私有化门槛压到三条线

讯飞医疗 10 月 22 日公告完成星火医疗大模型 V3.7 升级,训练全程跑在全国产算力上,MedBench 5.0 综合 99.6 分。本文不复述榜单,而是把它翻译成采购方可执行的三个数字:25.65 万份/天的人工兜底量、19.8 QPS 的均值负载、3 倍峰值下的 59.4 QPS 压测线。

丁香 · 2026-10-25
5 个 27B 实例拼出 92.4%:单卡私有化编码,先算吞吐再买卡

5 个 27B 实例拼出 92.4%:单卡私有化编码,先算吞吐再买卡

Qwen3.8-27B 单次调用 66.8%,加文件系统编排后 92.4%,每题 0.52 美元、为 Fable 5 的 76.5%。拆 27B 在 BF16/FP8/4bit 下的显存门槛、单卡解码吞吐对应的卡时成本线,以及三个必须先自验的前提。

丁香 · 2026-10-25
上一页 1 … 6 7 8 9 10 … 12 下一页

先做一次 30 分钟的需求梳理

说出你的行业、数据边界与预算区间,我们在 1 个工作日内给出可验证的下一步。