扫码体验VIP
网站公告:为了给家人们提供更好的用户体验和服务,股票复盘网V3.0正式上线,新版侧重股市情报和股票资讯,而旧版的复盘工具(连板梯队、热点解读、市场情绪、主线题材、复盘啦、龙虎榜、人气榜等功能)将全部移至VIP复盘网,VIP复盘网是目前市面上最专业的每日涨停复盘工具、龙头复盘神器、股票复盘工具、复盘啦官网、复盘盒子、股票复盘软件、复盘宝,持续上新功能,目前已经上新至V6.5.7版本,请家人们移步至VIP复盘网 / vip.fupanwang.com

扫码VIP小程序
返回 当前位置: 首页 热点财经 大模型一体机,开始缩水了

股市情报:上述文章报告出品方/作者:半导体产业纵横;仅供参考,投资者应独立决策并承担投资风险。

大模型一体机,开始缩水了

时间:2026-10-02 14:02
上述文章报告出品方/作者:半导体产业纵横;仅供参考,投资者应独立决策并承担投资风险。



大模型一体机是集成 AI 加速硬件(GPU / 国产 AI 加速卡)、服务器硬件、推理框架、大模型权重、配套运维与应用平台的一体化设备,实现开箱即用,面向政府、企业、科研机构完成本地私有化大模型部署,省去用户自行组装服务器、适配框架、调试模型的复杂流程。

去年年初,DeepSeek R1 正式亮相,带动 DeepSeek 一体机迅速走红。DeepSeek一体机可在单机环境下完成 671B 满血版大模型的部署,一时间,各地机构、企事业单位与中小企业纷纷采购,市场热度高涨。

而如今,随着市场变化和模型进化,大模型一体机市场出现了深刻变革。

图片 01
饱受争议的DeepSeek一体机

2025 年春节前后,DeepSeek R1横空出世,相关热度持续攀升,随后60多家厂商推出DeepSeek一体机。但随之而来的便是各种争论,大家都在讨论,各个相关单位是否应该部署一体机?毕竟一台一体机甚至要卖到上百万的价格,财务支出巨大。而如果调用云端大模型,几百年也用不完。加之大模型持续迭代、参数量不断膨胀,单机硬件的算力上限便会逐步显现。

仅仅三个月,市场便迎来降温。行业形成一种共识:DeepSeek有用,但DeepSeek一体机真没用。毕竟一台标准 DeepSeek 一体机至少需要搭载 8 张 GPU 显卡,受限于单机架构,无法享受集群部署带来的规模效应,综合使用成本居高不下。更关键的是,早期不少一体机本质只是硬件打包产品,软件层面优化不足,仅完成模型简单安装部署。虽然标称支持 671B 大模型运行,但实际并发能力很差,多用户同时访问极易出现卡顿。部分厂商重硬件交付、轻后续运维,设备交付之后缺少模型持续更新迭代服务,需要用户投入额外人力进行二次改造,这也造成不少机构硬件到位,业务却跑不起来。而且满血版一体机普遍要120万到150万,用国产卡因单台显存不够,往往要两台并联,预算近400万。到2025年下半年,“满血版卖不动了”已经不再是秘密,中小厂商的成单主力悄悄换成了32B和70B。

时间来到 2026 年,市场环境再度发生变化。内存、存储(SSD、机械硬盘等)、GPU 芯片等等相继涨价。从资产角度来看,2025年初购入的一体机,如今二手处置甚至可以收回全部采购成本,还能实现盈利。有网友透露,公司去年出了五套昇腾卡的服务器给某国企的研发部门,成交额1000万冒头。今年和甲方项目经理了解到,项目失败,项目组解散,靠着把五台服务器卖给隔壁项目团队实现盈利,甚至项目组发了一笔奖金,成为了少有的项目失败却盈利的团队。当初被网友调侃高价踩坑的采购方,反倒成了本轮硬件涨价周期里的受益者。

但这里需要客观看待硬件增值现象,虽然硬件账面升值,并不代表适合当下新项目采购。二手一体机普遍面临保修失效、固件驱动兼容性、功耗过高等现实问题,老旧硬件架构想要跑通 DeepSeek V4.1 Flash 这类新一代 MoE 模型,还需要完成推理框架改造,并非拿到设备即可直接满血运行,这也抑制了机构大规模囤二手设备的意愿。

图片 02
大模型一体机集体“缩水”

今年的行业风向已经转变,市场不再追捧能够运行 671B 满血大模型的一体机,AI  BOX 这类轻量化本地部署设备开始兴起。相比于去年的671B 满血模型的高端一体机,今年市面一体机硬件配置、可承载模型参数量均出现明显下调,多数中端设备最多仅可运行 70B 级别模型。

缩水的原因并不复杂。一是需求端在挤泡沫,大量实践证明,绝大部分用户需求的是知识库问答、公文写作等场景,而这类场景依靠蒸馏的小模型就足够了,671B的能力大部分时间能力过剩;二是模型端的能力密度在提升,MoE稀疏激活、蒸馏、量化等技术成熟,达到同样效果所需的参数量大幅变小;三是高端芯片供给受限,2025 年 4 月,H20 芯片被无限期停售,而彼时国产加速卡经过迭代,在显存、吞吐性能上有一定提升,但单卡依然跑不动超大 MoE 模型,想要实现满血运行,需要多台设备并联。除采购成本外,多卡并联还会带来调试复杂、软件生态适配工作量大等问题,进一步抬高项目落地门槛;四是内存涨价,本地部署满血版成本上涨过高,性价比不足。

整个一体机市场,由此劈成了两半:轻量化缩水版本主打走量,撑起市场出货大盘;满血高端一体机产品依然存在,但采购群体高度集中于有强合规要求的央国企、金融机构,高端机型整体出货量大幅下滑。

图片 03
内存、Token涨价,Agent爆火

在一体机普遍走向轻量化的当下,高端一体机是否还有市场价值?实际上,高端一体机在特定场景下,仍存在市场需求。

首先是复杂生产场景,小模型能力存在明确短板。Agent 长链路任务、Vibe Coding 工程级代码开发、AI 专业视频生成,这三类当前增长最快的 AI 应用,对模型的推理深度、逻辑链条、多模态理解能力要求极高。想要稳定支撑这类生产级任务,必须部署满血版的大模型。也正是这个原因,高端一体机并没有因为轻量化产品流行而消失,反而在真正的生产环节价值更加凸显。

其次,云端调用成本飙升,本地部署性价比凸显。随着 Token 价格上涨,再加上海量多模态生成消耗,大规模使用云端大模型的成本正在快速攀升。Vibe Coding 需要反复迭代、大量生成调试;AI 视频生成更是按秒计费,单条视频成本可达数元至数十元。当业务量上来之后,云端订阅费用会非常惊人,年投入很容易突破百万级别,本地部署大模型的成本优势重新显现。与此同时,数据安全的重要性愈发凸显。就在不久前,海外曾曝出公开用户数据的安全事件,海外闭源 AI 产品也开始嵌入隐形水印等机制,企业与机构对数据本地化的诉求持续增强。

最后,Agent 普及推高本地部署利用率。过去一体机最受诟病的一点,是利用率不足,百万级设备大部分时间在闲置。但Agent 的流行,可以让一体机连续工作,利用率飙升,理论上可以拉高设备利用率。通过工作流编排与业务系统深度对接,一体机可以承载持续运转的 Agent 任务,实现 7×24 小时不间断推理。

图片 04
开源模型更新,一体机迎来能力升级拐点

真正的行业转折点来自新一代模型迭代,大模型本身能力持续变强。Kimi K3 虽然性能出众,但参数量庞大,很难在一体机硬件上落地部署。而新模型的出现改变了这一局面。

首先是 DeepSeek V4.1 Flash 正式发布,它以接近 Pro 版本的能力,提供 Flash 档位的使用成本。根据官方介绍,V4.1 Flash 在性能、开销、推理速度、任务总耗时等多项指标上全面超越 V4 Pro。该模型采用全新架构,原生支持视觉理解,承接上一代 Pro 模型的定位。尤为关键的是,V4.1 Flash 基于 CausalEncoderDecoder(因果编码器解码器)架构打造,属于总参数量 552B 的 MoE 混合专家模型。

需要注意的是,552B的模型大小,小于DeepSeek R1满血模型671B的参数规模。这意味着去年花150万买的满血一体机,不用加一张卡就能原地升级,能力原地提升。能力更强,上下文也达到最新水平,模型还没有变大。而且模型与Harness框架联合训练,强化了长周期连续任务处理能力。

其次,MiniMax H3 开源模型快速走红。MiniMax H3是MiniMax发布的一款通用全模态生成模型,于2026年7月31日正式发布。2026年8月3日,MiniMax正式开源该模型,其开源许可明确排除美国、欧盟、英国及韩国的使用权限,华为昇腾、摩尔线程、沐曦、海光信息、昆仑芯、天数智芯、壁仞科技、AMD、Intel等国内外芯片厂商,以及Hugging Face、魔搭ModelScope、ComfyUI、RunningHub、fal等开发社区和云推理平台,另有vLLM-Omni、SGLang等推理框架完成适配支持,该模型在Artificial Analysis榜单中视频编辑能力排名第一。

云端服务商的AI视频生成有多费钱就无需赘言了,而H3模型综合能力突出,让 AI 视频的本地生成成为现实,降低了企业对商用云端视频生成服务的依赖。而且经过社区优化后,MiniMax H3甚至可以在9700x + 32G内存 + 5070ti的配置上能跑,大概5分钟一个5秒的视频,可想而知一体机在优化后,输出速度将会更快。最近的一条消息称,同样生成5秒、1344×768的视频,在4张RTX 6000D上,原始BF16 50步方案耗时348.8秒,差不多6分钟。RunningHub H3 Lightning完整加速之后,只需要28.7秒。前后约12倍提速,生成耗时减少约92%,却依旧能保留BF16数值精度。RunningHub已经把整套玩法放GitHub上开源了,任何创作者都能开箱即用!在8张RTX 6000D环境下,让H3做一个15秒、分辨率768×1344的视频,纯文字生成大约需要48秒、双参考图生成约73秒。一条15秒的图生视频,可以打进“1分钟出结果”这个时间尺度了。

图片 05
总结

综合来看,去年上半年入手高端一体机的采购方,在本轮硬件涨价周期中获得资产层面的收益。2026 年市场呈现两极分化:满血高端一体机硬件成本抬升,性价比有所下降,仅建议有刚性业务、合规隔离需求的机构采购。同时必须注意,一体机采购并非一劳永逸,除硬件采购预算外,机构还需要持续承担机房供电散热、运维人力、模型版本迭代、推理框架调优、故障维护等隐性成本;不少单位只核算硬件支出,忽略后续运维开销,最终造成项目落地不及预期。轻量化的 AI BOX 类设备迎来普及,更适配具备本地保密诉求、AI 能力要求不高的业务场景。

未来,一体机行业不会简单走向“越做越小”,产品分层格局还会持续演化。一方面轻量 AI BOX 将进一步下沉,覆盖更多边缘、部门级业务;另一方面随着国产芯片、MoE 推理框架持续迭代成熟,未来高端满血一体机的综合成本存在下探空间。往后一体机赛道的竞争,不再比拼谁能够部署最大参数量的模型,而是硬件、推理框架、模型适配、业务应用与运维服务整套方案的综合实力。

股票复盘网
当前版本:V3.0