盘前机会:DeepSeek-V3.2-Exp 发布,训练推理提效,API 同步降价
9月29日,DeepSeek在官方公众号发文称,发布 DeepSeek-V3.2-Exp 模型。 DeepSeek方面表示,这是一个实验性(Experimental)的版本。作为迈向新一代架构的中间步骤,V3.2-Exp在V3.1-Terminus的基础上引入了DeepSeek Sparse Attention(一种稀疏注意力机制),针对长文本的训练和推理效率进行了探索性的优化和验证。目前,官方App、网页端、小程序均已同步更新为DeepSeek-V3.2-Exp,同时API大幅度降价。 据了解,DeepSeek Sparse Attention(DSA)首次实现细粒度稀疏注意力机制,在几乎不影响模型输出效果的前提下,实现长文本训练和推理效率的大幅提升。 在新模型的研究过程中,需要设计和实现很多新的GPU算子,使用高级语言TileLang进行快速原型开发,以支持更深入的探索。在最后阶段,以TileLang作为精度基线,逐步使用底层语言实现更高效的版本。此次开源的主要算子包含TileLang与 CUDA两种版本。 目前,该模型的API价格为每百万tokens输入0.2元(缓存命中),2元(缓存未命中),输出3元。相比此前,开发者调用DeepSeek API的成本降低逾50%。 此外, 【寒武纪Day 0适配DeepSeek-V3.2-Exp,同步开源推理引擎vLLM-MLU】 9月29日寒武纪开发者公众号发文,寒武纪已同步实现对深度求索公司最新模型DeepSeek-V3.2-Exp的适配,并开源大模型推理引擎vLLM-MLU源代码。 此前,我们对DeepSeek系列模型进行了深入的软硬件协同性能优化,达成了业界领先的算力利用率水平。针对本次的DeepSeek-V3.2-Exp新模型架构,寒武纪通过Triton算子开发实现了快速适配,利用BangC融合算子开发实现了极致性能优化,并基于计算与通信的并行策略,再次达成了业界领先的计算效率水平。依托DeepSeek-V3.2-Exp带来的全新DeepSeek Sparse Attention机制,叠加寒武纪的极致计算效率,可大幅降低长序列场景下的训推成本,共同为客户提供极具竞争力的软硬件解决方案。 【昇腾0Day支持DeepSeek-V3.2-Exp,PyPTO/TileLang加速算子编程】 9月29日昇腾CANN公众号发文,昇腾已快速基于vLLM/SGLang等推理框架完成适配部署,实现DeepSeek-V3.2-Exp 0day支持,并面向开发者开源所有推理代码和算子实现。 整体部署策略沿用DeepSeek的大EP并行方案,针对稀疏DSA结构,叠加实现长序列亲和的CP并行策略,兼顾时延和吞吐,在128K长序列下能够保持TTFT低于2秒、TPOT低于30毫秒的推理生成速度。
ID | 股票名称 | 代码 | 辨识度 | 热度 | 涨幅 | 备注 |
---|---|---|---|---|---|---|
1 | 山子高科 | 000981 |
7天6板
|
27196 | 10.00% | |
2 | 领益智造 | 002600 | 21152 | 9.99% | ||
3 | 和而泰 | 002402 |
3天2板
|
12135 | 4.69% | |
4 | 汇金股份 | 300368 | 11606 | 20.00% | ||
5 | 卧龙电驱 | 600580 | 11394 | 4.27% | ||
6 | 华建集团 | 600629 | 10537 | 10.00% | ||
7 | 立讯精密 | 002475 |
首板
|
10183 | 0.86% | |
8 | 初灵信息 | 300250 |
首板
|
9313 | 20.00% | |
9 | 阳光电源 | 300274 | 8281 | 4.76% | ||
10 | 中电鑫龙 | 002298 |
首板
|
7722 | -6.77% |
ID | 评论人 | 时间 | 评论 |
---|---|---|---|
1 | 故乡的原风景 | 09-29 23:20 | 岩山科技 |
2 | 麦麦5850641 | 09-29 23:28 | 之前DS龙头,拓维信息 数据港 华胜天成 岩山科技,明天和节后要飞起来了 |
3 | u664501017 | 09-29 23:21 | 好股票 |
4 | u657045860 | 09-29 23:23 | 看好国产算力 |
5 | 大器晚成5627103 | 09-29 23:26 | 大位科技跌到无底洞,明天能高开两点不? |
6 | zj5666 | 09-29 23:26 | 凯美特气 |
7 | 淡定7059349 | 09-29 23:28 | 岩山科技 |
8 | zhhlc668 | 09-29 23:28 | 怎么会利好阳光电源? |