AI MARKET DATA

开源模型部署测算

开源模型自部署所需显存、GPU 配置与速度估算，对照原厂 Token 报价与 API 实测速度。

数据更新时间：2026-11-05

排序热度 = Hugging Face 官方仓库近30天下载（2026-11-05）

阿里通义千问3个模型 · 近30天下载 1184.0万 · 最新 2026-08-24

Qwen3.8 27B

总参数28B · 激活28B · apache-2.0

热度: 803.2万HF近30天下载 · 点赞 19,154
发布: 2026-08-05HF仓库创建日期
公开评测: AA 20.1 · LiveBench 60.5 · Epoch ECI —
原厂 API: ¥3.34 / ¥20.05输入/输出每百万Token
FP16 显存: 约67GBINT4 约17GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约67GB显存
L20 48GB×2出厂价 ¥46,694–¥46,962市场价 ¥70,000
昇腾910B 64GB×2出厂价资料不足市场价 ¥220,000–¥240,000
RTX PRO 6000 96GB×1出厂价 ¥107,122市场价 ¥117,560云端时租(实时)：¥8.0–¥15.2/时（2026-11-05）
RTX 5090 32GB×4出厂价资料不足市场价 ¥179,996云端时租(实时)×4张：¥12.0–¥14.4/时（2026-11-05）
RTX 5090D 24GB×4出厂价 ¥65,996市场价 ¥112,000–¥160,000云端时租(实时)×4张：¥12.0–¥14.0/时（2026-11-05）
INT8量化: 约33GB显存
L20 48GB×1出厂价 ¥23,347–¥23,481市场价 ¥35,000
昇腾910B 64GB×1出厂价资料不足市场价 ¥110,000–¥120,000
RTX PRO 6000 96GB×1出厂价 ¥107,122市场价 ¥117,560云端时租(实时)：¥8.0–¥15.2/时（2026-11-05）
RTX 5090 32GB×2出厂价资料不足市场价 ¥89,998云端时租(实时)×2张：¥6.0–¥7.2/时（2026-11-05）
RTX 5090D 24GB×2出厂价 ¥32,998市场价 ¥56,000–¥80,000云端时租(实时)×2张：¥6.0–¥7.0/时（2026-11-05）
INT4量化(AWQ/GPTQ): 约17GB显存
L20 48GB×1出厂价 ¥23,347–¥23,481市场价 ¥35,000
昇腾910B 64GB×1出厂价资料不足市场价 ¥110,000–¥120,000
RTX PRO 6000 96GB×1出厂价 ¥107,122市场价 ¥117,560云端时租(实时)：¥8.0–¥15.2/时（2026-11-05）
RTX 5090 32GB×1出厂价资料不足市场价 ¥44,999云端时租(实时)：¥3.0–¥3.6/时（2026-11-05）
RTX 5090D 24GB×1出厂价 ¥16,499市场价 ¥28,000–¥40,000云端时租(实时)：¥3.0–¥3.5/时（2026-11-05）

18款硬件完整配置 → 官方仓库 →

Qwen3.8-Flash-Next

总参数180B · 激活6B · other

热度: 378.1万HF近30天下载 · 点赞 6,785
发布: 2026-08-24HF仓库创建日期
公开评测: 暂无公开评测数据
原厂 API: —输入/输出每百万Token
FP16 显存: 约432GBINT4 约108GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约432GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥560,000
昇腾910B 64GB×8出厂价资料不足市场价 ¥880,000–¥960,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价 ¥940,480云端时租(实时)×8张：¥64.0–¥121.6/时（2026-11-05）
RTX 5090 32GB×16出厂价资料不足市场价 ¥719,984云端时租(实时)×16张：¥48.0–¥57.6/时（2026-11-05）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥96.0–¥112.0/时（2026-11-05）
INT8量化: 约216GB显存
L20 48GB×8出厂价 ¥186,776–¥187,848市场价 ¥280,000
昇腾910B 64GB×4出厂价资料不足市场价 ¥440,000–¥480,000
RTX PRO 6000 96GB×4出厂价 ¥428,488市场价 ¥470,240云端时租(实时)×4张：¥32.0–¥60.8/时（2026-11-05）
RTX 5090 32GB×8出厂价资料不足市场价 ¥359,992云端时租(实时)×8张：¥24.0–¥28.8/时（2026-11-05）
RTX 5090D 24GB×16出厂价 ¥263,984市场价 ¥448,000–¥640,000云端时租(实时)×16张：¥48.0–¥56.0/时（2026-11-05）
INT4量化(AWQ/GPTQ): 约108GB显存
L20 48GB×4出厂价 ¥93,388–¥93,924市场价 ¥140,000
昇腾910B 64GB×2出厂价资料不足市场价 ¥220,000–¥240,000
RTX PRO 6000 96GB×2出厂价 ¥214,244市场价 ¥235,120云端时租(实时)×2张：¥16.0–¥30.4/时（2026-11-05）
RTX 5090 32GB×4出厂价资料不足市场价 ¥179,996云端时租(实时)×4张：¥12.0–¥14.4/时（2026-11-05）
RTX 5090D 24GB×8出厂价 ¥131,992市场价 ¥224,000–¥320,000云端时租(实时)×8张：¥24.0–¥28.0/时（2026-11-05）

18款硬件完整配置 → 官方仓库 →

Qwen3.8 2.4T A95B

总参数2,446B · 激活95B · Qwen自定义开源许可协议（HF标注license:other，非标准OSI协议，使用前需查阅具体条款）

热度: 2.6万HF近30天下载 · 点赞 1,364
发布: 2026-08-08HF仓库创建日期
公开评测: 暂无公开评测数据
原厂 API: ¥13.37 / ¥40.11输入/输出每百万Token
FP16 显存: 约5,871GBINT4 约1,468GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约5,871GB显存
L20 48GB×123出厂价 ¥2,871,681–¥2,888,163市场价 ¥4,305,000
昇腾910B 64GB×92出厂价资料不足市场价 ¥10,120,000–¥11,040,000
RTX PRO 6000 96GB×64出厂价 ¥6,855,808市场价 ¥7,523,840云端时租(实时)×64张：¥512.0–¥972.8/时（2026-11-05）
RTX 5090 32GB×184出厂价资料不足市场价 ¥8,279,816云端时租(实时)×184张：¥552.0–¥662.4/时（2026-11-05）
RTX 5090D 24GB×245出厂价 ¥4,042,255市场价 ¥6,860,000–¥9,800,000云端时租(实时)×245张：¥735.0–¥857.5/时（2026-11-05）
INT8量化: 约2,935GB显存
L20 48GB×64出厂价 ¥1,494,208–¥1,502,784市场价 ¥2,240,000
昇腾910B 64GB×64出厂价资料不足市场价 ¥7,040,000–¥7,680,000
RTX PRO 6000 96GB×32出厂价 ¥3,427,904市场价 ¥3,761,920云端时租(实时)×32张：¥256.0–¥486.4/时（2026-11-05）
RTX 5090 32GB×92出厂价资料不足市场价 ¥4,139,908云端时租(实时)×92张：¥276.0–¥331.2/时（2026-11-05）
RTX 5090D 24GB×123出厂价 ¥2,029,377市场价 ¥3,444,000–¥4,920,000云端时租(实时)×123张：¥369.0–¥430.5/时（2026-11-05）
INT4量化(AWQ/GPTQ): 约1,468GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥1,120,000
昇腾910B 64GB×32出厂价资料不足市场价 ¥3,520,000–¥3,840,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价 ¥1,880,960云端时租(实时)×16张：¥128.0–¥243.2/时（2026-11-05）
RTX 5090 32GB×64出厂价资料不足市场价 ¥2,879,936云端时租(实时)×64张：¥192.0–¥230.4/时（2026-11-05）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥192.0–¥224.0/时（2026-11-05）

18款硬件完整配置 → 官方仓库 →

智谱 GLM5个模型 · 近30天下载 1134.2万 · 最新 2026-08-25

GLM-5.3-Flash

总参数321B · 激活18B · mit

热度: 630.3万HF近30天下载 · 点赞 3,050
发布: 2026-08-25HF仓库创建日期
公开评测: AA 27.8 · LiveBench 65.8 · Epoch ECI 153.6
原厂 API: ¥1.00 / ¥3.34输入/输出每百万Token
FP16 显存: 约771GBINT4 约193GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约771GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥1,120,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价 ¥1,880,960云端时租(实时)×16张：¥128.0–¥243.2/时（2026-11-05）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,439,968云端时租(实时)×32张：¥96.0–¥115.2/时（2026-11-05）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥192.0–¥224.0/时（2026-11-05）
INT8量化: 约386GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥560,000
昇腾910B 64GB×8出厂价资料不足市场价 ¥880,000–¥960,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价 ¥940,480云端时租(实时)×8张：¥64.0–¥121.6/时（2026-11-05）
RTX 5090 32GB×16出厂价资料不足市场价 ¥719,984云端时租(实时)×16张：¥48.0–¥57.6/时（2026-11-05）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥96.0–¥112.0/时（2026-11-05）
INT4量化(AWQ/GPTQ): 约193GB显存
L20 48GB×8出厂价 ¥186,776–¥187,848市场价 ¥280,000
昇腾910B 64GB×4出厂价资料不足市场价 ¥440,000–¥480,000
RTX PRO 6000 96GB×4出厂价 ¥428,488市场价 ¥470,240云端时租(实时)×4张：¥32.0–¥60.8/时（2026-11-05）
RTX 5090 32GB×8出厂价资料不足市场价 ¥359,992云端时租(实时)×8张：¥24.0–¥28.8/时（2026-11-05）
RTX 5090D 24GB×16出厂价 ¥263,984市场价 ¥448,000–¥640,000云端时租(实时)×16张：¥48.0–¥56.0/时（2026-11-05）

18款硬件完整配置 → 官方仓库 →

GLM-5.3

总参数753B · 激活40B 估算 · MIT License

热度: 228.8万HF近30天下载 · 点赞 2,381
发布: 2026-08-25HF仓库创建日期
公开评测: AA 31.7 · LiveBench — · Epoch ECI 156.9
原厂 API: ¥9.36 / ¥29.41输入/输出每百万Token
FP16 显存: 约1,808GBINT4 约452GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约1,808GB显存
L20 48GB×64出厂价 ¥1,494,208–¥1,502,784市场价 ¥2,240,000
昇腾910B 64GB×32出厂价资料不足市场价 ¥3,520,000–¥3,840,000
RTX PRO 6000 96GB×32出厂价 ¥3,427,904市场价 ¥3,761,920云端时租(实时)×32张：¥256.0–¥486.4/时（2026-11-05）
RTX 5090 32GB×64出厂价资料不足市场价 ¥2,879,936云端时租(实时)×64张：¥192.0–¥230.4/时（2026-11-05）
RTX 5090D 24GB×76出厂价 ¥1,253,924市场价 ¥2,128,000–¥3,040,000云端时租(实时)×76张：¥228.0–¥266.0/时（2026-11-05）
INT8量化: 约904GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥1,120,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价 ¥1,880,960云端时租(实时)×16张：¥128.0–¥243.2/时（2026-11-05）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,439,968云端时租(实时)×32张：¥96.0–¥115.2/时（2026-11-05）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥192.0–¥224.0/时（2026-11-05）
INT4量化(AWQ/GPTQ): 约452GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥560,000
昇腾910B 64GB×8出厂价资料不足市场价 ¥880,000–¥960,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价 ¥940,480云端时租(实时)×8张：¥64.0–¥121.6/时（2026-11-05）
RTX 5090 32GB×16出厂价资料不足市场价 ¥719,984云端时租(实时)×16张：¥48.0–¥57.6/时（2026-11-05）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥96.0–¥112.0/时（2026-11-05）

18款硬件完整配置 → 官方仓库 →

GLM-5

总参数754B · 激活40B · mit

热度: 149.6万HF近30天下载 · 点赞 2,141
发布: 2026-02-11HF仓库创建日期
公开评测: AA — · LiveBench — · Epoch ECI 146.4
原厂 API: ¥6.68 / ¥21.39输入/输出每百万Token
FP16 显存: 约1,809GBINT4 约452GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约1,809GB显存
L20 48GB×64出厂价 ¥1,494,208–¥1,502,784市场价 ¥2,240,000
昇腾910B 64GB×32出厂价资料不足市场价 ¥3,520,000–¥3,840,000
RTX PRO 6000 96GB×32出厂价 ¥3,427,904市场价 ¥3,761,920云端时租(实时)×32张：¥256.0–¥486.4/时（2026-11-05）
RTX 5090 32GB×64出厂价资料不足市场价 ¥2,879,936云端时租(实时)×64张：¥192.0–¥230.4/时（2026-11-05）
RTX 5090D 24GB×76出厂价 ¥1,253,924市场价 ¥2,128,000–¥3,040,000云端时租(实时)×76张：¥228.0–¥266.0/时（2026-11-05）
INT8量化: 约905GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥1,120,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价 ¥1,880,960云端时租(实时)×16张：¥128.0–¥243.2/时（2026-11-05）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,439,968云端时租(实时)×32张：¥96.0–¥115.2/时（2026-11-05）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥192.0–¥224.0/时（2026-11-05）
INT4量化(AWQ/GPTQ): 约452GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥560,000
昇腾910B 64GB×8出厂价资料不足市场价 ¥880,000–¥960,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价 ¥940,480云端时租(实时)×8张：¥64.0–¥121.6/时（2026-11-05）
RTX 5090 32GB×16出厂价资料不足市场价 ¥719,984云端时租(实时)×16张：¥48.0–¥57.6/时（2026-11-05）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥96.0–¥112.0/时（2026-11-05）

18款硬件完整配置 → 官方仓库 →

GLM-5.1

总参数754B · 激活40B · MIT License

热度: 92.3万HF近30天下载 · 点赞 1,850
发布: 2026-04-03HF仓库创建日期
公开评测: AA — · LiveBench — · Epoch ECI 150.7
原厂 API: ¥9.36 / ¥29.41输入/输出每百万Token
FP16 显存: 约1,809GBINT4 约452GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约1,809GB显存
L20 48GB×64出厂价 ¥1,494,208–¥1,502,784市场价 ¥2,240,000
昇腾910B 64GB×32出厂价资料不足市场价 ¥3,520,000–¥3,840,000
RTX PRO 6000 96GB×32出厂价 ¥3,427,904市场价 ¥3,761,920云端时租(实时)×32张：¥256.0–¥486.4/时（2026-11-05）
RTX 5090 32GB×64出厂价资料不足市场价 ¥2,879,936云端时租(实时)×64张：¥192.0–¥230.4/时（2026-11-05）
RTX 5090D 24GB×76出厂价 ¥1,253,924市场价 ¥2,128,000–¥3,040,000云端时租(实时)×76张：¥228.0–¥266.0/时（2026-11-05）
INT8量化: 约905GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥1,120,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价 ¥1,880,960云端时租(实时)×16张：¥128.0–¥243.2/时（2026-11-05）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,439,968云端时租(实时)×32张：¥96.0–¥115.2/时（2026-11-05）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥192.0–¥224.0/时（2026-11-05）
INT4量化(AWQ/GPTQ): 约452GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥560,000
昇腾910B 64GB×8出厂价资料不足市场价 ¥880,000–¥960,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价 ¥940,480云端时租(实时)×8张：¥64.0–¥121.6/时（2026-11-05）
RTX 5090 32GB×16出厂价资料不足市场价 ¥719,984云端时租(实时)×16张：¥48.0–¥57.6/时（2026-11-05）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥96.0–¥112.0/时（2026-11-05）

18款硬件完整配置 → 官方仓库 →

GLM-5.2

总参数753B · 激活39B · MIT License

热度: 33.2万HF近30天下载 · 点赞 5,202
发布: 2026-06-16HF仓库创建日期
公开评测: AA — · LiveBench — · Epoch ECI 153.0
原厂 API: ¥9.36 / ¥29.41输入/输出每百万Token
FP16 显存: 约1,808GBINT4 约452GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约1,808GB显存
L20 48GB×64出厂价 ¥1,494,208–¥1,502,784市场价 ¥2,240,000
昇腾910B 64GB×32出厂价资料不足市场价 ¥3,520,000–¥3,840,000
RTX PRO 6000 96GB×32出厂价 ¥3,427,904市场价 ¥3,761,920云端时租(实时)×32张：¥256.0–¥486.4/时（2026-11-05）
RTX 5090 32GB×64出厂价资料不足市场价 ¥2,879,936云端时租(实时)×64张：¥192.0–¥230.4/时（2026-11-05）
RTX 5090D 24GB×76出厂价 ¥1,253,924市场价 ¥2,128,000–¥3,040,000云端时租(实时)×76张：¥228.0–¥266.0/时（2026-11-05）
INT8量化: 约904GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥1,120,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价 ¥1,880,960云端时租(实时)×16张：¥128.0–¥243.2/时（2026-11-05）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,439,968云端时租(实时)×32张：¥96.0–¥115.2/时（2026-11-05）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥192.0–¥224.0/时（2026-11-05）
INT4量化(AWQ/GPTQ): 约452GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥560,000
昇腾910B 64GB×8出厂价资料不足市场价 ¥880,000–¥960,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价 ¥940,480云端时租(实时)×8张：¥64.0–¥121.6/时（2026-11-05）
RTX 5090 32GB×16出厂价资料不足市场价 ¥719,984云端时租(实时)×16张：¥48.0–¥57.6/时（2026-11-05）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥96.0–¥112.0/时（2026-11-05）

18款硬件完整配置 → 官方仓库 →

DeepSeek2个模型 · 近30天下载 228.8万 · 最新 2026-09-10

DeepSeek V4.1 Flash

总参数763B · 激活16B · MIT

热度: 195.1万HF近30天下载 · 点赞 4,863
发布: 2026-09-10HF仓库创建日期
公开评测: AA 32.6 · LiveBench 75.8 · Epoch ECI 159.3
原厂 API: ¥2.01 / ¥8.02输入/输出每百万Token
FP16 显存: 约1,832GBINT4 约458GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约1,832GB显存
L20 48GB×64出厂价 ¥1,494,208–¥1,502,784市场价 ¥2,240,000
昇腾910B 64GB×32出厂价资料不足市场价 ¥3,520,000–¥3,840,000
RTX PRO 6000 96GB×32出厂价 ¥3,427,904市场价 ¥3,761,920云端时租(实时)×32张：¥256.0–¥486.4/时（2026-11-05）
RTX 5090 32GB×64出厂价资料不足市场价 ¥2,879,936云端时租(实时)×64张：¥192.0–¥230.4/时（2026-11-05）
RTX 5090D 24GB×77出厂价 ¥1,270,423市场价 ¥2,156,000–¥3,080,000云端时租(实时)×77张：¥231.0–¥269.5/时（2026-11-05）
INT8量化: 约916GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥1,120,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价 ¥1,880,960云端时租(实时)×16张：¥128.0–¥243.2/时（2026-11-05）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,439,968云端时租(实时)×32张：¥96.0–¥115.2/时（2026-11-05）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥192.0–¥224.0/时（2026-11-05）
INT4量化(AWQ/GPTQ): 约458GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥560,000
昇腾910B 64GB×8出厂价资料不足市场价 ¥880,000–¥960,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价 ¥940,480云端时租(实时)×8张：¥64.0–¥121.6/时（2026-11-05）
RTX 5090 32GB×16出厂价资料不足市场价 ¥719,984云端时租(实时)×16张：¥48.0–¥57.6/时（2026-11-05）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥96.0–¥112.0/时（2026-11-05）

18款硬件完整配置 → 官方仓库 →

DeepSeek V4 Pro

总参数1,599B · 激活49B · DeepSeek 开源许可协议

热度: 33.7万HF近30天下载 · 点赞 5,696
发布: 2026-04-22HF仓库创建日期
公开评测: AA 23.1 · LiveBench — · Epoch ECI 155.9
原厂 API: ¥8.82 / ¥26.47输入/输出每百万Token
FP16 显存: 约3,837GBINT4 约959GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约3,837GB显存
L20 48GB×80出厂价 ¥1,867,760–¥1,878,480市场价 ¥2,800,000
昇腾910B 64GB×64出厂价资料不足市场价 ¥7,040,000–¥7,680,000
RTX PRO 6000 96GB×64出厂价 ¥6,855,808市场价 ¥7,523,840云端时租(实时)×64张：¥512.0–¥972.8/时（2026-11-05）
RTX 5090 32GB×120出厂价资料不足市场价 ¥5,399,880云端时租(实时)×120张：¥360.0–¥432.0/时（2026-11-05）
RTX 5090D 24GB×160出厂价 ¥2,639,840市场价 ¥4,480,000–¥6,400,000云端时租(实时)×160张：¥480.0–¥560.0/时（2026-11-05）
INT8量化: 约1,919GB显存
L20 48GB×64出厂价 ¥1,494,208–¥1,502,784市场价 ¥2,240,000
昇腾910B 64GB×32出厂价资料不足市场价 ¥3,520,000–¥3,840,000
RTX PRO 6000 96GB×32出厂价 ¥3,427,904市场价 ¥3,761,920云端时租(实时)×32张：¥256.0–¥486.4/时（2026-11-05）
RTX 5090 32GB×64出厂价资料不足市场价 ¥2,879,936云端时租(实时)×64张：¥192.0–¥230.4/时（2026-11-05）
RTX 5090D 24GB×80出厂价 ¥1,319,920市场价 ¥2,240,000–¥3,200,000云端时租(实时)×80张：¥240.0–¥280.0/时（2026-11-05）
INT4量化(AWQ/GPTQ): 约959GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥1,120,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价 ¥1,880,960云端时租(实时)×16张：¥128.0–¥243.2/时（2026-11-05）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,439,968云端时租(实时)×32张：¥96.0–¥115.2/时（2026-11-05）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥192.0–¥224.0/时（2026-11-05）

18款硬件完整配置 → 官方仓库 →

月之暗面 Kimi5个模型 · 近30天下载 149.1万 · 最新 2026-11-02

Kimi K3

总参数2,780B · 激活104B · Modified MIT License

热度: 76.9万HF近30天下载 · 点赞 11,939
发布: 2026-06-13HF仓库创建日期
公开评测: AA — · LiveBench 69.5 · Epoch ECI 158.5
原厂 API: ¥20.05 / ¥100.27输入/输出每百万Token
FP16 显存: 约6,672GBINT4 约1,668GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约6,672GB显存
L20 48GB×139出厂价 ¥3,245,233–¥3,263,859市场价 ¥4,865,000
昇腾910B 64GB×105出厂价资料不足市场价 ¥11,550,000–¥12,600,000
RTX PRO 6000 96GB×70出厂价 ¥7,498,540市场价 ¥8,229,200云端时租(实时)×70张：¥560.0–¥1,064.0/时（2026-11-05）
RTX 5090 32GB×209出厂价资料不足市场价 ¥9,404,791云端时租(实时)×209张：¥627.0–¥752.4/时（2026-11-05）
RTX 5090D 24GB×278出厂价 ¥4,586,722市场价 ¥7,784,000–¥11,120,000云端时租(实时)×278张：¥834.0–¥973.0/时（2026-11-05）
INT8量化: 约3,336GB显存
L20 48GB×70出厂价 ¥1,634,290–¥1,643,670市场价 ¥2,450,000
昇腾910B 64GB×64出厂价资料不足市场价 ¥7,040,000–¥7,680,000
RTX PRO 6000 96GB×64出厂价 ¥6,855,808市场价 ¥7,523,840云端时租(实时)×64张：¥512.0–¥972.8/时（2026-11-05）
RTX 5090 32GB×105出厂价资料不足市场价 ¥4,724,895云端时租(实时)×105张：¥315.0–¥378.0/时（2026-11-05）
RTX 5090D 24GB×139出厂价 ¥2,293,361市场价 ¥3,892,000–¥5,560,000云端时租(实时)×139张：¥417.0–¥486.5/时（2026-11-05）
INT4量化(AWQ/GPTQ): 约1,668GB显存
L20 48GB×64出厂价 ¥1,494,208–¥1,502,784市场价 ¥2,240,000
昇腾910B 64GB×32出厂价资料不足市场价 ¥3,520,000–¥3,840,000
RTX PRO 6000 96GB×32出厂价 ¥3,427,904市场价 ¥3,761,920云端时租(实时)×32张：¥256.0–¥486.4/时（2026-11-05）
RTX 5090 32GB×64出厂价资料不足市场价 ¥2,879,936云端时租(实时)×64张：¥192.0–¥230.4/时（2026-11-05）
RTX 5090D 24GB×70出厂价 ¥1,154,930市场价 ¥1,960,000–¥2,800,000云端时租(实时)×70张：¥210.0–¥245.0/时（2026-11-05）

18款硬件完整配置 → 官方仓库 →

Kimi K2.5

总参数1,027B · 激活32B · 开源权重许可

热度: 39.5万HF近30天下载 · 点赞 2,898
发布: 2026-01-01HF仓库创建日期
公开评测: AA — · LiveBench — · Epoch ECI 148.7
原厂 API: ¥4.01 / ¥20.05输入/输出每百万Token
FP16 显存: 约2,465GBINT4 约616GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约2,465GB显存
L20 48GB×64出厂价 ¥1,494,208–¥1,502,784市场价 ¥2,240,000
昇腾910B 64GB×64出厂价资料不足市场价 ¥7,040,000–¥7,680,000
RTX PRO 6000 96GB×32出厂价 ¥3,427,904市场价 ¥3,761,920云端时租(实时)×32张：¥256.0–¥486.4/时（2026-11-05）
RTX 5090 32GB×78出厂价资料不足市场价 ¥3,509,922云端时租(实时)×78张：¥234.0–¥280.8/时（2026-11-05）
RTX 5090D 24GB×103出厂价 ¥1,699,397市场价 ¥2,884,000–¥4,120,000云端时租(实时)×103张：¥309.0–¥360.5/时（2026-11-05）
INT8量化: 约1,232GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥1,120,000
昇腾910B 64GB×32出厂价资料不足市场价 ¥3,520,000–¥3,840,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价 ¥1,880,960云端时租(实时)×16张：¥128.0–¥243.2/时（2026-11-05）
RTX 5090 32GB×64出厂价资料不足市场价 ¥2,879,936云端时租(实时)×64张：¥192.0–¥230.4/时（2026-11-05）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥192.0–¥224.0/时（2026-11-05）
INT4量化(AWQ/GPTQ): 约616GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥560,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价 ¥940,480云端时租(实时)×8张：¥64.0–¥121.6/时（2026-11-05）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,439,968云端时租(实时)×32张：¥96.0–¥115.2/时（2026-11-05）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥96.0–¥112.0/时（2026-11-05）

18款硬件完整配置 → 官方仓库 →

Kimi K2.6

总参数1,027B · 激活32B · Modified MIT License

热度: 24.4万HF近30天下载 · 点赞 1,640
发布: 2026-04-14HF仓库创建日期
公开评测: AA — · LiveBench — · Epoch ECI 151.6
原厂 API: ¥6.35 / ¥26.74输入/输出每百万Token
FP16 显存: 约2,465GBINT4 约616GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约2,465GB显存
L20 48GB×64出厂价 ¥1,494,208–¥1,502,784市场价 ¥2,240,000
昇腾910B 64GB×64出厂价资料不足市场价 ¥7,040,000–¥7,680,000
RTX PRO 6000 96GB×32出厂价 ¥3,427,904市场价 ¥3,761,920云端时租(实时)×32张：¥256.0–¥486.4/时（2026-11-05）
RTX 5090 32GB×78出厂价资料不足市场价 ¥3,509,922云端时租(实时)×78张：¥234.0–¥280.8/时（2026-11-05）
RTX 5090D 24GB×103出厂价 ¥1,699,397市场价 ¥2,884,000–¥4,120,000云端时租(实时)×103张：¥309.0–¥360.5/时（2026-11-05）
INT8量化: 约1,232GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥1,120,000
昇腾910B 64GB×32出厂价资料不足市场价 ¥3,520,000–¥3,840,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价 ¥1,880,960云端时租(实时)×16张：¥128.0–¥243.2/时（2026-11-05）
RTX 5090 32GB×64出厂价资料不足市场价 ¥2,879,936云端时租(实时)×64张：¥192.0–¥230.4/时（2026-11-05）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥192.0–¥224.0/时（2026-11-05）
INT4量化(AWQ/GPTQ): 约616GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥560,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价 ¥940,480云端时租(实时)×8张：¥64.0–¥121.6/时（2026-11-05）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,439,968云端时租(实时)×32张：¥96.0–¥115.2/时（2026-11-05）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥96.0–¥112.0/时（2026-11-05）

18款硬件完整配置 → 官方仓库 →

Kimi K2.7 Code

总参数1,027B · 激活32B · Modified MIT License

热度: 8.2万HF近30天下载 · 点赞 1,429
发布: 2026-06-11HF仓库创建日期
公开评测: AA — · LiveBench — · Epoch ECI 151.2
原厂 API: ¥6.35 / ¥26.74输入/输出每百万Token
FP16 显存: 约2,465GBINT4 约616GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约2,465GB显存
L20 48GB×64出厂价 ¥1,494,208–¥1,502,784市场价 ¥2,240,000
昇腾910B 64GB×64出厂价资料不足市场价 ¥7,040,000–¥7,680,000
RTX PRO 6000 96GB×32出厂价 ¥3,427,904市场价 ¥3,761,920云端时租(实时)×32张：¥256.0–¥486.4/时（2026-11-05）
RTX 5090 32GB×78出厂价资料不足市场价 ¥3,509,922云端时租(实时)×78张：¥234.0–¥280.8/时（2026-11-05）
RTX 5090D 24GB×103出厂价 ¥1,699,397市场价 ¥2,884,000–¥4,120,000云端时租(实时)×103张：¥309.0–¥360.5/时（2026-11-05）
INT8量化: 约1,232GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥1,120,000
昇腾910B 64GB×32出厂价资料不足市场价 ¥3,520,000–¥3,840,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价 ¥1,880,960云端时租(实时)×16张：¥128.0–¥243.2/时（2026-11-05）
RTX 5090 32GB×64出厂价资料不足市场价 ¥2,879,936云端时租(实时)×64张：¥192.0–¥230.4/时（2026-11-05）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥192.0–¥224.0/时（2026-11-05）
INT4量化(AWQ/GPTQ): 约616GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥560,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价 ¥940,480云端时租(实时)×8张：¥64.0–¥121.6/时（2026-11-05）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,439,968云端时租(实时)×32张：¥96.0–¥115.2/时（2026-11-05）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥96.0–¥112.0/时（2026-11-05）

18款硬件完整配置 → 官方仓库 →

Kimi K3.1 Pro

总参数2,780B · 激活104B · other

热度: 797HF近30天下载 · 点赞 510
发布: 2026-11-02HF仓库创建日期
公开评测: AA 46.5 · LiveBench 74.7 · Epoch ECI —
原厂 API: ¥13.37 / ¥66.85输入/输出每百万Token
FP16 显存: 约6,672GBINT4 约1,668GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约6,672GB显存
L20 48GB×140出厂价 ¥3,268,580–¥3,287,340市场价 ¥4,900,000
昇腾910B 64GB×105出厂价资料不足市场价 ¥11,550,000–¥12,600,000
RTX PRO 6000 96GB×70出厂价 ¥7,498,540市场价 ¥8,229,200云端时租(实时)×70张：¥560.0–¥1,064.0/时（2026-11-05）
RTX 5090 32GB×209出厂价资料不足市场价 ¥9,404,791云端时租(实时)×209张：¥627.0–¥752.4/时（2026-11-05）
RTX 5090D 24GB×279出厂价 ¥4,603,221市场价 ¥7,812,000–¥11,160,000云端时租(实时)×279张：¥837.0–¥976.5/时（2026-11-05）
INT8量化: 约3,336GB显存
L20 48GB×70出厂价 ¥1,634,290–¥1,643,670市场价 ¥2,450,000
昇腾910B 64GB×64出厂价资料不足市场价 ¥7,040,000–¥7,680,000
RTX PRO 6000 96GB×64出厂价 ¥6,855,808市场价 ¥7,523,840云端时租(实时)×64张：¥512.0–¥972.8/时（2026-11-05）
RTX 5090 32GB×105出厂价资料不足市场价 ¥4,724,895云端时租(实时)×105张：¥315.0–¥378.0/时（2026-11-05）
RTX 5090D 24GB×140出厂价 ¥2,309,860市场价 ¥3,920,000–¥5,600,000云端时租(实时)×140张：¥420.0–¥490.0/时（2026-11-05）
INT4量化(AWQ/GPTQ): 约1,668GB显存
L20 48GB×64出厂价 ¥1,494,208–¥1,502,784市场价 ¥2,240,000
昇腾910B 64GB×32出厂价资料不足市场价 ¥3,520,000–¥3,840,000
RTX PRO 6000 96GB×32出厂价 ¥3,427,904市场价 ¥3,761,920云端时租(实时)×32张：¥256.0–¥486.4/时（2026-11-05）
RTX 5090 32GB×64出厂价资料不足市场价 ¥2,879,936云端时租(实时)×64张：¥192.0–¥230.4/时（2026-11-05）
RTX 5090D 24GB×70出厂价 ¥1,154,930市场价 ¥1,960,000–¥2,800,000云端时租(实时)×70张：¥210.0–¥245.0/时（2026-11-05）

18款硬件完整配置 → 官方仓库 →

MiniMax2个模型 · 近30天下载 20.7万 · 最新 2026-10-17

MiniMax M3

总参数427B · 激活23B · MIT License

热度: 17.6万HF近30天下载 · 点赞 1,601
发布: 2026-06-02HF仓库创建日期
公开评测: AA 18.9 · LiveBench — · Epoch ECI 147.6
原厂 API: ¥2.01 / ¥8.02输入/输出每百万Token
FP16 显存: 约1,025GBINT4 约256GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约1,025GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥1,120,000
昇腾910B 64GB×32出厂价资料不足市场价 ¥3,520,000–¥3,840,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价 ¥1,880,960云端时租(实时)×16张：¥128.0–¥243.2/时（2026-11-05）
RTX 5090 32GB×64出厂价资料不足市场价 ¥2,879,936云端时租(实时)×64张：¥192.0–¥230.4/时（2026-11-05）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥192.0–¥224.0/时（2026-11-05）
INT8量化: 约512GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥560,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价 ¥940,480云端时租(实时)×8张：¥64.0–¥121.6/时（2026-11-05）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,439,968云端时租(实时)×32张：¥96.0–¥115.2/时（2026-11-05）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥96.0–¥112.0/时（2026-11-05）
INT4量化(AWQ/GPTQ): 约256GB显存
L20 48GB×8出厂价 ¥186,776–¥187,848市场价 ¥280,000
昇腾910B 64GB×8出厂价资料不足市场价 ¥880,000–¥960,000
RTX PRO 6000 96GB×4出厂价 ¥428,488市场价 ¥470,240云端时租(实时)×4张：¥32.0–¥60.8/时（2026-11-05）
RTX 5090 32GB×16出厂价资料不足市场价 ¥719,984云端时租(实时)×16张：¥48.0–¥57.6/时（2026-11-05）
RTX 5090D 24GB×16出厂价 ¥263,984市场价 ¥448,000–¥640,000云端时租(实时)×16张：¥48.0–¥56.0/时（2026-11-05）

18款硬件完整配置 → 官方仓库 →

MiniMax M3.1 Flash

总参数220B · 激活23B · other

热度: 3.0万HF近30天下载 · 点赞 548
发布: 2026-10-17HF仓库创建日期
公开评测: AA 29.1 · LiveBench 70.6 · Epoch ECI —
原厂 API: ¥1.00 / ¥4.01输入/输出每百万Token
FP16 显存: 约529GBINT4 约132GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约529GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥560,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价 ¥940,480云端时租(实时)×8张：¥64.0–¥121.6/时（2026-11-05）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,439,968云端时租(实时)×32张：¥96.0–¥115.2/时（2026-11-05）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥96.0–¥112.0/时（2026-11-05）
INT8量化: 约265GB显存
L20 48GB×8出厂价 ¥186,776–¥187,848市场价 ¥280,000
昇腾910B 64GB×8出厂价资料不足市场价 ¥880,000–¥960,000
RTX PRO 6000 96GB×4出厂价 ¥428,488市场价 ¥470,240云端时租(实时)×4张：¥32.0–¥60.8/时（2026-11-05）
RTX 5090 32GB×16出厂价资料不足市场价 ¥719,984云端时租(实时)×16张：¥48.0–¥57.6/时（2026-11-05）
RTX 5090D 24GB×16出厂价 ¥263,984市场价 ¥448,000–¥640,000云端时租(实时)×16张：¥48.0–¥56.0/时（2026-11-05）
INT4量化(AWQ/GPTQ): 约132GB显存
L20 48GB×4出厂价 ¥93,388–¥93,924市场价 ¥140,000
昇腾910B 64GB×4出厂价资料不足市场价 ¥440,000–¥480,000
RTX PRO 6000 96GB×2出厂价 ¥214,244市场价 ¥235,120云端时租(实时)×2张：¥16.0–¥30.4/时（2026-11-05）
RTX 5090 32GB×8出厂价资料不足市场价 ¥359,992云端时租(实时)×8张：¥24.0–¥28.8/时（2026-11-05）
RTX 5090D 24GB×8出厂价 ¥131,992市场价 ¥224,000–¥320,000云端时租(实时)×8张：¥24.0–¥28.0/时（2026-11-05）

18款硬件完整配置 → 官方仓库 →

腾讯混元1个模型 · 近30天下载 6.8万 · 最新 2025-06-25

混元 A13B

总参数80B · 激活13B · 腾讯混元开源许可协议

热度: 6.8万HF近30天下载 · 点赞 795
发布: 2025-06-25HF仓库创建日期
公开评测: 暂无公开评测数据
原厂 API: ¥0.50 / ¥2.00输入/输出每百万Token
FP16 显存: 约192GBINT4 约48GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约192GB显存
L20 48GB×4出厂价 ¥93,388–¥93,924市场价 ¥140,000
昇腾910B 64GB×4出厂价资料不足市场价 ¥440,000–¥480,000
RTX PRO 6000 96GB×2出厂价 ¥214,244市场价 ¥235,120云端时租(实时)×2张：¥16.0–¥30.4/时（2026-11-05）
RTX 5090 32GB×8出厂价资料不足市场价 ¥359,992云端时租(实时)×8张：¥24.0–¥28.8/时（2026-11-05）
RTX 5090D 24GB×8出厂价 ¥131,992市场价 ¥224,000–¥320,000云端时租(实时)×8张：¥24.0–¥28.0/时（2026-11-05）
INT8量化: 约96GB显存
L20 48GB×2出厂价 ¥46,694–¥46,962市场价 ¥70,000
昇腾910B 64GB×2出厂价资料不足市场价 ¥220,000–¥240,000
RTX PRO 6000 96GB×1出厂价 ¥107,122市场价 ¥117,560云端时租(实时)：¥8.0–¥15.2/时（2026-11-05）
RTX 5090 32GB×4出厂价资料不足市场价 ¥179,996云端时租(实时)×4张：¥12.0–¥14.4/时（2026-11-05）
RTX 5090D 24GB×4出厂价 ¥65,996市场价 ¥112,000–¥160,000云端时租(实时)×4张：¥12.0–¥14.0/时（2026-11-05）
INT4量化(AWQ/GPTQ): 约48GB显存
L20 48GB×1出厂价 ¥23,347–¥23,481市场价 ¥35,000
昇腾910B 64GB×1出厂价资料不足市场价 ¥110,000–¥120,000
RTX PRO 6000 96GB×1出厂价 ¥107,122市场价 ¥117,560云端时租(实时)：¥8.0–¥15.2/时（2026-11-05）
RTX 5090 32GB×2出厂价资料不足市场价 ¥89,998云端时租(实时)×2张：¥6.0–¥7.2/时（2026-11-05）
RTX 5090D 24GB×2出厂价 ¥32,998市场价 ¥56,000–¥80,000云端时租(实时)×2张：¥6.0–¥7.0/时（2026-11-05）

18款硬件完整配置 → 官方仓库 →

IFM(MBZUAI)1个模型 · 近30天下载 9,812 · 最新 2026-09-01

K2 Horizon 375B A23B

总参数379B · 激活23B · apache-2.0

热度: 9,812HF近30天下载 · 点赞 118
发布: 2026-09-01HF仓库创建日期
公开评测: 暂无公开评测数据
原厂 API: —输入/输出每百万Token
FP16 显存: 约910GBINT4 约228GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约910GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥1,120,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价 ¥1,880,960云端时租(实时)×16张：¥128.0–¥243.2/时（2026-11-05）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,439,968云端时租(实时)×32张：¥96.0–¥115.2/时（2026-11-05）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥192.0–¥224.0/时（2026-11-05）
INT8量化: 约455GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥560,000
昇腾910B 64GB×8出厂价资料不足市场价 ¥880,000–¥960,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价 ¥940,480云端时租(实时)×8张：¥64.0–¥121.6/时（2026-11-05）
RTX 5090 32GB×16出厂价资料不足市场价 ¥719,984云端时租(实时)×16张：¥48.0–¥57.6/时（2026-11-05）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥96.0–¥112.0/时（2026-11-05）
INT4量化(AWQ/GPTQ): 约228GB显存
L20 48GB×8出厂价 ¥186,776–¥187,848市场价 ¥280,000
昇腾910B 64GB×4出厂价资料不足市场价 ¥440,000–¥480,000
RTX PRO 6000 96GB×4出厂价 ¥428,488市场价 ¥470,240云端时租(实时)×4张：¥32.0–¥60.8/时（2026-11-05）
RTX 5090 32GB×8出厂价资料不足市场价 ¥359,992云端时租(实时)×8张：¥24.0–¥28.8/时（2026-11-05）
RTX 5090D 24GB×16出厂价 ¥263,984市场价 ¥448,000–¥640,000云端时租(实时)×16张：¥48.0–¥56.0/时（2026-11-05）

18款硬件完整配置 → 官方仓库 →

阶跃星辰1个模型 · 近30天下载 5,969 · 最新 2026-09-20

Step 5 Preview

总参数604B · 激活27B · other

热度: 5,969HF近30天下载 · 点赞 137
发布: 2026-09-20HF仓库创建日期
公开评测: AA 28.5 · LiveBench 61.0 · Epoch ECI —
原厂 API: ¥7.00 / ¥20.00输入/输出每百万Token
FP16 显存: 约1,450GBINT4 约363GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约1,450GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥1,120,000
昇腾910B 64GB×32出厂价资料不足市场价 ¥3,520,000–¥3,840,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价 ¥1,880,960云端时租(实时)×16张：¥128.0–¥243.2/时（2026-11-05）
RTX 5090 32GB×64出厂价资料不足市场价 ¥2,879,936云端时租(实时)×64张：¥192.0–¥230.4/时（2026-11-05）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥192.0–¥224.0/时（2026-11-05）
INT8量化: 约725GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥560,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价 ¥940,480云端时租(实时)×8张：¥64.0–¥121.6/时（2026-11-05）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,439,968云端时租(实时)×32张：¥96.0–¥115.2/时（2026-11-05）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥96.0–¥112.0/时（2026-11-05）
INT4量化(AWQ/GPTQ): 约363GB显存
L20 48GB×8出厂价 ¥186,776–¥187,848市场价 ¥280,000
昇腾910B 64GB×8出厂价资料不足市场价 ¥880,000–¥960,000
RTX PRO 6000 96GB×4出厂价 ¥428,488市场价 ¥470,240云端时租(实时)×4张：¥32.0–¥60.8/时（2026-11-05）
RTX 5090 32GB×16出厂价资料不足市场价 ¥719,984云端时租(实时)×16张：¥48.0–¥57.6/时（2026-11-05）
RTX 5090D 24GB×16出厂价 ¥263,984市场价 ¥448,000–¥640,000云端时租(实时)×16张：¥48.0–¥56.0/时（2026-11-05）

18款硬件完整配置 → 官方仓库 →

Motif Technologies1个模型 · 近30天下载 1,838 · 最新 2026-08-07

Motif 3

总参数315B · 激活13B · mit

热度: 1,838HF近30天下载 · 点赞 154
发布: 2026-08-07HF仓库创建日期
公开评测: 暂无公开评测数据
原厂 API: —输入/输出每百万Token
FP16 显存: 约756GBINT4 约189GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约756GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥560,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价 ¥940,480云端时租(实时)×8张：¥64.0–¥121.6/时（2026-11-05）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,439,968云端时租(实时)×32张：¥96.0–¥115.2/时（2026-11-05）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥96.0–¥112.0/时（2026-11-05）
INT8量化: 约378GB显存
L20 48GB×8出厂价 ¥186,776–¥187,848市场价 ¥280,000
昇腾910B 64GB×8出厂价资料不足市场价 ¥880,000–¥960,000
RTX PRO 6000 96GB×4出厂价 ¥428,488市场价 ¥470,240云端时租(实时)×4张：¥32.0–¥60.8/时（2026-11-05）
RTX 5090 32GB×16出厂价资料不足市场价 ¥719,984云端时租(实时)×16张：¥48.0–¥57.6/时（2026-11-05）
RTX 5090D 24GB×16出厂价 ¥263,984市场价 ¥448,000–¥640,000云端时租(实时)×16张：¥48.0–¥56.0/时（2026-11-05）
INT4量化(AWQ/GPTQ): 约189GB显存
L20 48GB×4出厂价 ¥93,388–¥93,924市场价 ¥140,000
昇腾910B 64GB×4出厂价资料不足市场价 ¥440,000–¥480,000
RTX PRO 6000 96GB×2出厂价 ¥214,244市场价 ¥235,120云端时租(实时)×2张：¥16.0–¥30.4/时（2026-11-05）
RTX 5090 32GB×8出厂价资料不足市场价 ¥359,992云端时租(实时)×8张：¥24.0–¥28.8/时（2026-11-05）
RTX 5090D 24GB×8出厂价 ¥131,992市场价 ¥224,000–¥320,000云端时租(实时)×8张：¥24.0–¥28.0/时（2026-11-05）

18款硬件完整配置 → 官方仓库 →

Nex AGI1个模型 · 近30天下载 880 · 最新 2026-06-03

Nex-N2-Pro

总参数397B · 激活18B 估算 · apache-2.0

热度: 880HF近30天下载 · 点赞 376
发布: 2026-06-03HF仓库创建日期
公开评测: 暂无公开评测数据
原厂 API: —输入/输出每百万Token
FP16 显存: 约952GBINT4 约238GB

显存需求与参考配置（FP16 / INT8 / INT4）

FP16/BF16原始精度: 约952GB显存
L20 48GB×32出厂价 ¥747,104–¥751,392市场价 ¥1,120,000
昇腾910B 64GB×16出厂价资料不足市场价 ¥1,760,000–¥1,920,000
RTX PRO 6000 96GB×16出厂价 ¥1,713,952市场价 ¥1,880,960云端时租(实时)×16张：¥128.0–¥243.2/时（2026-11-05）
RTX 5090 32GB×32出厂价资料不足市场价 ¥1,439,968云端时租(实时)×32张：¥96.0–¥115.2/时（2026-11-05）
RTX 5090D 24GB×64出厂价 ¥1,055,936市场价 ¥1,792,000–¥2,560,000云端时租(实时)×64张：¥192.0–¥224.0/时（2026-11-05）
INT8量化: 约476GB显存
L20 48GB×16出厂价 ¥373,552–¥375,696市场价 ¥560,000
昇腾910B 64GB×8出厂价资料不足市场价 ¥880,000–¥960,000
RTX PRO 6000 96GB×8出厂价 ¥856,976市场价 ¥940,480云端时租(实时)×8张：¥64.0–¥121.6/时（2026-11-05）
RTX 5090 32GB×16出厂价资料不足市场价 ¥719,984云端时租(实时)×16张：¥48.0–¥57.6/时（2026-11-05）
RTX 5090D 24GB×32出厂价 ¥527,968市场价 ¥896,000–¥1,280,000云端时租(实时)×32张：¥96.0–¥112.0/时（2026-11-05）
INT4量化(AWQ/GPTQ): 约238GB显存
L20 48GB×8出厂价 ¥186,776–¥187,848市场价 ¥280,000
昇腾910B 64GB×4出厂价资料不足市场价 ¥440,000–¥480,000
RTX PRO 6000 96GB×4出厂价 ¥428,488市场价 ¥470,240云端时租(实时)×4张：¥32.0–¥60.8/时（2026-11-05）
RTX 5090 32GB×8出厂价资料不足市场价 ¥359,992云端时租(实时)×8张：¥24.0–¥28.8/时（2026-11-05）
RTX 5090D 24GB×16出厂价 ¥263,984市场价 ¥448,000–¥640,000云端时租(实时)×16张：¥48.0–¥56.0/时（2026-11-05）

18款硬件完整配置 → 官方仓库 →

INFERENCE ENGINES

开源推理引擎对照自部署时用什么软件跑模型 · 来源各引擎官方仓库/文档,核实于 2026-10-24

引擎	出品方	支持模型	硬件	在线服务	协议	特点
vLLM	社区(UC Berkeley 起源)	主流开源模型广覆盖	NVIDIA / AMD / TPU / Intel 等;昇腾经 vllm-ascend 插件	支持(OpenAI 兼容接口)	Apache-2.0	PagedAttention;事实标准,新模型通常首日适配
SGLang	社区(LMSYS 起源)	主流开源模型广覆盖	NVIDIA / AMD / 昇腾 / TPU 等	支持(OpenAI 兼容接口)	Apache-2.0	RadixAttention 前缀缓存;大规模 MoE 部署常用
TensorRT-LLM	NVIDIA	主流开源模型(需按官方支持列表)	仅 NVIDIA	支持(trtllm-serve / Triton)	Apache-2.0	NVIDIA 官方优化,新架构 GPU 特性跟进最快
MindIE	华为	主流开源模型(按昇腾适配列表)	仅昇腾	支持(MindIE Service)	华为软件许可	昇腾官方推理套件,国产算力部署主路线
llama.cpp	社区	GGUF 格式量化模型	CPU / NVIDIA / AMD / Apple 等,消费级为主	支持(llama-server,单机轻量)	MIT	低比特量化,个人电脑/单卡跑得动;Ollama 等基于它
DeepInfer开源于 2026-10-20	DeepSeek	仅 DeepSeek V4.1 Flash	NVIDIA SM100(B200/B300)/ 昇腾 950	否(本次开源仅离线推理)	Apache-2.0	DeepSeek 自家线上服务所用框架;未含 KV 缓存系统、预填充/解码分离、负载均衡

GPU 价格

18款 GPU 的出厂价、市场价（SXM 卡按 8 卡整机）与云端时租，见算力 · GPU 价格与云端时租 →

企业规模测算

按 10–10000 人企业的岗位构成，对比 API 与公有云 / 私有云 / 本地自部署的月成本，见按企业规模测算 API vs 自部署 →

FAQ

常见问题

显存需求是怎么算的?

显存 = 总参数(B) × 每参数字节数 × 1.2 运行时余量系数,只覆盖模型权重本身,不含并发请求和长上下文 KV Cache。实际部署建议再预留 20%–30% 余量,并做真实压测。

卡数怎么换算?

按 L20 48GB/昇腾910B 64GB/RTX PRO 6000 96GB/RTX 5090 32GB/RTX 5090D 24GB 几种参考卡换算,仅为示例组合;实际可替换为 H100/H800/A100/A800 等同显存量级的硬件,价格见下方硬件表。

MoE 模型的「激活参数」有什么用?

激活参数只决定推理算力(FLOPs)与速度,不减少权重显存占用,所以测算按总参数计算。标注「估算」的激活参数是官方未公布时按同系列已发布型号推算的,不是官方数字。

GPU 出厂价和市场价从哪来?

B300/B200/H200/H100/H800 等 SXM 卡按行业惯例以 HGX 8卡整机为报价单位,表中同时给出折合单卡价,部署测算按整台计价。价格取自公开报道,每周自动联网检索更新:报价数字与日期必须在来源原文中出现才采纳,无更新报道时保留原报价及日期。波动大、口径不一,仅供数量级参考,不构成报价承诺。

更多问题 (1)

「云端时租(实时)」是什么价?

取自 vast.ai 公开市场 API,每日刷新,是国际云端 GPU 市场的真实时租价,不代表中国大陆整卡采购价,仅供横向趋势参考。本站不做硬件销售或转售,请以实际询价与压测结果为准。