</> Rice 的技术博客
首页文章标签关于订阅

大模型部署

共 1 篇

2026-08-14· 3 分钟阅读

自托管开源大模型:从权重下载到 vLLM 服务的完整链路

热点引入:开源模型爆发,自托管从&quot;极客玩具&quot;走向选项 2026 年 8 月,国产开源模型密集爆发:Qwen3.8-Max 以 2.4 万亿参数开源,DeepSeek V4-Pro 正式版 GA。开源阵营与闭源旗舰的定性差距持续缩小,越来越多团队开始认真评 …

#vLLM#自托管#大模型部署#推理
阅读全文 →
© 2026 Rice · Rice 的技术博客 · 由 Hugo 构建
GitHub邮箱订阅