本文要点
自托管用运维换数据可控。多家发布开源或企业私有化权重(以 license 为准)。您负责 GPU、推理栈、监控与升级。适合合规阻挡公有 API——不适合追求最快 demo。
云 API vs 自托管决策
要快、要新模型、少运维 → API(access-china-llm-api-overseas)。prompt 不能出 VPC/ air-gap/合同要求本地 → 自托管。混合:敏感自托管,通用对话 API。
运维清单
License → GPU/量化 → 推理框架 → 安全补丁 → 与云 POC 相同评测 → 自托管失败时文档化 failover 到厂商 API。
合规衔接
配合 china-llm-compliance-overseas-2026 与 china-llm-api-pricing-2026 算 TCO。
常见问题
哪些国产模型可自托管?
DeepSeek、Qwen、GLM 等部分版本可开源或私有化——以厂商页 license 与 GPU 要求为准。
自托管比 API 便宜吗?
不一定——算 GPU、MLOps 人力与利用率。低用量常 API 更省。
海外团队能自托管吗?
可在自有基础设施部署;权重可能有出口/license 条款——需法务审查。
云方案去哪对比?
china-llm-api-pricing-2026 与 /services 对比表。