本文要点
结构化输出失败往往比聊天质量问题更易导致生产事故。把 JSON 当合同:schema → 模型模式 → 解析 → 校验 → 重试/failover。OpenAI 兼容接口在 strict JSON 与 tool 参数形态上有差异。
实现模式
定义 JSON Schema 或 Zod/Pydantic → 要求只输出 JSON → 有则开厂商 JSON mode → 解析 → 校验 → 失败则一次修复 prompt 或切厂商 → 记录原文便于排查。
厂商注意点
不要假设与 GPT strict mode 完全一致。在 DeepSeek/Qwen/GLM 上测嵌套对象、枚举、空数组。Tool calling 需与纯 JSON 对话分开测。
在 Swift Horse 上的下一步
SDK → Agent → 定价 → 接入总览。
常见问题
国产大模型支持 JSON mode 吗?
多数提供 JSON 或类 schema 控制——名称不同。以各控制台为准并测嵌套 schema。
JSON mode 和 tool calling 有何区别?
JSON mode 约束助手正文;tools 返回函数参数。看是否需要副作用来选。
生产环境遇到非法 JSON 怎么办?
校验 → 一次修复重试 → 切模型;切勿把坏 payload 静默传给下游。
这是官方 API 文档吗?
否——Swift Horse 独立工程指南。参数以厂商文档为准。