本文要点

结构化输出失败往往比聊天质量问题更易导致生产事故。把 JSON 当合同:schema → 模型模式 → 解析 → 校验 → 重试/failover。OpenAI 兼容接口在 strict JSON 与 tool 参数形态上有差异。

实现模式

定义 JSON Schema 或 Zod/Pydantic → 要求只输出 JSON → 有则开厂商 JSON mode → 解析 → 校验 → 失败则一次修复 prompt 或切厂商 → 记录原文便于排查。

厂商注意点

不要假设与 GPT strict mode 完全一致。在 DeepSeek/Qwen/GLM 上测嵌套对象、枚举、空数组。Tool calling 需与纯 JSON 对话分开测。

在 Swift Horse 上的下一步

SDK → Agent → 定价 → 接入总览。

常见问题

国产大模型支持 JSON mode 吗?

多数提供 JSON 或类 schema 控制——名称不同。以各控制台为准并测嵌套 schema。

JSON mode 和 tool calling 有何区别?

JSON mode 约束助手正文;tools 返回函数参数。看是否需要副作用来选。

生产环境遇到非法 JSON 怎么办?

校验 → 一次修复重试 → 切模型;切勿把坏 payload 静默传给下游。

这是官方 API 文档吗?

否——Swift Horse 独立工程指南。参数以厂商文档为准。