JSON 模式

Chat Completions 的 response_format 参数声明结构化输出:网关校验它的类型后原样转发上游,输出是否严格合法由路由到的上游模型决定。

声明

{
  "model": "your-model",
  "messages": [
    {
      "role": "user",
      "content": "帮我写一个快速排序的单元测试"
    }
  ],
  "response_format": {
    "type": "json_object"
  }
}
  • {"type": "json_object"} 要求模型输出一个 JSON 对象;提示词里明确要求输出 JSON 并给出结构,效果更稳定
  • 更严格的 json_schema 形态同样原样转发,是否支持取决于该模型路由到的上游
  • 解析建议按 JSON 解析失败兜底重试,不要假设输出永远合法

该参数是 Chat Completions 的表面;Messages 与 Responses 的结构化输出不由网关解释,不在本文档范围。