JSON 模式
Chat Completions 的 response_format 参数声明结构化输出:网关校验它的类型后原样转发上游,输出是否严格合法由路由到的上游模型决定。
声明
{
"model": "your-model",
"messages": [
{
"role": "user",
"content": "帮我写一个快速排序的单元测试"
}
],
"response_format": {
"type": "json_object"
}
}
{"type": "json_object"}要求模型输出一个 JSON 对象;提示词里明确要求输出 JSON 并给出结构,效果更稳定- 更严格的
json_schema形态同样原样转发,是否支持取决于该模型路由到的上游 - 解析建议按 JSON 解析失败兜底重试,不要假设输出永远合法
该参数是 Chat Completions 的表面;Messages 与 Responses 的结构化输出不由网关解释,不在本文档范围。