跳转到主要内容
发送 X-Gateway-Metadata: enabled 请求头后,响应会多出一个顶层字段 gateway_metadata。不带该请求头时这个字段不存在,其余内容也完全不变,因此可以放心地按请求开启、只对部分流量开启,或只在调试时开启。该字段同时以旧名 omnirelay_metadata 返回,内容相同;旧请求头名 X-OmniRelay-Metadata 也继续接受(见兼容性)。
取值不区分大小写。enabled 以外的任何值都视为关闭。

返回内容

保留 strategy、attempt 和 attempts 是为了在以后加入路由与故障转移时,返回结构不必改变。它们只报告实际发生的情况,不代表计划。

流式响应

stream: true 时,元数据随第一个数据块返回,因为模型和模型服务方在生成任何 Token 之前就已确定。后续数据块不会重复携带。

控制台

模型体验页面中的 API 调试工具总是请求元数据,因此不带请求头,它的响应区也会显示这个字段。