X-Gateway-Metadata: enabled 请求头后,响应会多出一个顶层字段 gateway_metadata。不带该请求头时这个字段不存在,其余内容也完全不变,因此可以放心地按请求开启、只对部分流量开启,或只在调试时开启。该字段同时以旧名 omnirelay_metadata 返回,内容相同;旧请求头名 X-OmniRelay-Metadata 也继续接受(见兼容性)。
enabled 以外的任何值都视为关闭。
返回内容
保留
strategy、attempt 和 attempts 是为了在以后加入路由与故障转移时,返回结构不必改变。它们只报告实际发生的情况,不代表计划。
流式响应
stream: true 时,元数据随第一个数据块返回,因为模型和模型服务方在生成任何 Token 之前就已确定。后续数据块不会重复携带。