请求日志
请求日志 用于排查失败、响应缓慢或其他需要核查的 API 调用。通过日志,您可以确认调用使用的令牌、模型和配置,查看时延、Token 用量及牌价金额。如果该次调用记录了完整报文,且文件仍可用,还可以下载请求体和响应体检查具体内容。
请求 ID、状态码、耗时等基础信息不受报文记录设置影响,未开启完整报文记录时也会保留。
日志内容与保存
开启 记录完整报文 后,系统会同时保存客户输入内容和模型输出内容;选择 默认 时,则遵循账号当前的默认设置。请求 ID、时间、状态码、耗时等 请求交互字段 独立记录。
| 日志数据 | 内容 |
|---|---|
| 客户输入内容(请求体 / 输入 Body) | 应用提交给模型的输入内容。 |
| 模型输出内容(响应体 / 输出 Body) | 模型返回的输出内容。 |
| 请求交互字段 | 请求 ID、时间、状态码、耗时等基础调用信息。 |
如需留存排障材料,请及时下载可用报文。报文可用时间不一定与基础日志的可查询时间一致,下载链接的有效期也不代表文件保存期限。具体保存和删除规则请向支持人员确认。
找到需要排查的请求
打开控制台中的请求日志,先选择覆盖调用时间的范围,再用请求 ID 或应用使用的令牌、模型配置定位记录。按令牌查找只需名称或 ID,无需获取令牌密钥。
查询权限与数据范围
查询日志需要同时具有菜单访问权限和请求日志查看权限。子账号只能查询已获授权的令牌、令牌组和配置,选择 全部 也受此范围限制。如果看不到菜单或需要的资源,请联系账号管理员检查权限。
时间范围默认为近 1 小时,日期选择器提供 近1小时、今天、昨天 和 近7天,也支持自定义开始、结束时间,精确到分钟。可查询范围为当天及此前 6 个自然日。设置自定义范围后,选择 确定。
如果已有请求 ID,可在 请输入请求ID 中输入完整 ID 或部分内容,也可以结合以下条件缩小范围。
| 筛选条件 | 适用情况 |
|---|---|
| 令牌 / 令牌组 | 查找某个应用或一组令牌的调用。两种模式互斥,切换后选择恢复为 全部。 |
| 模型ID | 查看一个或多个模型 ID 的调用。 |
| 模型配置 | 查看使用指定配置的调用,可选配置受账号授权范围限制。 |
| 响应状态码 | 选择 成功(2xx)、客户端错误(4xx) 或 服务端错误(5xx),支持多选。 |
点击 查询 后,结果按记录时间从新到旧排列。找到目标调用,选择 详情 进一步检查。没有结果时,请先核对时间范围,再减少筛选条件。查询 旁的重置图标会恢复默认条件,包括近 1 小时的时间范围;查找更早的记录时,需要重新选择时间。
查询数量限制
一次查询最多返回 10,000 条记录。结果达到上限时,请缩小时间或资源范围,以免遗漏需要的记录。手动选择时,令牌和实例配置各最多可选 500 个。子账号选择 全部 时可能包含超过 500 个已授权令牌;遇到超限提示,请减少所选令牌后重试。
检查调用状态、时延和用量
列表中的 状态码 是实际返回的 HTTP 状态码,总耗时(ms) 以毫秒显示调用耗时。Token消耗 的向下箭头表示输入 Token,向上箭头表示输出 Token;牌价金额 带有币种符号,四舍五入保留 4 位小数。
进入 详情 后,可以结合以下信息分析调用。部分字段为可选字段,实际内容因记录而异。
| 需要确认的问题 | 查看位置 |
|---|---|
| 是否为目标调用? | 在 请求 中,将 请求 ID、记录时间、请求行 和 HTTP 状态码 与应用侧记录对照。客户端 IP 和 客户端标识 可辅助识别来源。 |
| 使用了哪个令牌、配置和模型? | 在 路由 中查看 令牌组(ID)、令牌(ID)、实例配置(ID)、网关类型 和 模型 ID。实例配置(ID) 中的 ID 对应调用使用的模型配置。 |
| 延迟发生在首个输出之前,还是整个调用过程中? | 在 性能 中对照 首词元时延 和 总时延,分别表示首个响应 Token 的等待时间和端到端总耗时,单位均为毫秒。 |
| 记录了多少用量? | 在 用量 中查看 输入词元、输出词元 和 总词元,以及可用的缓存读取、缓存写入、推理和工具调用 Token 数。 |
| 牌价金额是多少? | 在 牌价金额 中一起查看 金额 与 计费币种。详情可能显示更多小数位,但该金额仍是牌价金额,并非最终账单实付金额。 |
核对总用量时,请使用记录中的总 Token 数。输入、输出、缓存、推理和工具调用等细分项可能重叠,不能与总量再次相加;具体包含关系请参阅对应模型的用量说明。
总耗时(ms) 旁的 流 标记表示日志将该次调用记录为流式请求,详情中的 请求 > 流式输出 也会显示 是 或 否。但流式标记数据缺失时同样显示 否,因此不能仅凭没有标记就认定客户端未请求流式响应。
结束原因 可帮助判断生成为什么结束,或查看失败调用返回的错误信息;限速状态、内容审计 则可能提供补充信息。缺少这些字段时,可通过请求 ID 与应用侧响应继续核对。记录含有图片、音频或视频数据时,详情也会展示相应信息。
令牌、令牌组或配置显示为 -(ID:…),表示名称未能解析,并不一定意味着资源已删除;您仍可使用 ID 识别资源。
根据日志继续排查
先将日志中的请求 ID、时间、模型和配置与应用侧记录对应,再根据现象选择排查方向。状态码能帮助判断响应类别,但不能单独确定根本原因。
| 日志或应用中的现象 | 排查方向 |
|---|---|
| 鉴权失败、凭证无效 | 核对协议要求的认证头、完整令牌密钥、令牌状态和过期时间。查看密钥时遵循身份验证流程。 |
| 模型不可用、权限或来源访问被拒绝 | 核对 路由 中的模型和配置,以及令牌关联的模型范围。将 客户端 IP 与应用实际出口地址对照,再检查令牌 IP白名单 和配置 IP访问控制,包括排除项。应用服务器的内网 IP 可能不是实际出口地址。 |
| 限额或限速提示 | 结合错误正文和 限速状态,分别检查令牌、组额度及账号可用测试额度或资金。资金问题见服务暂停与恢复。平均 RPM、TPM 不代表接口限速阈值。 |
| 输出被截断或中途停止 | 对照 结束原因、输出限制及应用收到的响应,查阅目标模型的参数说明;缺少结束原因时,以应用侧响应补充判断。 |
| 服务端错误,或原因仍不明确 | 向支持人员提供请求 ID、带时区的时间、模型 ID 和脱敏错误信息,无需发送令牌密钥或完整报文。 |
查询无结果时,请对照应用记录检查时间范围、控制台时区、权限和资源筛选条件。缺少日志或可选字段,本身不足以判断请求是否发生、失败调用是否计费。向支持人员提供时间时,请保留控制台所用的时区,以免与账单计费时区混淆。
需要较早的记录时,请结合日志保存说明和可查询范围判断;超出控制台查询窗口的数据,请联系支持人员核查。
下载已记录的请求体和响应体
在调用 详情 的 报文 区域,可以查看 是否记录报文、请求报文 URL 和 响应报文 URL。是否记录报文 说明该次调用的记录情况,不能用于修改日志设置。
有文件可用时,通过 下载请求报文 或 下载响应报文 保存 JSON 文件,再使用支持 JSON 的编辑器检查相关内容。文件名为 AI网关请求日志-{requestid}.json;如果同时下载请求和响应,请分别命名保存,以便区分。
妥善保管报文及下载链接
报文可能包含业务内容或个人信息。下载链接有效期为 24 小时,无需额外鉴权,获得链接的人可能访问文件,请勿公开分享。排障时优先提供请求 ID 和脱敏错误信息。链接到期不等于文件删除;下载副本应按组织的数据访问、保留和删除要求处理。正文文件的具体规则请向管理员或支持人员确认。
字段显示 - 时,表示对应报文不可用,例如没有访问权限或文件已无法找到。即使 是否记录报文 为 是,也可能无法下载其中一份或两份文件;基础调用信息仍可用于排查。
下载失败时,可重新打开详情获取新的链接后重试。链接的 24 小时有效期与日志保存期限无关。
为后续调用配置报文记录
需要记录后续调用的完整报文时,先根据日志 路由 中的配置 ID 找到目标模型配置,再进入 高级配置 > 日志管理。设置方式见开启完整报文记录。
该设置影响所有使用此模型配置的应用,修改前请确认配置及相关应用的数据记录需求。变更仅影响后续调用,无法补回此前未记录的报文;新调用产生后,可在 请求日志 中查看报文是否可用。