产品概述
AI 网关通过统一的 API 入口连接不同厂商的模型。您可以在控制台为应用设置模型访问权限和用量限额,并集中查看请求记录、用量和费用。
AI 网关如何工作
应用使用 API 令牌(API Key)验证身份,并在请求中通过模型 ID 指定目标模型。网关根据访问规则检查请求,将允许的请求转发至模型服务,再把响应返回给应用。

您可以使用 AI 网关做什么
接入应用所需的模型
在模型广场查找适合文本、图像、音频、视频和向量嵌入任务的模型,并比较模型能力、上下文限制和价格。选定模型后,可从详情页获取模型 ID 和 API 示例,用于应用接入。
各模型支持的协议、端点和功能可能不同,接入或更换模型时,请按对应的 API 示例和接口文档调整请求。
管理应用的模型访问
为每个应用分配独立的 API 令牌,便于分别管理访问权限。新建令牌需要关联一个 模型配置;通过统一 Base URL 调用时,配置决定可用模型,配置中的 IP 访问规则和日志设置也适用于关联令牌。多个应用需要相同规则时,可以共用配置;需要分别管理时,则使用不同配置。
需要停用某个应用的访问,或只允许指定服务器发起请求时,可以调整令牌的启停状态、有效期和来源 IP 限制。具体设置请参阅令牌管理和模型配置。
监控与排查模型调用
通过数据看板,您可以了解请求量、错误率和用量趋势,并按模型、令牌或令牌组分析消耗。若某次调用失败或响应较慢,可在请求日志中查看状态、时延和用量,帮助定位问题。
网关默认记录基本调用信息。请求和响应正文是否保存,取决于模型配置及账号默认设置。需要查看提示词和模型回复时,可先检查报文记录设置;调整设置仅影响后续调用。
管理用量与费用
您可以为单个 API 令牌设置使用限额,也可以将多个令牌归入一组,为一个团队的多个应用设置共享的用量上限。设置限额时,可以选择日、周或月为周期,并按请求数、Token 数或牌价金额设定上限。达到限额后,将无法继续使用受该限额约束的令牌调用模型。设置方法见令牌管理。
您可以在控制台查看模型价格、适用折扣、账户余额和账单,了解用量与费用的关系。数据看板提供牌价金额;如果您具有相应权限,还可查看应用折扣后的消费金额。请求日志展示牌价金额。确认最终费用时,还需考虑适用折扣及账单中的其他项目。计费与结算方式见计费概览。
添加 AI 安全检查(Beta)
AI Guardrail 帮助识别模型交互中的恶意提示词、不当内容和敏感信息泄露风险,并支持检查智能体的工具调用参数。防护适用于经过网关且已启用相应安全策略的流量。
AI Guardrail 目前处于 Beta 测试阶段,可联系商务对接人申请开通。申请时请提供账号、模型或智能体的使用场景,以及所需防护类型。防护范围与处理方式见AI Guardrail 概览。