产品概述

AI 网关通过统一的 API 入口连接不同厂商的模型。您可以在控制台为应用设置模型访问权限和用量限额,并集中查看请求记录、用量和费用。

开始使用 · 探索模型

AI 网关如何工作

应用使用 API 令牌(API Key)验证身份,并在请求中通过模型 ID 指定目标模型。网关根据访问规则检查请求,将允许的请求转发至模型服务,再把响应返回给应用。

统一模型接入与令牌、限额、日志及费用管理的关系

您可以使用 AI 网关做什么

接入应用所需的模型

在模型广场查找适合文本、图像、音频、视频和向量嵌入任务的模型,并比较模型能力、上下文限制和价格。选定模型后,可从详情页获取模型 ID 和 API 示例,用于应用接入。

各模型支持的协议、端点和功能可能不同,接入或更换模型时,请按对应的 API 示例和接口文档调整请求。

管理应用的模型访问

为每个应用分配独立的 API 令牌,便于分别管理访问权限。新建令牌需要关联一个 模型配置;通过统一 Base URL 调用时,配置决定可用模型,配置中的 IP 访问规则和日志设置也适用于关联令牌。多个应用需要相同规则时,可以共用配置;需要分别管理时,则使用不同配置。

需要停用某个应用的访问,或只允许指定服务器发起请求时,可以调整令牌的启停状态、有效期和来源 IP 限制。具体设置请参阅令牌管理和模型配置。

监控与排查模型调用

通过数据看板,您可以了解请求量、错误率和用量趋势,并按模型、令牌或令牌组分析消耗。若某次调用失败或响应较慢,可在请求日志中查看状态、时延和用量,帮助定位问题。

网关默认记录基本调用信息。请求和响应正文是否保存,取决于模型配置及账号默认设置。需要查看提示词和模型回复时,可先检查报文记录设置;调整设置仅影响后续调用。

管理用量与费用

您可以为单个 API 令牌设置使用限额,也可以将多个令牌归入一组,为一个团队的多个应用设置共享的用量上限。设置限额时,可以选择日、周或月为周期,并按请求数、Token 数或牌价金额设定上限。达到限额后,将无法继续使用受该限额约束的令牌调用模型。设置方法见令牌管理。

您可以在控制台查看模型价格、适用折扣、账户余额和账单,了解用量与费用的关系。数据看板提供牌价金额;如果您具有相应权限,还可查看应用折扣后的消费金额。请求日志展示牌价金额。确认最终费用时,还需考虑适用折扣及账单中的其他项目。计费与结算方式见计费概览。

添加 AI 安全检查(Beta)

AI Guardrail 帮助识别模型交互中的恶意提示词、不当内容和敏感信息泄露风险,并支持检查智能体的工具调用参数。防护适用于经过网关且已启用相应安全策略的流量。

AI Guardrail 目前处于 Beta 测试阶段,可联系商务对接人申请开通。申请时请提供账号、模型或智能体的使用场景,以及所需防护类型。防护范围与处理方式见AI Guardrail 概览。

更多指南

  • 完成首次调用: 按照开始使用创建访问凭证、发送请求并确认结果。
  • 为应用选择模型: 参阅模型广场指南,了解如何比较模型并获取对应的调用示例。
  • 管理已接入的应用: 通过令牌管理和模型配置调整访问范围与使用规则。