响应生成

POST
https://api.tokencube.net/v2/llm/responses

响应生成 API(/responses),以结构化"响应"为中心的模型调用接口:一次调用返回一个可持久化、可续接的 Response 对象,内置工具调用与思考过程,支持多轮续接与流式输出,适用于复杂任务编排与智能体(Agent)场景。

接口鉴权方式请参考: API接入与鉴权

当前展示通用接口文档,各模型支持的参数存在差异。请在顶部切换模型,或直接点击下方模型标签,查看专属文档。

支持模型:

请求参数

请求头
参数名称描述
Content-Typestring
可选值:application/json

application/json

Authorizationstring

鉴权令牌,格式为 Bearer ${AIGATEWAY_TOKEN}

Body参数
参数名称描述
modelstring

模型名称,例如 "gpt-4.1"

instructionsstring

系统指令(System Prompt),设定助手的角色和行为

inputobject

用户输入内容。支持简单文本字符串或对话历史/多模态数组。简单文本示例:"input": "Write a story about a unicorn.";对话历史/多模态示例:"input": [{"role": "developer", "content": "You are a helpful assistant."}, {"role": "user", "content": [{"type": "input_text", "text": "Parse this file"}, {"type": "input_file", "file_url": "https://..."}]}]

promptobject

提示词模版参数,包含 id(提示模板ID)和 variables(变量键值对)。模版示例:"prompt": {"id": "xxxx", "variables": {"key1": "value1", "key2": "value2"}}(id 维护于 example 控制台的提示模板ID,variables 为提示模板内的变量动态赋值)

idstring

提示模板ID

variablesobject

提示模板内的变量,在此动态赋值

toolsarray

工具配置列表,支持类型:web_search_preview(联网搜索)、file_search(文件搜索RAG)、mcp(MCP工具)、image_generation(图片生成)、function(自定义函数调用)

typestring
可选值:web_search_previewfile_searchmcpimage_generationfunction

工具类型

streamboolean
可选值:truefalse

是否开启流式输出

max_output_tokensinteger

最大输出token数

请求示例

curl -v 'https://${base_url}/v2/llm/responses' \
  -H "Authorization: Bearer ***" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-5",
    "input": [
      {
        "role": "developer",
        "content": "You are a helpful assistant."
      },
      {
        "role": "user",
        "content": "Write a one-sentence bedtime story about a unicorn."
      }
    ]
  }'

响应参数

Body参数
参数名称描述
idstring

响应ID

statusstring
可选值:completedincomplete

响应状态

modelstring

使用的模型

outputarray

输出内容列表

typestring

内容类型,如 message 或 image_generation_call

contentarray

消息内容列表

typestring

内容类型,如 output_text

textstring

响应的文本内容

resultstring

当 type 为 image_generation_call 时,返回图片的Base64编码

usageobject

Token消耗统计

input_tokensinteger

输入Token数

output_tokensinteger

输出Token数

incomplete_detailsobject

被截断的详情 (如 reason: "max_output_tokens")

响应示例

{
  "id": "resp_057006...",
  "status": "completed",
  "model": "gpt-4.1-2025-04-14",
  "output": [
    {
      "type": "message",
      "role": "assistant",
      "content": [
        {
          "type": "output_text",
          "text": "I'm ChatGPT..."
        }
      ]
    }
  ],
  "usage": {
    "input_tokens": 20,
    "output_tokens": 47,
    "total_tokens": 67
  }
}

状态码

描述(message)HTTP状态码
请求成功200
访问被拒绝 (缺少Authorization请求头或token错误)401
访问被拒绝 (请求主体格式错误等)403
服务器内部错误500