聊天生成

POST
https://api.tokencube.net/v2/llm/chat/completions

专为对话设计,支持多轮上下文、角色区分,更贴近聊天的自然交互,适用于日常聊天/问答、多轮任务协作、个性化服务等场景。

接口鉴权方式请参考: API接入与鉴权

当前展示通用接口文档,各模型支持的参数存在差异。请在顶部切换模型,或直接点击下方模型标签,查看专属文档。

支持模型:

请求参数

请求头
参数名称描述
Authorizationstring

鉴权令牌,格式为 Bearer ${AIGATEWAY_TOKEN}

Content-Typestring
默认值:application/json
可选值:application/json

内容类型,固定为 application/json

Body参数
参数名称描述
modelstring
默认值:Per AI gateway configuration

模型名称,根据AI网关配置,可不传

messagesarray

对话的内容。元素为消息对象,含role和content。纯文本输入示例:"messages": [{"role": "system", "content": "你是一个产品咨询助手。"}, {"role": "user", "content": "请介绍下example的ECA边缘应用产品?"}];图片url输入示例:"messages": [{"role": "user", "content": [{"type": "text", "text": "请解答图片中的题目"}, {"type": "image_url", "image_url": {"url": "https://example.com/my-image.jpg"}}]}];图片base64输入示例:"messages": [{"role": "user", "content": [{"type": "text", "text": "请解答图片中的题目"}, {"type": "image_url", "image_url": {"url": "data:image/jpeg;base64,iVBORw0KGgoAAAANSUhEUgAABAAAAAQ...."}}]}]

rolestring
可选值:systemuserassistant

消息发送者角色

contentobject

消息内容。当为字符串时,直接携带消息内容;当为数组时,元素为对象,包含type(枚举text/image_url,必填)、text(字符串,type为text时必填)、image_url(对象,type为image_url时必填,含url字段:图片URL或Base64编码,Base64格式为 data:image/{IMAGE_FORMAT};base64,{IMAGE_BASE64},IMAGE_FORMAT为jpeg/png等图片格式)

streamboolean
默认值:Per AI gateway configuration
可选值:truefalse

是否流式输出

max_tokensinteger
默认值:Per AI gateway configuration

最大token数量

temperaturenumber
默认值:1
可选值:[0, 2.0]

采样温度。较高数值输出更随机,较低数值输出更集中和确定

top_pnumber
默认值:1
可选值:[0, 1.0]

影响输出文本的多样性。取值越大则生成文本的多样性越强

toolsarray

包含一个或多个工具对象的数组,供模型在Function Calling中调用。设置tools且模型判断需要调用工具时,响应会通过tool_calls返回工具信息。工具调用示例:"tools": [{"type": "function", "function": {"name": "get_current_weather", "description": "Get the current weather in a given location", "parameters": {"type": "object", "properties": {"location": {"type": "string", "description": "The city and state, e.g. San Francisco, CA"}, "unit": {"type": "string", "enum": ["celsius", "fahrenheit"]}}, "required": ["location"]}}}]

typestring
可选值:function

工具类型

functionobject

函数定义

namestring

函数名称

descriptionstring

函数描述

parametersobject

函数参数JSON Schema

typestring
默认值:object
propertiesobject
requiredarray
reasoning_effortstring
默认值:Model default
可选值:lowmediumhighnone

模型思考等级。支持的模型有OpenAI的o系列(不支持指定为none)、阿里云qwen3、百度ernie-4.5、Anthropic的claude系列(不支持none)及谷歌的gemini系列。与eca_thinking_config参数一起使用时eca_thinking_config优先生效

eca_thinking_configobject

指定思考长度,claude系列与gemini 2.5系列支持,gemini 3系列建议使用reasoning_effort。JSON 示例:"eca_thinking_config": {"type": "enabled", "budget_tokens": 128}

typestring
可选值:adaptivedisabledenabled

是否在回答中返回思考内容,仅claude系列支持adaptive

budget_tokensinteger
默认值:gemini series: -1; claude series: -
可选值:gemini series: [-1, 24576]; claude series: [1024, max_tokens]

指定thinking的tokens数量,type=enabled时生效

response_formatobject
默认值:[object Object]
可选值:{"type": "text"}: plain text reply; {"type": "json_schema","json_schema": {...} }: JSON string of the specified format, see https://json-schema.org/docs

返回内容的格式,仅OpenAI(从gpt-4o开始)与Google Gemini系列的模型支持。{"type":"text"}输出文字回复;{"type":"json_schema","json_schema":{...}}输出指定格式的JSON字符串,构造方式见 https://json-schema.org/docs

typestring
可选值:textjson_schema

text=输出文字;json_schema=输出指定格式JSON

json_schemaobject

结构化输出schema

namestring
schemaobject
strictboolean
eca_enable_searchboolean
默认值:false
可选值:truefalse

是否开启联网搜索

eca_ragobject

RAG参数。RAG示例:"eca_rag": {"knowledge_id": "xxx"}

knowledge_idstring

知识库的ID,必填

eca_context_managementobject
默认值:None

上下文管理配置,包含工具调用结果清理策略。上下文管理配置参数示例:"eca_context_management": {"edits": [{"type": "clear_tool_uses_20250919", "trigger": {"type": "input_tokens", "value": 100000}, "keep": {"type": "tool_uses", "value": 3}, "clear_tool_inputs": false}]}

editsarray
默认值:None

上下文编辑策略列表

typestring
默认值:None
可选值:clear_tool_uses_20250919

编辑策略类型(工具调用结果清理策略)

triggerobject
默认值:[object Object]

触发清理策略的条件

typestring
默认值:None
可选值:input_tokenstool_uses

触发类型:input_tokens=输入token数;tool_uses=工具调用次数

valuenumber
默认值:100000
可选值:Positive integer

触发阈值,正整数

keepobject
默认值:[object Object]

清理后保留的最近工具调用/结果对的数量

typestring
默认值:None
可选值:tool_uses
valuenumber
默认值:3
可选值:Positive integer

保留数量,正整数

clear_tool_inputsboolean
默认值:false
可选值:truefalse

是否在清理工具结果时同时清理工具调用参数

eca_image_configobject

图片生成参数,仅gemini-3.1-flash-image-preview、gemini-3-pro-image-preview、gemini-2.5-flash-image支持。示例:"eca_image_config": {"aspect_ratio": "16:9", "image_size": "2K"}

aspect_ratiostring
默认值:1:1
可选值:1:12:33:23:44:34:55:49:1616:921:9

生成图片宽高比

image_sizestring
默认值:1K
可选值:1K2K4K

生成图片分辨率,仅gemini-3.1-flash-image-preview、gemini-3.0-pro-image-preview支持

modalitiesarray
默认值:text
可选值:text: model returns text; image: model returns images (gemini series only); audio: model returns audio (openai series only)

模型生成的输出类型,一个模型可能支持多种类型组合,仅openai与gemini系列支持该参数。text=返回文本;image=返回图片(仅gemini系列支持);audio=返回音频(仅openai系列支持)。示例:"modalities": ["text", "image"]

请求示例

curl -v 'https://${base_url}/v2/llm/chat/completions' \
  -H "Authorization: Bearer ***" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek-r1",
    "messages": [
      {
        "role": "user",
        "content": "What is 1+1?"
      }
    ]
  }'

响应参数

Body参数
参数名称描述
idstring

此次响应的唯一标识符,用于追踪和识别特定的响应

modelstring

实际处理本次请求的模型名称

objectstring
可选值:chat.completion

响应的对象类型,chat.completion表明是聊天完成后的响应

createdinteger

响应生成的时间戳,从Unix纪元(1970-01-01 00:00:00 UTC)到响应生成时刻所经过的秒数

choicesarray

候选回复数组,含 index/message/finish_reason

indexinteger

当前选择在choices数组中的索引位置,一般从0开始

messageobject

包含模型回复消息的相关信息

rolestring
可选值:assistant

消息发送者角色,assistant表示是模型(助手)的回复

contentstring

模型生成的具体回复内容,生图请求返回图片url或图片的base64编码,Base64格式为 data:image/${IMAGE_FORMAT};base64,${IMAGE_BASE64}

reasoning_contentstring

思考内容

tool_callsarray

工具调用列表

idstring
typestring
可选值:function
functionobject
namestring

工具函数名

argumentsstring

工具调用参数JSON字符串

finish_reasonstring
可选值:stoplengthcontent_filterinsufficient_system_resourcetool_calls

停止原因。stop=模型自然停止或遇到stop序列;length=输出达到上下文长度或max_tokens限制;content_filter=内容触发过滤策略被过滤;insufficient_system_resource=系统推理资源不足被打断;tool_calls=模型判断需调用工具

usageobject

此次请求和响应所使用的token数量统计信息

prompt_tokensinteger

请求中使用token数,即用户输入内容占用token数

completion_tokensinteger

模型响应使用token数,即模型回复内容占用token数

total_tokensinteger

请求和响应总共使用token数,等于prompt_tokens与completion_tokens之和

prompt_tokens_detailsobject

请求token详细分类

completion_tokens_detailsobject

响应token详细分类

响应示例

{
  "id": "chatcmpl-8g199l9xsC4fPyEYpLywUtI2pQOl7",
  "model": "gpt-4o",
  "object": "chat.completion",
  "created": 1705024875,
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "China example Company is ..."
      },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 14,
    "completion_tokens": 100,
    "total_tokens": 114
  }
}

状态码

描述(message)HTTP状态码
请求成功200
访问被拒绝,拒绝原因见响应主体。 可能的原因有:缺少Authorization请求头,token错误等。401
访问被拒绝,拒绝原因见响应主体。 可能的原因有:请求主体格式错误、请求主体缺少用户问题等。403
服务器内部错误,原因见响应主体500