重点模型备份聊天接口

POST

https://api.ecovai.cn/v1/chat/completions

本接口针对部分高频模型进行并发加强，用多独立渠道（以不同调用名）提供稳定支持
gpt-4o基础调用：gpt-4o(或其它模型版本)，备用调用1：gpt-4o-enhance 备用调用2：gpt-4o-enhance2
gpt-4o-mini基础调用：gpt-4o-mini(或其它模型版本)，备用调用1：gpt-4o-mini-enhance 备用调用2：gpt-4o-mini-enhance2
claude3.5基础调用：claude-3-5-sonnet-20240620(或其它模型版本)，备用调用1：claude-3-5-sonnet-enhance 备用调用2：claude-3-5-sonnet-enhance2
默认请使用基础调用，备用调用可能修改或取消，建议用作基础调用响应不足时的备份，可按实际响应由本地编码动态切换，可确保在99.99%情况下的高速稳定

请求参数

Authorization

在 Header 添加参数

Authorization

，其值为在 Bearer 之后拼接 Token

示例：

Authorization: Bearer ********************

Header 参数

Content-Type

string

必需

示例值:

application/json

string

必需

示例值:

application/json

Authorization

string

可选

示例值:

Bearer {{YOUR_API_KEY}}

Body 参数application/json

model

string

必需

要使用的模型的 ID。有关哪些模型可与聊天 API 一起使用的详细信息,请参阅模型端点兼容性表。

messages

array [object {2}]

必需

至今为止对话所包含的消息列表。Python 代码示例。

role

string

可选

content

string

可选

temperature

integer

可选

使用什么采样温度，介于 0 和 2 之间。较高的值（如 0.8）将使输出更加随机，而较低的值（如 0.2）将使输出更加集中和确定。我们通常建议改变这个或top_p但不是两者。

top_p

integer

可选

一种替代温度采样的方法，称为核采样，其中模型考虑具有 top_p 概率质量的标记的结果。所以 0.1 意味着只考虑构成前 10% 概率质量的标记。我们通常建议改变这个或temperature但不是两者。

integer

可选

默认为 1
为每个输入消息生成多少个聊天补全选择。

stream

boolean

可选

默认为 false 如果设置,则像在 ChatGPT 中一样会发送部分消息增量。标记将以仅数据的服务器发送事件的形式发送,这些事件在可用时,并在 data: [DONE] 消息终止流。Python 代码示例。

stop

string

可选

默认为 null 最多 4 个序列,API 将停止进一步生成标记。

max_tokens

integer

可选

默认为 inf
在聊天补全中生成的最大标记数。

输入标记和生成标记的总长度受模型的上下文长度限制。计算标记的 Python 代码示例。

presence_penalty

number

可选

-2.0 和 2.0 之间的数字。正值会根据到目前为止是否出现在文本中来惩罚新标记，从而增加模型谈论新主题的可能性。查看有关频率和存在惩罚的更多信息。

frequency_penalty

number

可选

默认为 0 -2.0 到 2.0 之间的数字。正值根据文本目前的存在频率惩罚新标记,降低模型重复相同行的可能性。有关频率和存在惩罚的更多信息。

logit_bias

null

可选

修改指定标记出现在补全中的可能性。

接受一个 JSON 对象,该对象将标记(由标记器指定的标记 ID)映射到相关的偏差值(-100 到 100)。从数学上讲,偏差在对模型进行采样之前添加到模型生成的 logit 中。确切效果因模型而异,但-1 和 1 之间的值应减少或增加相关标记的选择可能性;如-100 或 100 这样的值应导致相关标记的禁用或独占选择。

user

string

可选

代表您的最终用户的唯一标识符，可以帮助 OpenAI 监控和检测滥用行为。了解更多。

示例

{
  "model": "gpt-4o-mini-enhance",
  "messages": [
    {
      "role": "system",
      "content": "You are a helpful assistant."
    },
    {
      "role": "user",
      "content": "你是谁？"
    }
  ]
}

示例代码

Shell

JavaScript

Java

Swift

PHP

Python

HTTP

Objective-C

Ruby

OCaml

Dart

curl --location --request POST 'https://api.ecovai.cn/v1/chat/completions' \
--header 'Accept: application/json' \
--header 'Authorization: Bearer {{YOUR_API_KEY}}' \
--header 'Content-Type: application/json' \
--data-raw '{
  "model": "gpt-4o-mini-enhance",
  "messages": [
    {
      "role": "system",
      "content": "You are a helpful assistant."
    },
    {
      "role": "user",
      "content": "你是谁？"
    }
  ]
}'

返回响应

🟢200OK

application/json

Body

string

必需

model

string

必需

object

string

必需

created

integer

必需

choices

array [object {3}]

必需

index

integer

可选

message

object

可选

finish_reason

string

可选

usage

object

必需

prompt_tokens

integer

必需

completion_tokens

integer

必需

total_tokens

integer

必需

示例

{
  "id": "chatcmpl-M938qbea7K2KNnvCDHT5MWSdpI23M",
  "model": "gpt-4o-mini",
  "object": "chat.completion",
  "created": 1730357754,
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "我是一个人工智能助手，旨在回答你的问题和提供帮助。如果你有任何问题或需要信息，欢迎随时问我！"
      },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 20,
    "completion_tokens": 29,
    "total_tokens": 49,
    "prompt_tokens_details": {
      "cached_tokens": 0
    },
    "completion_tokens_details": {
      "reasoning_tokens": 0
    }
  },
  "system_fingerprint": "fp_d54531d9eb"
}

修改于 2024-12-19 05:22:34

通用聊天接口

DALL·E 3