ETOChat 产品文档支持的 Endpoint 及对应价格OpenAI Chat & Embeddings APIOpenAI Assistants APIAnthropic Claude API最佳实践在线使用在 OpenAI Python SDK 中使用在 Anthropic Python SDK 中使用在 LibreChat 中使用在 Auto-GPT 中使用在 Yidadaa/ChatGPT-Next-Web 中使用在 mckaywrigley/chatbot-ui 中使用自建应用
生效日期:2024 年 8 月 8 日
OpenAI 官方价格请参考:OpenAI Pricing 人民币对美元汇率中间价请参考:
中国外汇交易中心(不再按此汇率执行)
汇丰银行(中国)有限公司美元现汇卖出价 (自 2024 年 5 月 1 日起,平台外汇服务由汇丰银行(中国)有限公司、香港上海汇丰银行有限公司、 HSBC Bank USA 提供,人民币(在岸)对美元汇率参考汇丰银行(中国)有限公司当日的美元现汇卖出价执行)
Endpoint | Model | Prompt (CNY/1K tokens) | Completion (CNY/1K tokens) |
---|---|---|---|
/v1/chat/completions | gpt-4 , gpt-4-0314 , gpt-4-0613 | 0.240 | 0.480 |
/v1/chat/completions | gpt-4-turbo-preview , gpt-4-1106-preview , gpt-4-0125-preview , gpt-4-vision-preview | 0.080 | 0.240 |
/v1/chat/completions | gpt-4-turbo , gpt-4-turbo-2024-04-09 | 0.080 | 0.240 |
/v1/chat/completions | gpt-4o , gpt-4o-2024-05-13 | 0.040 | 0.120 |
/v1/chat/completions | gpt-4o-2024-08-06 | 0.020 | 0.080 |
/v1/chat/completions | gpt-4o-mini , gpt-4o-mini-2024-07-18 | 0.002 | 0.006 |
/v1/chat/completions | gpt-4-32k , gpt-4-32k-0314 , gpt-4-32k-0613 | 0.480 | 0.959 |
/v1/chat/completions | gpt-3.5-turbo , gpt-3.5-turbo-0301 , gpt-3.5-turbo-0613 | 0.012 | 0.016 |
/v1/chat/completions | gpt-3.5-turbo-1106 | 0.008 | 0.016 |
/v1/chat/completions | gpt-3.5-turbo-0125 | 0.004 | 0.012 |
/v1/chat/completions | gpt-3.5-turbo-16k , gpt-3.5-turbo-16k-0613 | 0.024 | 0.032 |
/v1/chat/completions | hyllm (腾讯混元大模型) | 0.100 | 0.100 |
/v1/embeddings | text-embedding-ada-002 , text-embedding-3-small , text-embedding-ada-large | 0.001 | N/A |
支持以下与 Assistants API 相关的 API ,预期行为对齐 OpenAI 官方文档 。
Endpoint | Progress | Documentation |
---|---|---|
/v1/files* | Done | Files |
/v1/assistants* | Done | Assistants |
/v1/threads* | Done | Threads, Messages, Runs |
计费项目 | 定价 | 备注 |
---|---|---|
Threads | CNY 0.30 / thread | 暂缓征收 |
Files | CNY 2.00 / GB / day | 暂缓征收 |
文件大小限制:单个文件大小不超过 512 MB ,每个用户所有文件总大小不超过 5GB ;
Assistants API 采取异步计费方式,为避免出现欠费,平台要求调用 Assistants API 时需保持余额不少于人民币 20 元, Chat & Embeddings API 无此要求,敬请留意;
Assistants API 仍处于 Beta 阶段,不参与平台 SLA 计算也不提供 SLA 保证,欢迎大家提出宝贵意见;
Endpoint | Model | Prompt (CNY/1K tokens) | Completion (CNY/1K tokens) |
---|---|---|---|
/v1/messages | claude-3-opus-20240229 | 0.154 | 0.767 |
/v1/messages | claude-3-sonnet-20240229 | 0.031 | 0.154 |
/v1/messages | claude-3-haiku-20240307 | 0.003 | 0.013 |
/v1/messages | claude-3-5-sonnet-20240620 | 0.031 | 0.154 |
VIP 用户、私有云部署的用户,服务计费以合同签订的价格为准
请前往 ETOChat 体验。
from openai import OpenAI
client = OpenAI(
base_url="https://api.ai.cs.ac.cn/v1",
# 填写 ETOChat 密钥
api_key="sk-",
)
chat_completion = client.chat.completions.create(
messages=[
{
"role": "user",
"content": "Say this is a test",
}
],
model="gpt-3.5-turbo",
)
print(chat_completion)
from anthropic import Anthropic
client = Anthropic(
base_url="https://api.ai.cs.ac.cn",
# 填写 ETOChat 密钥
api_key="sk-",
)
message = client.messages.create(
max_tokens=1024,
messages=[
{
"role": "user",
"content": "Hello, Claude",
}
],
model="claude-3-opus-20240229",
)
print(message.content)
请参考 LibreChat 使用指南 。
请注意: Auto-GPT 可能产生可观的费用,使用时请确保余额充足。余额低于 0.01 元时后续请求将被拒绝。
参考 https://significant-gravitas.github.io/Auto-GPT/setup/#configuration 。
在项目根目录下的 .env
文件中配置以下内容
################################################################################
### LLM PROVIDER
################################################################################
### OPENAI
## OPENAI_API_KEY - OpenAI API Key (Example: my-openai-api-key)
## TEMPERATURE - Sets temperature in OpenAI (Default: 0)
## USE_AZURE - Use Azure OpenAI or not (Default: False)
OPENAI_API_KEY=替换为在 https://ai.cs.ac.cn 获取到的 API KEY
# TEMPERATURE=0
USE_AZURE=True
在相同目录下配置 azure.yaml
azure_api_type azure
azure_api_base https //api.ai.cs.ac.cn
azure_api_version 2023-03-15-preview
azure_model_map
fast_llm_model_deployment_id gpt-35-turbo
smart_llm_model_deployment_id gpt-4
embedding_model_deployment_id text-embedding-ada-002
按需配置其他内容后即可启动。
如使用 docker ,对应的 docker-compose.yml
为
version"3.9"
services
auto-gpt
image significantgravitas/auto-gpt0.2.2
depends_on
redis
env_file
.env
environment
MEMORY_BACKEND $ MEMORY_BACKEND -redis
REDIS_HOST $ REDIS_HOST -redis
volumes
./:/app
./azure.yaml:/home/appuser/azure.yaml
profiles "exclude-from-up"
redis
image"redis/redis-stack-server:latest"
使用以下命令即可启动 Auto-GPT
docker compose run --rm auto-gpt
指定环境变量:
BASE_URL=https://api.ai.cs.ac.cn
OPENAI_API_KEY=eyJhbGciOiJFZERTQSIsImtpZCI6IjAiLCJ0eXAiOiJKV1QifQ.xxx
如
docker run -d -p 3000:3000 \
-e BASE_URL="https://api.ai.cs.ac.cn" \
-e OPENAI_API_KEY="替换为在 https://ai.cs.ac.cn 获取到的 API KEY" \
yidadaa/chatgpt-next-web
指定环境变量:
xxxxxxxxxx
OPENAI_API_HOST=https://api.ai.cs.ac.cn
OPENAI_API_KEY=eyJhbGciOiJFZERTQSIsImtpZCI6IjAiLCJ0eXAiOiJKV1QifQ.xxx
如
xxxxxxxxxx
docker run -d -p 3000:3000 \
-e OPENAI_API_HOST="https://api.ai.cs.ac.cn" \
-e OPENAI_API_KEY="替换为在 https://ai.cs.ac.cn 获取到的 API KEY" \
ghcr.io/mckaywrigley/chatbot-ui:main
参考 https://platform.openai.com/docs/api-reference/chat/create ,将请求改为
xxxxxxxxxx
POST https://api.ai.cs.ac.cn/v1/chat/completions
即可。
以下是与官方文档不同的参数,请重点关注。
参数 | OpenAI 官方 | ETOChat | 说明 |
---|---|---|---|
model | 参考 https://platform.openai.com/docs/models/model-endpoint-compatibility | 仅支持 gpt-4 , gpt-4-0314 , gpt-3.5-turbo ,gpt-3.5-turbo-0301 | 暂不支持 GPT-4 32 K context |
n | int | 仅支持 1 | |
stop | string or array | 仅支持 array | |
user | string | 不支持配置,传值将被忽略 |
未说明的参数均与官方文档含义一致。
示例请求
xxxxxxxxxx
curl https://api.ai.cs.ac.cn/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer 替换为在 https://ai.cs.ac.cn 获取到的 API KEY" \
-d '{
"model": "gpt-3.5-turbo",
"messages": [{"role": "user", "content": "Hello!"}]
}'