ETOChat 产品文档支持的 Endpoint 及对应价格OpenAI Chat & Embeddings APIOpenAI Assistants APIAnthropic Claude API最佳实践在线使用在 OpenAI Python SDK 中使用在 Anthropic Python SDK 中使用在 LibreChat 中使用在 Auto-GPT 中使用在 Yidadaa/ChatGPT-Next-Web 中使用在 mckaywrigley/chatbot-ui 中使用自建应用
生效日期:2024 年 8 月 8 日
OpenAI 官方价格请参考:OpenAI Pricing 人民币对美元汇率中间价请参考:
中国外汇交易中心(不再按此汇率执行)
汇丰银行(中国)有限公司美元现汇卖出价 (自 2024 年 5 月 1 日起,平台外汇服务由汇丰银行(中国)有限公司、香港上海汇丰银行有限公司、 HSBC Bank USA 提供,人民币(在岸)对美元汇率参考汇丰银行(中国)有限公司当日的美元现汇卖出价执行)
| Endpoint | Model | Prompt (CNY/1K tokens) | Completion (CNY/1K tokens) |
|---|---|---|---|
/v1/chat/completions | gpt-4, gpt-4-0314, gpt-4-0613 | 0.240 | 0.480 |
/v1/chat/completions | gpt-4-turbo-preview, gpt-4-1106-preview, gpt-4-0125-preview, gpt-4-vision-preview | 0.080 | 0.240 |
/v1/chat/completions | gpt-4-turbo, gpt-4-turbo-2024-04-09 | 0.080 | 0.240 |
/v1/chat/completions | gpt-4o, gpt-4o-2024-05-13 | 0.040 | 0.120 |
/v1/chat/completions | gpt-4o-2024-08-06 | 0.020 | 0.080 |
/v1/chat/completions | gpt-4o-mini, gpt-4o-mini-2024-07-18 | 0.002 | 0.006 |
/v1/chat/completions | gpt-4-32k, gpt-4-32k-0314, gpt-4-32k-0613 | 0.480 | 0.959 |
/v1/chat/completions | gpt-3.5-turbo, gpt-3.5-turbo-0301, gpt-3.5-turbo-0613 | 0.012 | 0.016 |
/v1/chat/completions | gpt-3.5-turbo-1106 | 0.008 | 0.016 |
/v1/chat/completions | gpt-3.5-turbo-0125 | 0.004 | 0.012 |
/v1/chat/completions | gpt-3.5-turbo-16k, gpt-3.5-turbo-16k-0613 | 0.024 | 0.032 |
/v1/chat/completions | hyllm (腾讯混元大模型) | 0.100 | 0.100 |
/v1/embeddings | text-embedding-ada-002, text-embedding-3-small, text-embedding-ada-large | 0.001 | N/A |
支持以下与 Assistants API 相关的 API ,预期行为对齐 OpenAI 官方文档 。
| Endpoint | Progress | Documentation |
|---|---|---|
/v1/files* | Done | Files |
/v1/assistants* | Done | Assistants |
/v1/threads* | Done | Threads, Messages, Runs |
| 计费项目 | 定价 | 备注 |
|---|---|---|
| Threads | CNY 0.30 / thread | 暂缓征收 |
| Files | CNY 2.00 / GB / day | 暂缓征收 |
文件大小限制:单个文件大小不超过 512 MB ,每个用户所有文件总大小不超过 5GB ;
Assistants API 采取异步计费方式,为避免出现欠费,平台要求调用 Assistants API 时需保持余额不少于人民币 20 元, Chat & Embeddings API 无此要求,敬请留意;
Assistants API 仍处于 Beta 阶段,不参与平台 SLA 计算也不提供 SLA 保证,欢迎大家提出宝贵意见;
| Endpoint | Model | Prompt (CNY/1K tokens) | Completion (CNY/1K tokens) |
|---|---|---|---|
/v1/messages | claude-3-opus-20240229 | 0.154 | 0.767 |
/v1/messages | claude-3-sonnet-20240229 | 0.031 | 0.154 |
/v1/messages | claude-3-haiku-20240307 | 0.003 | 0.013 |
/v1/messages | claude-3-5-sonnet-20240620 | 0.031 | 0.154 |
VIP 用户、私有云部署的用户,服务计费以合同签订的价格为准
请前往 ETOChat 体验。
from openai import OpenAI
client = OpenAI( base_url="https://api.ai.cs.ac.cn/v1", # 填写 ETOChat 密钥 api_key="sk-",)
chat_completion = client.chat.completions.create( messages=[ { "role": "user", "content": "Say this is a test", } ], model="gpt-3.5-turbo",)
print(chat_completion)from anthropic import Anthropic
client = Anthropic( base_url="https://api.ai.cs.ac.cn", # 填写 ETOChat 密钥 api_key="sk-",)
message = client.messages.create( max_tokens=1024, messages=[ { "role": "user", "content": "Hello, Claude", } ], model="claude-3-opus-20240229",)
print(message.content)
请参考 LibreChat 使用指南 。
请注意: Auto-GPT 可能产生可观的费用,使用时请确保余额充足。余额低于 0.01 元时后续请求将被拒绝。
参考 https://significant-gravitas.github.io/Auto-GPT/setup/#configuration 。
在项目根目录下的 .env 文件中配置以下内容
################################################################################### LLM PROVIDER################################################################################
### OPENAI## OPENAI_API_KEY - OpenAI API Key (Example: my-openai-api-key)## TEMPERATURE - Sets temperature in OpenAI (Default: 0)## USE_AZURE - Use Azure OpenAI or not (Default: False)OPENAI_API_KEY=替换为在 https://ai.cs.ac.cn 获取到的 API KEY# TEMPERATURE=0USE_AZURE=True在相同目录下配置 azure.yaml
azure_api_typeazureazure_api_basehttps//api.ai.cs.ac.cnazure_api_version2023-03-15-previewazure_model_map fast_llm_model_deployment_idgpt-35-turbo smart_llm_model_deployment_idgpt-4 embedding_model_deployment_idtext-embedding-ada-002按需配置其他内容后即可启动。
如使用 docker ,对应的 docker-compose.yml 为
version"3.9"services auto-gpt imagesignificantgravitas/auto-gpt0.2.2 depends_onredis env_file.env environment MEMORY_BACKEND$MEMORY_BACKEND-redis REDIS_HOST$REDIS_HOST-redis volumes./:/app./azure.yaml:/home/appuser/azure.yaml profiles "exclude-from-up" redis image"redis/redis-stack-server:latest"使用以下命令即可启动 Auto-GPT
docker compose run --rm auto-gpt指定环境变量:
BASE_URL=https://api.ai.cs.ac.cnOPENAI_API_KEY=eyJhbGciOiJFZERTQSIsImtpZCI6IjAiLCJ0eXAiOiJKV1QifQ.xxx如
docker run -d -p 3000:3000 \ -e BASE_URL="https://api.ai.cs.ac.cn" \ -e OPENAI_API_KEY="替换为在 https://ai.cs.ac.cn 获取到的 API KEY" \ yidadaa/chatgpt-next-web指定环境变量:
xxxxxxxxxxOPENAI_API_HOST=https://api.ai.cs.ac.cnOPENAI_API_KEY=eyJhbGciOiJFZERTQSIsImtpZCI6IjAiLCJ0eXAiOiJKV1QifQ.xxx如
xxxxxxxxxxdocker run -d -p 3000:3000 \ -e OPENAI_API_HOST="https://api.ai.cs.ac.cn" \ -e OPENAI_API_KEY="替换为在 https://ai.cs.ac.cn 获取到的 API KEY" \ ghcr.io/mckaywrigley/chatbot-ui:main参考 https://platform.openai.com/docs/api-reference/chat/create ,将请求改为
xxxxxxxxxxPOST https://api.ai.cs.ac.cn/v1/chat/completions
即可。
以下是与官方文档不同的参数,请重点关注。
| 参数 | OpenAI 官方 | ETOChat | 说明 |
|---|---|---|---|
model | 参考 https://platform.openai.com/docs/models/model-endpoint-compatibility | 仅支持 gpt-4, gpt-4-0314, gpt-3.5-turbo,gpt-3.5-turbo-0301 | 暂不支持 GPT-4 32 K context |
n | int | 仅支持 1 | |
stop | string or array | 仅支持 array | |
user | string | 不支持配置,传值将被忽略 |
未说明的参数均与官方文档含义一致。
示例请求
xxxxxxxxxxcurl https://api.ai.cs.ac.cn/v1/chat/completions \ -H "Content-Type: application/json" \ -H "Authorization: Bearer 替换为在 https://ai.cs.ac.cn 获取到的 API KEY" \ -d '{ "model": "gpt-3.5-turbo", "messages": [{"role": "user", "content": "Hello!"}] }'