家里电脑做网站,汉中建设工程,门户网站开发需求分析,北京做网站设计前言
开发 ChatGPT 应用#xff0c;我觉得最前置的点就是能使用 ChatGPT API 接口。首先我自己要能成功访问#xff0c;这没问题#xff0c;会魔法就可以本地调用。
那用户如何调用到我的应用 API 呢#xff0c;我的理解是通过用户能访问到的中转服务器向 OpenAI 发起访问…前言
开发 ChatGPT 应用我觉得最前置的点就是能使用 ChatGPT API 接口。首先我自己要能成功访问这没问题会魔法就可以本地调用。
那用户如何调用到我的应用 API 呢我的理解是通过用户能访问到的中转服务器向 OpenAI 发起访问。所以我需要准备代理。
我现在使用的是 Cloudflare 代理他们专门开放了一个 AI Gateway 功能用于在全球各地发起对 OpenAI API 的访问。现在测试阶段好像还是免费的而且 Cloudflare 每天有10w次免费处理请求的机会。
这里只是我个人的拙见如果大佬们有更好的方法欢迎批评指正
如何调用 ChatGPT API
首先我们不急着一步到位。我们先尝试一下自己通过外网的方式调用 ChatGPT API看能否成功访问。
ChatGPT 账号申请和魔法的部分我就不详细展开了相信大多数有开发应用需求的同学都已经准备好了。
API 使用需要注册一个自己账号的密钥往账户里充值一定的起始金额20$。官方教程如下Quickstart tutorial - OpenAI API 如果自己已经可以实现本地运行程序调用 API 的同学这部分可以跳过了。
需要注意的点 密钥申请总是出错。这里我是疯狂的尝试注册密钥刷了可能快几十遍才刷出来。结果第一次成功注册忘记保存了顺手把页面关掉了但是密钥类似 github ssh key只有注册成功的时候会完整显示后面就看不到了所以我又删掉了旧密钥重新刷了很多次。 自己测试能否成功调用 API其实也不用测试官方用例哈哈他那个 token 太多太费钱了我一般就是只测试个 hello 看有没有回复。 from openai import OpenAI
client OpenAI()completion client.chat.completions.create(modelgpt-3.5-turbo,messages[{role: user, content: hello}]
)print(completion.choices[0].message)穷孩子是这样的。
Cloudflare AI Gateway 配置
现在可以使用 ChatGPT API 了但是应用目标用户不一定能使用如果你要求用户必须开魔法才能用你的软件会损失一大批用户的。我们利用 Cloudflare 代理中转请求。
cloudflare 控制台https://dash.cloudflare.com/
注册账号后在左侧可以看到 AI 板块大家可以忽略掉我的 jingqinggpts.com那个不用配置是我自己瞎尝试的hh。 点击 ‘AI’ - ‘AI Gateway’ 进行注册。
注册完成后在 ‘$UserName API Endpoints’ 可以看到 API 使用方法示例。 curl -X POST https://gateway.ai.cloudflare.com/v1/9f02226921e1ee7cd9adb9c655bb2883/jingqinggpts/openai/chat/completions \-H Authorization: Bearer XXX \-H Content-Type: application/json \-d {model: gpt-3.5-turbo,messages: [{role: user,content: What is Cloudflare?}]}注意Bearer 后面的 XXX 要改为自己的 API 密钥。
content 里的内容也是可以修改的。
Postman 发送 post 请求调用 API
接下来我们就可以尝试通过发送 http post 请求到 cloudflare 的 AI Gateway Endpoint 调用 API不用魔法。
postman 是我个人选用的 http 测试应用当然不只局限于这个curl 等方法都可以。
配置如下可以把上面的 curl 语句粘贴到地址栏里会自动解析地址和 header 部分json data 需要补充注意选择 post 请求 [{provider: openai,endpoint: chat/completions,headers: {authorization: Bearer XXX,content-type: application/json},query: {model: gpt-3.5-turbo,messages: [{role: user,content: hello}]}}
]点击 send 查看有无收到回应。 Python 发送 post 请求调用 API
本质上和上面是一样的只是 Python 调用了 request 包发送 post 请求。我这里就是给大家提供一下我的调用思路。
import requests
import jsonALLOWED_PROVIDERS [openai, azure-openai, huggingface]def send_request(python_data):# provider json_request[provider]# if provider not in ALLOWED_PROVIDERS:# raise ValueError(fProvider {provider} is not allowed.)url fhttps://gateway.ai.cloudflare.com/v1/9f02226921e1ee7cd9adb9c655bb2883/jingqinggptsheaders {Content-Type: application/json,}response requests.post(url, jsonpython_data, headersheaders)return response.json()json_data
[{provider: openai,endpoint: chat/completions,headers: {authorization: Bearer XXX,content-type: application/json},query: {model: gpt-3.5-turbo,messages: [{role: user,content: hello}]}}
]
python_data json.loads(json_data)
print(python_data)try:response send_request(python_data)print(response)
except Exception as e:print(fError sending request: {e})print(fResponse content: {python_data})
回应如下
