今天仅仅只是站在开发者学习交流的角度来介绍一下,我们在日常开发基于LLM的AI应用时遇到的各种瓶颈,毕竟开发出一个优质的应用,舒适的环境和体验还是比较重要的。话不多说,进入正题。
一、搭建OpenAI中转站
如何搭建个人专属的API中转站,这里就不过多赘述了,各位可以移步下面的地址进行查阅:
https://github.com/x-dr/chatgptProxyAPI/blob/main/docs/cloudflare_proxy_pages.md
部署完成后就可以通过你自己的域名来代替 OpenAI 的 API 地址了。比如在本文的例子中,想要请求 ChatGPT 的 API ,即是把官方 API 地址 https://api.openai.com/v1/chat/completions 换为我自己的域名 https://openai-proxy-api.pages.dev/api/v1/chat/completions ,其他参数均参照官方示例即可。
由于 Cloudflare 有每天免费 10 万次的请求额度,所以轻度使用基本是零成本的。
二、本地开发环境配置
2.1、基于 LangChain 开发
2.1.1、安装必要的依赖
!pip install openai langchain
!pip install python-dotenv
2.1.2、新建 .env 文件
OPENAI_API_BASE=your-openai-proxy-url
OPENAI_API_KEY=your-openai-api-key
2.1.3、方式一:通过在 .env 文件中设置 OPENAI_API_BASE 环境变量
从 LangChain 的源码 openai.py 文件中,可以找到 ChatOpenAI 模型实例里定义了 validateenvironment 函数用于从字典或

本文介绍了在本地开发基于LLM的AI应用时如何解决API访问问题。通过搭建个人的OpenAIAPI中转站,利用Cloudflare的免费请求额度,可以实现对OpenAIAPI的免费调用。此外,文章详细说明了如何配置LangChain和OpenAI原生PythonSDK进行本地开发,包括设置环境变量和直接调用API接口。

5071

被折叠的 条评论
为什么被折叠?



