欲通过 OpenAI 标准 API 访问各个 LLM 的官方接口(付费),可以使用 songquanpeng/one-api,
free-one-api
亦可与one-api
项目搭配使用。
功能点
- 支持自动负载均衡。
- 支持 Web UI。
- 支持流模式。
- 支持多个 LLM 逆向库。
- 心跳检测机制、自动禁用不可用的渠道。
- 运行日志记录。
文档
✨先点个 Star 吧✨
部署、配置方式请参考文档:
- GitHub Page: https://rockchinq.github.io/free-one-api
- 自部署文档:https://free-one-api.rockchin.top