项目地址:https://github.com/fruitbars/simple-one-api
目前市面上免费的使用国产的免费大模型越来越多,one-api 对于个人用起来还是有点麻烦,就想要一个不要统计、流量、计费等等的适配程序即可。
还有一点是:即使有些厂商说兼容 openai 的接口,但是实际上还是存在些许差异的!!!
simple-one-api主要是解决以上 2 点,旨在兼容多种大模型接口,并统一对外提供 OpenAI 接口。通过该项目,用户可以方便地集成和调用多种大模型,简化了不同平台接口差异带来的复杂性,开箱即用 。
主要特点
- 对接了多家免费大模型(讯飞星火、百度千帆、腾讯混元以及兼容 openai 协议)
- 支持配置多个 apikey 等信息,可以随机负载均衡
- 启动简单方便
免费大模型列表
| 大模型 | 免费版本 | 控制台( api_key 等) | 文档地址 | 备注 |
|---|---|---|---|---|
| 讯飞星火大模型 | spark-lite |
链接 | 链接 | tokens:总量无限 QPS:2 有效期:不限 |
| 百度千帆大模型平台 | yi_34b_chat, ERNIE-Speed-8K, ERNIE-Speed-128K, ERNIE-Lite-8K, ERNIE-Lite-8K-0922, ERNIE-Tiny-8K |
链接 | 链接 | Lite 、Speed-8K:RPM = 300 ,TPM = 300000 Speed-128K:RPM = 60 ,TPM = 300000 |
| 腾讯混元大模型 | hunyuan-lite |
链接 | 链接 | 限制并发数为 5 路 |
备注信息
-
讯飞星火大模型:
- tokens: 总量无限
- QPS: 2
- 有效期: 不限
- 文档地址:https://www.xfyun.cn/doc/spark/Web.html
- 申请流程:[docs/讯飞星火 spark-lite 模型申请流程](docs/讯飞星火 spark-lite 模型申请流程.md)
-
百度千帆大模型平台:
- Lite 、Speed-8K: RPM = 300 ,TPM = 300000
- Speed-128K: RPM = 60 ,TPM = 300000]
- 文档地址:https://cloud.baidu.com/doc/WENXINWORKSHOP/s/klqx7b1xf
- 申请流程:[docs/百度千帆 speed 和 lite 模型申请流程](docs/百度千帆 speed 和 lite 模型申请流程.md)
-
腾讯混元大模型:
- 限制并发数: 5 路
- 文档地址:https://cloud.tencent.com/document/api/1729/105701
- 申请流程:[docs/腾讯混元 hunyuan-lite 模型申请流程](docs/腾讯混元 hunyuan-lite 模型申请流程.md)
功能
文本生成
支持多种大模型:
如果兼容 OpenAI 的接口,那么直接就可以使用了。