使用One API项目统一管理和分发多个大模型的API Key

从OpenAI开始火之后,各种竞品AI大模型也越来越多,而且各家都支持API服务。这个时候,如何管理和分发这些API Key就成了一个问题。

有阵时间我发现网上有很多第三方的OpenAI API中转服务,界面和功能都差不多,研究之后才发现他们都使用了同一个开源项目One API

由于我自己也有使用多个模型的场景,且有时候要分享Key给朋友但是又不方便直接给原始Key(怕被滥用),于是我也搞了台服务器,搭建了一个One API服务。

搭建过程就不多说了,你可以直接在VPS上弄个Docker直接跑,我是在一台装了1Panel面板的服务器(位于韩国的Oracle免费服务器)上简单配置后就可以用。

我这里只写几个值得注意的点:

1、请直接使用默认主题,不要用第三方的主题

虽然默认主题有点过于朴素,不过那是官方的。有功能更新都会对应适配,但第三方主题就不一定了,一开始我换了那个更好看的主题berry,结果经常遇到一些Bug,我还以为是程序问题,后来才意识到是界面适配问题。

2、多渠道的负载均衡能力没有想象中强

多个渠道优先级数字如果设置为一样,就会负载轮换使用不同的渠道API。问题是,如果某个渠道有问题,你会发现,客户端请求会等很久,容易卡住。

3、支持套娃中转

啥意思?例如我自己开通了OpenAI官方的API服务,国内默认无法访问,那么平时我其实是固定通过一台美国VPS(RackNerd)来中转使用的。

那,如果我要在另一台One API服务器(韩国)来管理OpenAI官方Key,我是直接填写官方API地址,还是我自己的美国中转地址?

经实测得知,One API支持额外填写渠道的代理信息:

这个设计也挺好的,可以让我依然能够使用那台美国VPS的固定IP去调用OpenAI的服务,尽量减少被封号的可能。

4、如何在客户端指定渠道来源的API Key

例如我只想在自己的客户端使用OpenAI官方Key,如何设置?

很简单,在默认的令牌获取到的Key后面加上 -ID 即可,这里的ID替换成具体渠道的ID数字。

5、模型重定向

这玩意有啥用呢?举个例子,有些OpenAI第三方客户端,它仅仅支持OpenAI这个模型服务商,其他都不支持。那如果我想用这些客户端,但是我又没有OpenAI的Key咋办呢?

下图是一个实例,我申请了免费的Gemini API Key,在One API中做了模型重定向:

客户端原本发起调用的GPT系列模型,被映射到我在One API提前配置好的Gemini系列模型,就可以实现兼容,或者说乾坤大挪移的效果。

说大白话就是:你以为你在客户端用的是GPT服务,其实我在后台调用的是Gemini服务。

所以,大家能理解了吧:之前某些第三方的OpenAI API中转服务,被人说是造假,有时候他们就是通过这种方式实现的,即用其他大模型来假冒OpenAI的服务,或者用低版本的API来假冒高版本的API(你以为你在使用GPT-4实际上人家用免费的GPT-3.5进行了重定向)。

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注