Skip to content

特性版 - 基于New API开发的增强版本,专注于高性能

Notifications You must be signed in to change notification settings

Calcium-Ion/new-api-horizon

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

14 Commits
 
 

Repository files navigation

new-api-horizon

New API Horizon

特性版 - 基于New API开发的增强版本

release docker

关于New API Horizon

New API Horizon是基于开源项目New API开发的特性版本。它保留了原版的核心功能,同时增加了一些新的特性和改进。这个版本不开源,但免费提供给用户使用。

获取方式

Docker镜像:calciumion/new-api-horizon:latest

新增特性

除了原版New API的所有功能外,New API Horizon新增以下特性

  1. OpenAI Realtime API - 支持OpenAI的Realtime API,支持Azure渠道。
  2. 支持/v1/messages接口(兼容OpenAI渠道转换为Claude格式)
  3. 高性能,对部分场景专门优化,提高系统资源利用率,高并发下延迟显著降低
  4. auto分组
  5. 用户分组专属分组倍率
  6. 上游检测

上游检测教程

对于已添加的渠道,点击检测按钮并等待,会得到如下结果 image image

auto分组使用教程

将依次从自动分组的第一位开始选择分组,如果该分组请求失败,则顺位到下一个分组请求,适用于需要一个令牌访问所有模型的用户
扣费将使用选择的分组倍率进行扣费
image

用户分组专属分组倍率使用教程

例如用户为vip分组,在其选择分组为default的令牌时,将按0.8进行分组倍率计算
image

WIP

  1. 针对渠道的RPM限制
  2. 支持自定义令牌聊天选项
  3. 支持自定义充值选项
  4. 支持/v1/messages接口(兼容OpenAI渠道转换)
  5. 性能优化(WIP)
  6. auto分组

About

特性版 - 基于New API开发的增强版本,专注于高性能

Resources

Stars

Watchers

Forks

Packages

No packages published