查看原文
其他

太强了!这款魔改版 One API 竟然还能接 Midjourney,让 AI 接口调用更简单!

sealos.run Sealos
2024-11-01

如今各种大模型满天飞,各种 AI 服务和 API 层出不穷。作为开发者,我们常常需要同时调用多个 AI 接口来满足不同的需求。但是,管理这些接口的认证、计费、限流等问题往往会带来不小的麻烦。

今天我要向大家推荐一个强大的开源项目 - New API,它可以帮助我们轻松管理和使用各种 AI 接口,大大简化了开发流程。

New API 介绍

One API 大家都很熟悉了吧? 而 New API[2] 是一个基于 One API[3] 项目二次开发的开源 AI 服务管理平台。它提供了一个统一的接口来管理和调用多种 AI 服务,包括 OpenAI、Anthropic Claude、Midjourney 等主流 AI 模型,以及一些自定义模型。

与 One API 相比,New API 的变更如下:

  1. 全新的 UI 界面 (部分界面还待更新)

  2. 添加 Midjourney-Proxy(Plus)[4] 接口的支持,对接文档[5]

  3. 支持在线充值功能,可在系统设置中设置,当前支持的支付接口:

  • 易支付

  • 支持用 key 查询使用额度:

    • 配合项目 neko-api-key-tool[6] 可实现用 key 查询使用

  • 渠道显示已使用额度,支持指定组织访问

  • 分页支持选择每页显示数量

  • 兼容原版 One API 的数据库,可直接使用原版数据库 (one-api.db)

  • 支持模型按次数收费,可在系统设置-运营设置中设置

  • 支持渠道加权随机

  • 数据看板

  • 可设置令牌能调用的模型

  • 支持 Telegram 授权登录。

    1. 系统设置-配置登录注册-允许通过 Telegram 登录

    2. 对@Botfather[7] 输入指令/setdomain

    3. 选择你的 bot,然后输入 http(s)://你的网站地址/login

    4. Telegram Bot 名称是 bot username 去掉@后的字符串

  • 添加 Suno API[8] 接口的支持,对接文档[9]

  • 支持 Rerank 模型,目前仅兼容 Cohere 和 Jina

  • 简而言之,New API 就像是一个 AI 接口的 “大管家”,帮助我们更高效地使用各种 AI 能力。

    截至目前,New API 在 GitHub 上已获得接近 2700 颗星。

    New API 的核心功能

    我们再来看看 New API 能为开发者带来哪些实际的价值:

    统一的 API 管理

    1. 多渠道支持:集成了 OpenAI、Anthropic Claude、Midjourney 等多种 AI 服务。

    2. 自定义模型:允许添加和管理自定义的 AI 模型。

    3. 密钥管理:集中管理各种 AI 服务的 API 密钥。

    智能负载均衡

    1. 加权随机:根据设定的权重智能分配请求,优化资源利用。

    2. 自动故障转移:当某个渠道不可用时,自动切换到备用渠道。

    3. 渠道组:支持将多个相似的渠道组合管理。

    额度管理和计费

    1. 灵活的计费模式:支持按次数或按 Token 数量计费。

    2. 在线充值:集成支付接口,方便用户自助充值。

    3. 使用统计:详细记录每个用户和渠道的使用情况。

    安全和访问控制

    1. 令牌管理:生成和管理用于 API 访问的令牌。

    2. 模型权限:可以限制特定令牌能够访问的模型。

    3. 组织管理:支持多组织架构,实现更细粒度的权限控制。

    监控和分析

    1. 实时监控:监控 API 调用情况和系统资源使用。

    2. 数据看板:直观展示使用趋势和分布。

    3. 告警机制:当出现异常情况时及时通知管理员。

    安装 New API

    New API 官方提供了 Docker 镜像,只需要一行命令,就能快速启动 New API:

    • 1

    docker run --name new-api -d --restart always -p 3000:3000 -e TZ=Asia/Shanghai -v /home/ubuntu/data/new-api:/data calciumion/new-api:latest

    当然,如果你想使用 MySQL 作为数据库,那就更复杂一点,需要再部署个 MySQL 数据库。

    对于没有技术背景的同学而言,你也不用担心安装问题,Sealos 应用商店[10]提供了一键部署的应用模板,点一下鼠标即可完成部署,非常丝滑。而且不需要再单独购买具有公网 IP 的服务器了,直接按量付费即可。

    如果你想快速部署一个 New API,又不想陷入繁琐的安装和配置过程,可以试试 Sealos。

    直接打开 New API 应用模板:

    • https://template.bja.sealos.run/deploy?templateName=new-api

    然后点击右上角的 “去 Sealos 部署”。

    如果您是第一次使用 Sealos[1],则需要注册登录 Sealos 公有云账号,登录之后会立即跳转到模板的部署页面。

    什么都不用填,直接点击右上角的 “部署应用” 开始部署。部署完成后,直接点击应用的 “详情” 进入应用的详情页面。

    等待应用状态变成 running 之后,直接点击外网地址便可打开 New API 的 Web 界面。

    除此之外,还有另外一种打开方式,先刷新 Sealos 桌面 (也就是在 cloud.sealos.run 界面刷新浏览器),然后你就会发现 Sealos 桌面多了个图标:

    直接点击这个图标就可以打开 New API 的 Web 界面。

    是不是有点似曾相识?没错,很像 Windows 的快捷方式!

    单机操作系统可以这么玩,Sealos 云操作系统当然也可以这么玩。

    New API 的基本使用

    成功部署 New API 后,我们来看看如何开始使用这个强大的 AI 服务管理平台。

    首先我们需要使用默认管理员账号 root 和密码 123456 登录 Web 界面。首次登录后,请立即修改默认密码以确保安全。

    添加 AI 服务渠道

    1. 在左侧菜单中选择 “渠道”。

    2. 点击 “添加渠道” 按钮。

    3. 选择要添加的大模型接口类型 (如 OpenAI、Claude 等)。

    4. 输入该服务的 API 密钥和其他必要信息。

    5. 设置渠道的优先级和权重。

    6. 点击 “提交” 完成添加。

    创建访问令牌

    1. 在左侧菜单中选择 “令牌”。

    2. 点击 “添加令牌” 按钮。

    3. 设置令牌名称、额度和可访问的模型。

    4. 点击 “提交” 生成令牌。

    New API 还提供了详细的文档,指导如何集成 Midjourney 和 Suno API 这样的特殊服务。

    对于 Gemini 等模型,可以通过 GEMINI_MODEL_MAP 环境变量指定具体的版本:

    • 1

    GEMINI_MODEL_MAP="gemini-1.5-pro-latest:v1beta,gemini-1.5-pro-001:v1beta"

    总结

    New API 作为一个创新的 AI 接口管理平台,为开发者提供了一个强大而灵活的工具,大大简化了多个 AI 服务的集成和管理过程。它不仅整合了主流的 AI 模型如 OpenAI、Claude 和 Midjourney,还支持自定义模型,满足了不同开发者的多样化需求。


    1. https://sealos.run/ ↩

    2. https://github.com/Calcium-Ion/new-api ↩

    3. https://github.com/songquanpeng/one-api ↩

    4. https://github.com/novicezk/midjourney-proxy ↩

    5. https://github.com/Calcium-Ion/new-api/blob/main/Midjourney.md ↩

    6. https://github.com/Calcium-Ion/neko-api-key-tool ↩

    7. https://t.me/botfather ↩

    8. https://github.com/Suno-API/Suno-API ↩

    9. https://github.com/Calcium-Ion/new-api/blob/main/Suno.md ↩

    10. https://sealos.run/docs/guides/templates/ ↩

    加入 Sealos 开源社区体验像个人电脑一样简单的云操作系统



    🏠官网链接

    https://sealos.run


    🐙GitHub 地址

    https://github.com/labring/sealos


    📑访问 Sealos 文档

    https://sealos.run/docs/Intro


    🏘️逛逛论坛

    https://forum.laf.run/

    往期推荐

    3.1 万 star!一款开源免费的原型设计软件,开源界的 Figma 杀手!

    2024-08-20

    2.7 万 star!开源项目管理的新星,直接换掉 Jira!

    2024-08-15

    8 万 star!我愿称之为内网代理之神,轻松将本地服务暴露到公网!

    2024-08-06

    2 万 star 开发者瑞士军刀!!! 几百种工具绝对能满足你

    2024-08-02


    关于 Sealos

    Sealos 是一款以 Kubernetes 为内核的云操作系统发行版。它以云原生的方式,抛弃了传统的云计算架构,转向以 Kubernetes 为云内核的新架构,使企业能够像使用个人电脑一样简单地使用云。


    关注 Sealos 公众号与我们一同成长👇👇👇

    继续滑动看下一个
    Sealos
    向上滑动看下一个

    您可能也对以下帖子感兴趣

    文章有问题?点此查看未经处理的缓存