三亩地 三亩地SAN MU DI · CODE DIARY
ARTICLE DETAIL

日记详情

真实记录编程学习的某一天,欢迎挑你感兴趣的翻一翻。

终极指南:如何用New API统一管理所有AI模型接口

终极指南:如何用New API统一管理所有AI模型接口

终极指南:如何用New API统一管理所有AI模型接口

【免费下载链接】new-apiA unified AI model hub for aggregation & distribution. It supports cross-converting various LLMs into OpenAI-compatible, Claude-compatible, or Gemini-compatible formats. A centralized gateway for personal and enterprise model management. 🍥项目地址: https://gitcode.com/gh_mirrors/ne/new-api

你是否正在为管理多个AI模型接口而头疼?不同厂商的API格式各异,计费方式复杂,开发维护成本高昂?New API正是解决这些问题的终极方案!这是一个开源的一站式AI模型网关,能够将各种大语言模型统一转换为OpenAI、Claude或Gemini兼容格式,让你像使用单一API一样轻松管理所有AI服务。

为什么你需要New API?

在AI应用开发中,我们常常面临这样的挑战:

  1. 接口不统一:OpenAI、Claude、Gemini各有不同的API格式
  2. 计费复杂:不同模型的计费倍率、上下文长度限制各异
  3. 管理困难:多个API密钥、不同服务商的配额管理繁琐
  4. 部署复杂:自建模型与云端服务混合使用,配置麻烦

New API通过统一的网关解决了所有这些问题。它支持超过30种AI模型接口,提供智能路由、格式转换、统一计费等功能,让你专注于业务逻辑而非基础设施。

快速开始:5分钟部署你的AI网关

使用Docker Compose,你可以在几分钟内启动New API:

# 克隆项目 git clone https://gitcode.com/gh_mirrors/ne/new-api.git cd new-api # 启动服务 docker-compose up -d

启动后,访问http://localhost:3000即可看到现代化的管理界面。系统默认使用SQLite数据库,数据会保存在本地的./data目录中。

上图展示了New API支持的GPT模型计费倍率对比,帮助你清晰了解不同模型的成本差异。

核心功能详解:一站式AI模型管理

1. 统一接口格式转换

New API最强大的功能之一是格式转换。无论上游API是什么格式,你都可以使用统一的接口调用:

  • OpenAI兼容格式→ Claude Messages格式
  • Claude Messages格式→ OpenAI兼容格式
  • OpenAI兼容格式→ Google Gemini格式
  • Google Gemini格式→ OpenAI兼容格式

这意味着你的应用代码只需适配一种API格式,就能调用所有支持的AI模型。

2. 智能路由与负载均衡

系统支持多种路由策略:

路由策略描述适用场景
加权随机按权重分配请求多通道负载均衡
自动重试失败时自动切换通道提高服务可用性
用户级限速限制单个用户的请求频率防止滥用

3. 灵活的计费系统

New API内置了完善的计费系统,支持:

  • 按使用量计费:基于token消耗精确计费
  • 缓存计费:支持OpenAI、Azure、DeepSeek等模型的缓存计费
  • 分级计费策略:可配置不同用户组的计费规则
  • 在线充值:集成EPay、Stripe等支付方式

上图展示了在Azure平台上配置GPT-4.1模型的界面,New API可以无缝集成各类云服务商的AI模型。

4. 多模型支持

New API支持的主流模型包括:

  • OpenAI系列:GPT-4、GPT-3.5、o1/o3-mini等
  • Claude系列:Claude-3.7-Sonnet等
  • Google Gemini系列:Gemini-2.5-Flash、Gemini-2.5-Pro等
  • 国内模型:通义千问、文心一言、智谱GLM等
  • 图像生成:Midjourney Proxy集成
  • 音乐生成:Suno API集成

高级技巧:提升你的使用效率

1. 环境变量配置优化

在部署时,这些关键环境变量能大幅提升系统性能:

# 多机部署必须设置 SESSION_SECRET=your_session_secret CRYPTO_SECRET=your_crypto_secret # 使用Redis缓存时必需 # 性能优化 STREAMING_TIMEOUT=300 # 流式响应超时时间 MAX_REQUEST_BODY_MB=32 # 最大请求体大小

2. 智能请求去重

New API的前端实现了智能请求去重机制,避免重复请求造成的资源浪费。当多个组件同时请求相同数据时,系统会自动合并请求,提升响应速度。

3. 多语言界面

系统内置完整的国际化支持,包含:

  • 简体中文
  • 繁体中文
  • 英文
  • 法文
  • 日文

界面语言会根据浏览器设置自动切换,也支持手动选择。

4. 完整的监控与日志

通过配置Pyroscope,你可以获得详细的性能监控数据:

PYROSCOPE_URL=http://your-pyroscope-server:4040 PYROSCOPE_APP_NAME=new-api

常见问题解答

Q: New API与One API有什么区别?

A: New API基于One API二次开发,保留了所有核心功能,同时增加了:

  • 现代化的用户界面设计
  • 更多模型格式转换支持
  • 更灵活的计费策略
  • 性能监控集成
  • 多语言支持

Q: 如何迁移现有的One API数据?

A: New API完全兼容One API的数据库结构,只需将数据目录挂载到新的容器即可无缝迁移。

Q: 支持自建的本地模型吗?

A: 是的!New API支持通过自定义通道添加任何兼容OpenAI API格式的本地模型,包括Llama、Mistral等开源模型。

Q: 如何设置用户配额和权限?

A: 在管理界面中,你可以:

  1. 创建用户组并设置模型访问权限
  2. 配置每个用户的token配额
  3. 设置请求频率限制
  4. 配置计费倍率

Q: 系统性能如何?

A: New API采用Go语言开发,性能优异。单实例可轻松处理数千QPS,支持水平扩展。前端使用React + Vite构建,加载速度快,用户体验流畅。

项目架构与技术栈

后端架构

  • 语言: Go
  • Web框架: Gin
  • 数据库: SQLite / MySQL / PostgreSQL
  • 缓存: Redis / 内存缓存
  • 部署: Docker容器化

前端架构

  • 框架: React 18
  • 构建工具: Vite
  • UI库: Semi Design
  • 状态管理: React Context
  • HTTP客户端: Axios

核心目录结构

new-api/ ├── common/ # 通用工具和中间件 ├── controller/ # 控制器层 ├── model/ # 数据模型 ├── relay/ # 模型转发层 ├── service/ # 业务逻辑 ├── web/ # 前端界面 │ ├── classic/ # 经典版界面 │ └── default/ # 默认界面 └── docs/ # 文档

总结与展望

New API作为一个开源的一站式AI模型网关,解决了AI应用开发中的多个痛点。它不仅是技术工具,更是AI应用架构的最佳实践。

主要优势

  • 统一接口:一套代码调用所有AI模型
  • 智能路由:自动故障转移和负载均衡
  • 灵活计费:支持多种计费模式和支付方式
  • 易于部署:Docker一键部署,维护简单
  • 社区活跃:持续更新,功能不断完善

未来发展方向

  • 更多模型格式支持
  • 更精细的权限控制
  • 性能监控和告警系统
  • 企业级功能增强

无论你是个人开发者还是企业团队,New API都能显著降低AI应用开发的门槛和成本。现在就开始使用,让你的AI应用开发效率提升数倍!

立即开始:克隆项目仓库,按照快速开始指南部署你的第一个AI网关,体验统一管理所有AI模型的便捷!

【免费下载链接】new-apiA unified AI model hub for aggregation & distribution. It supports cross-converting various LLMs into OpenAI-compatible, Claude-compatible, or Gemini-compatible formats. A centralized gateway for personal and enterprise model management. 🍥项目地址: https://gitcode.com/gh_mirrors/ne/new-api

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

← 返回列表