新API:下一代大型语言模型(LLM)网关及人工智能资产管理器

June 09, 2025

New API:开放式大模型网关,助您轻松融入AI

在飞速发展的AI时代,如何管理并整合纷繁复杂的大语言模型(LLM)可能是一大难题。而New API这款创新的开源项目应运而生,旨在化繁为简。New API以One API为基础,不仅是新一代大模型网关,更是一个全面的AI资产管理系统。它能将OpenAI、Claude、Gemini、DeepSeek等各类AI模型统一整合,让您轻松调用。

New API是什么?

New API是一个功能强大、支持多语言的平台,无论是个人开发者还是企业用户都能从中受益。它提供了一套集中管理和分发AI模型接口的系统,让您能以一套统一的API结构轻松调用不同的LLM。作为广受欢迎的One API项目的强大分支,New API在原有的基础上进行了大量优化,新增了多项重要功能,并大幅提升了用户体验。

主要功能和改进:

New API凭借其丰富的功能脱颖而出,完美满足了现代AI整合的需求:

  • 统一API访问: 将多个大模型转化为单一的标准化调用格式,全面支持OpenAI、Claude、Gemini等模型。
  • 焕然一新的用户界面: 全新设计,界面直观,大幅提升用户体验。
  • 多语言支持: 专为全球用户设计,提供全面的多语言能力。
  • 在线充值和配额管理: 支持在线充值,还能通过API Key查询用量配额。
  • 数据库兼容性: 完全兼容原始One API数据库,支持无缝迁移。
  • 灵活计费: 支持按次调用计费,并能对模型和渠道进行加权随机分配。
  • 数据看板: 集成式控制台,用于实时监控使用情况和性能指标。
  • 高级控制: 实现令牌分组、模型限制以及高级授权方式(LinuxDO、Telegram、OIDC)。
  • Rerank模型支持: 无缝集成Cohere和Jina等Rerank模型,提升搜索和相关性表现。
  • 实时API和Claude消息: 支持OpenAI实时API(包括Azure渠道)以及Claude消息格式。
  • 智能推理控制: 可为OpenAI配置推理强度(如-high、-medium、-low后缀),并为Claude模型启用“思考”模式(-thinking后缀)。
  • 缓存计费: 可选择按一定比例对缓存响应进行计费,优化成本效率。
  • 广泛的模型支持: 除了主流LLM,还支持Midjourney-Proxy (Plus) 接口、Suno API以及自定义渠道等第三方模型。

部署简便:

New API提供灵活的部署选项,以适应各种环境:

  • Docker Compose(推荐): 通过docker-compose.yml文件迅速启动。
  • 直接Docker镜像: 使用预构建的Docker镜像,轻松运行New API,并可配置SQLite或MySQL数据库。
  • 宝塔面板集成: 通过宝塔面板的Docker功能,一键轻松安装。

对于多机部署,关键环境变量如SESSION_SECRETCRYPTO_SECRET能确保登录状态的一致性和Redis内容访问的顺畅。

缓存与可靠性:

系统包含强大的渠道重试功能和强烈推荐的缓存特性。通过设置REDIS_CONN_STRING或启用MEMORY_CACHE_ENABLED,用户可以显著提高响应速度并提升运行效率。

谁能受益?

New API是以下用户的宝贵工具:

  • 开发者: 简化将各类AI模型集成到应用程序中的过程。
  • 企业: 有效管理AI资源,控制访问权限,并监控团队的使用情况。
  • 研究人员: 在统一平台上尝试各种LLM和API配置。

New API代表了AI模型管理领域的一大飞跃,为所有希望充分发挥大语言模型潜力的用户,提供了一套全面、灵活、强大的开源解决方案。欢迎探索其功能,并加入这个对可访问AI充满热情的不断壮大的社区。

原创文章: 查看原文

分享本文