一句话理解 AI Gateway

AI Gateway 是一个面向企业的统一 AI 模型调用平台。

企业只需要创建 API Key、选择模型并发起调用,就可以在统一的接口和管理界面中使用多种国内 AI 模型,不需要分别接入不同模型服务,也不需要在每次调用时手动选择供应商或处理复杂的底层路由。

对于使用者来说,AI Gateway 解决的是一个核心问题:

一、企业为什么需要 AI Gateway

1. 接入方式不统一

不同模型可能使用不同的接口格式、认证方式、请求参数和返回结构。

如果业务系统直接对接多个模型,就需要在每个业务系统中分别维护:

  • 不同模型的请求地址;
  • 不同模型的认证信息;
  • 不同模型的调用参数;
  • 不同模型的错误处理逻辑;
  • 不同模型的价格和用量统计方式。

当模型数量增加后,接入和维护成本会快速上升。

AI Gateway 将这些模型统一到一个调用入口中。业务系统只需要完成一次接入,后续可以在平台中选择和使用更多模型。

2. 模型选择和价格不透明

企业使用模型时,通常需要同时判断模型能力、价格和服务稳定性。

AI Gateway 将这些信息放在模型广场和模型详情页中展示,用户可以在调用前了解:

  • 模型适合什么任务;
  • 模型刊例价是多少;
  • 当前账号配置了哪些服务档位;
  • 每个已配置档位对应的折后价是多少;
  • 当前账号下模型是折后价、全价还是不可用;
  • 模型当前是否可以调用。

这样,模型选择不再依赖口头说明或人工询价,而是有清晰的页面依据。

3. 不同业务对服务连续性的要求不同

临时测试、个人试用、日常辅助和正式生产系统,对服务链路的要求并不相同。

AI Gateway 使用服务档位承接这种差异:

  • 经济型强调成本;
  • 标准型平衡成本和日常可用性;
  • 高质量型强调更稳定的服务链路,适合正式业务。

用户可以让不同业务使用不同的 API Key 和档位,避免测试调用和生产调用混在一起。

4. 用量和成本难以统一管理

当多个业务系统分别调用不同模型时,企业通常很难快速回答:

  • 哪个 API Key 使用量最高;
  • 哪个模型消耗最多;
  • 哪个业务产生的成本最高;
  • 当前成本参考是按照刊例价还是折后价计算;
  • 最近是否出现错误率或延迟上升。

AI Gateway 通过用量统计将请求次数、Token、成功率、错误率和延迟等信息集中展示,使 AI 调用可以被观察、分析和治理。

二、AI Gateway 的核心价值

1. 统一接入国内模型

业务系统只需要按照 AI Gateway 提供的调用方式接入一次,后续可以在平台中使用多个国内模型。

业务系统不需要因为更换模型而重复改造底层接入逻辑。

业务系统 ↓ AI Gateway 统一接口 ↓ 选择的国内 AI 模型

模型的具体调用地址、模型标识和参数格式,以模型广场中的模型详情页为准。

2. 用服务档位匹配业务要求

AI Gateway 不只提供“能不能调用模型”,还通过服务档位帮助企业区分使用场景。

用户可以根据业务重要程度,选择经济型、标准型或高质量型服务。

高质量型可以理解为:

服务档位与模型本身是两个不同概念:

  • 模型决定“要完成什么任务”;
  • 服务档位决定“希望以什么样的服务方式完成任务”;
  • API Key 决定“哪个业务或应用可以使用该档位”。

3. 价格透明,避免使用时产生误解

模型广场展示统一的模型刊例价,以及当前账号实际可使用的价格信息。

当某个模型配置了客户专属折扣时,用户可以看到对应档位的折后价。

当账号没有任何生效的专属折扣时,所有模型在各个服务档位都可以按刊例价使用,并明确标记为“全价”。账号一旦配置过任意模型折扣,可用性就按照“当前模型 + 当前 API Key 档位”判断:当前档位配置了折扣才可使用;当前档位没有配置折扣则标记为“不可用”,即使该模型在其他档位有折扣也不能调用。

因此,用户在选择模型前可以清楚了解:

  • 模型基础刊例价;
  • 当前账号有哪些可用档位;
  • 每个已配置档位对应的折后价;
  • 当前模型是折后价、全价还是不可用。

4. 统一查看使用情况

用户可以按 API Key、模型和时间查看调用情况,了解:

  • Token 总量;
  • 请求次数;
  • 调用成功率;
  • 错误率;
  • 响应延迟;
  • 不同模型和 API Key 的使用趋势。

三、先理解三个核心概念

概念它解决的问题用户如何理解
模型选择要使用的 AI 能力例如代码生成、文本理解、图片生成
服务档位选择希望以什么样的服务方式使用模型经济型、标准型、高质量型
API Key让某个业务或应用获得调用权限一个 API Key 对应一个服务档位

术语速查

术语含义
刊例价模型的统一基础价格
折扣当前账号在某个模型上的价格优惠比例
折后价应用折扣后实际展示的模型价格
全价仅当账号没有任何生效的专属折扣时,模型才按照刊例价使用;账号已有折扣时,当前模型在当前档位无折扣即不可用
服务档位经济型、标准型或高质量型服务方式
SLA对服务可用性、稳定性和响应保障的约定

模型:我想让 AI 完成什么任务

模型广场中展示平台当前可以使用的模型。

不同模型在能力、适用场景、价格和调用方式上可能存在差异。选择模型时,优先根据业务任务选择,而不是只看模型名称。

服务档位:我希望以什么方式使用模型

服务档位不是模型名称,也不是模型能力标签。

它用于表示不同的服务层级:

  • 经济型:适合低成本试用、非关键任务和模型可用性验证;
  • 标准型:适合常规业务和大多数日常调用;
  • 高质量型:适合正式生产系统、自动化任务和对连续性要求较高的场景。

同一个模型在不同服务档位下可能有不同价格,同一个服务档位下不同模型也可能有不同折扣。因此,服务档位不能简单理解为固定折扣。

API Key:哪个业务可以调用

API Key 是业务系统调用 AI Gateway 时使用的访问凭证。

创建 API Key 时,需要选择该 Key 对应的服务档位。一个 API Key 对应一个服务档位。

如果一个客户同时使用多个档位,应分别创建不同的 API Key,例如:

Data Analytics Agent └── data-analytics-agent(高质量型) 测试项目 └── model-test(经济型)

创建 API Key 时选择服务档位即可,具体模型折扣和实际价格在模型广场中查看。

四、服务档位的基本选择

服务档位重点适合场景
经济型成本优先临时测试、个人试用、非关键业务
标准型成本与日常可用性平衡常规内部工具、日常问答、普通辅助任务
高质量型更稳定的服务链路正式生产、自动化 Agent、多步骤任务

服务档位的详细定义、选择建议、价格规则和常见问题,请参阅《服务档位与价格指南》。

五、正式业务优先使用高质量型

高质量型的 SLA 保障更充分,服务链路稳定性更好,适合对连续调用和任务完成质量要求较高的业务。

以下产品建议优先使用高质量型:

产品使用特点推荐原因
Data Analytics Agent多步骤数据分析和结果解释中间调用中断可能影响整条分析流程
Engineering Agent代码生成、调试和多轮修改长上下文和连续步骤对稳定性要求较高
CZ-CLI命令行和自动化流程调用适合持续运行和脚本化调用
Lakehouse AI Function嵌入数据处理和函数链路调用结果可能直接影响上层数据任务

高质量型并不改变模型能力,主要提供更稳定的服务链路和更有保障的 SLA。模型仍应先按照具体任务选择,再结合业务重要程度选择档位。

不会自动跨档位切换

AI Gateway 不会因为当前服务档位暂时不可用,就自动切换到其他服务档位。

当前 API Key:标准型 标准型服务链路不可用 ↓ 不会自动切换到高质量型或经济型 ↓ 本次请求按失败返回

请求始终使用 API Key 已选择的服务档位和对应价格。

六、四个核心模块

模块主要回答的问题用户主要操作
API Key 管理哪个业务可以调用?使用哪个档位?创建、编辑、停用和管理 API Key
模型广场有哪些模型?哪个模型适合我的任务?查看模型、价格、档位和调用示例
用量统计使用了多少?调用情况如何?查看 Token、请求、成功率、错误率和延迟
权限管理谁可以访问和使用?管理账号权限和平台访问范围

API Key 管理

用于创建和维护业务系统的调用凭证。建议按照业务或应用分别创建 API Key,而不是所有系统共用一个 Key。

详细操作请参阅:API Key 管理

模型广场

用于发现、比较和调用模型。用户可以查看模型能力、刊例价、档位折扣、全价状态和调用示例。

详细操作请参阅:模型广场

用量统计

用于观察 API Key 和模型的实际使用情况,帮助用户定位异常并分析资源消耗。

详细操作请参阅:用量统计

权限管理

用于根据岗位、团队和业务职责控制访问范围,避免所有用户拥有相同的管理能力。

七、与其他产品协同使用

AI Gateway 可以作为企业其他 AI 产品的统一模型服务层。

产品典型调用特点建议档位
Data Analytics Agent多步骤数据分析和结果解释高质量型
Engineering Agent代码生成、调试和多轮修改高质量型
CZ-CLI命令行和自动化流程调用高质量型
Lakehouse AI Function嵌入数据处理和函数链路高质量型

建议为不同产品创建独立的 API Key,以便进行用量统计、权限管理和问题定位。

八、从创建到调用的完整流程

了解产品和服务档位 ↓ 为业务创建 API Key ↓ 进入模型广场 ↓ 根据任务选择模型 ↓ 查看模型详情和价格 ↓ 复制调用示例并选择已有 API Key ↓ 在业务系统中完成调用 ↓ 通过用量统计观察结果 ↓ 根据实际情况调整模型、档位或 API Key

模型详情页提供调用示例。复制示例时可以选择已经创建的 API Key,生成可直接用于测试的请求代码。

九、从这里开始

  1. 阅读服务档位介绍,先选择适合业务的档位;
  2. 按照 快速开始创建 API Key 并完成第一次调用;
  3. 接入正式业务后,通过模型广场、用量统计和权限管理持续使用和治理。

相关文档

联系我们
预约咨询
微信咨询
电话咨询
邮件咨询