一句话理解 AI Gateway
AI Gateway 是一个面向企业的统一 AI 模型调用平台。
企业只需要创建 API Key、选择模型并发起调用,就可以在统一的接口和管理界面中使用多种国内 AI 模型,不需要分别接入不同模型服务,也不需要在每次调用时手动选择供应商或处理复杂的底层路由。
对于使用者来说,AI Gateway 解决的是一个核心问题:
一、企业为什么需要 AI Gateway
1. 接入方式不统一
不同模型可能使用不同的接口格式、认证方式、请求参数和返回结构。
如果业务系统直接对接多个模型,就需要在每个业务系统中分别维护:
- 不同模型的请求地址;
- 不同模型的认证信息;
- 不同模型的调用参数;
- 不同模型的错误处理逻辑;
- 不同模型的价格和用量统计方式。
当模型数量增加后,接入和维护成本会快速上升。
AI Gateway 将这些模型统一到一个调用入口中。业务系统只需要完成一次接入,后续可以在平台中选择和使用更多模型。
2. 模型选择和价格不透明
企业使用模型时,通常需要同时判断模型能力、价格和服务稳定性。
AI Gateway 将这些信息放在模型广场和模型详情页中展示,用户可以在调用前了解:
- 模型适合什么任务;
- 模型刊例价是多少;
- 当前账号配置了哪些服务档位;
- 每个已配置档位对应的折后价是多少;
- 当前账号下模型是折后价、全价还是不可用;
- 模型当前是否可以调用。
这样,模型选择不再依赖口头说明或人工询价,而是有清晰的页面依据。
3. 不同业务对服务连续性的要求不同
临时测试、个人试用、日常辅助和正式生产系统,对服务链路的要求并不相同。
AI Gateway 使用服务档位承接这种差异:
- 经济型强调成本;
- 标准型平衡成本和日常可用性;
- 高质量型强调更稳定的服务链路,适合正式业务。
用户可以让不同业务使用不同的 API Key 和档位,避免测试调用和生产调用混在一起。
4. 用量和成本难以统一管理
当多个业务系统分别调用不同模型时,企业通常很难快速回答:
- 哪个 API Key 使用量最高;
- 哪个模型消耗最多;
- 哪个业务产生的成本最高;
- 当前成本参考是按照刊例价还是折后价计算;
- 最近是否出现错误率或延迟上升。
AI Gateway 通过用量统计将请求次数、Token、成功率、错误率和延迟等信息集中展示,使 AI 调用可以被观察、分析和治理。
二、AI Gateway 的核心价值
1. 统一接入国内模型
业务系统只需要按照 AI Gateway 提供的调用方式接入一次,后续可以在平台中使用多个国内模型。
业务系统不需要因为更换模型而重复改造底层接入逻辑。
模型的具体调用地址、模型标识和参数格式,以模型广场中的模型详情页为准。
2. 用服务档位匹配业务要求
AI Gateway 不只提供“能不能调用模型”,还通过服务档位帮助企业区分使用场景。
用户可以根据业务重要程度,选择经济型、标准型或高质量型服务。
高质量型可以理解为:
服务档位与模型本身是两个不同概念:
- 模型决定“要完成什么任务”;
- 服务档位决定“希望以什么样的服务方式完成任务”;
- API Key 决定“哪个业务或应用可以使用该档位”。
3. 价格透明,避免使用时产生误解
模型广场展示统一的模型刊例价,以及当前账号实际可使用的价格信息。
当某个模型配置了客户专属折扣时,用户可以看到对应档位的折后价。
当账号没有任何生效的专属折扣时,所有模型在各个服务档位都可以按刊例价使用,并明确标记为“全价”。账号一旦配置过任意模型折扣,可用性就按照“当前模型 + 当前 API Key 档位”判断:当前档位配置了折扣才可使用;当前档位没有配置折扣则标记为“不可用”,即使该模型在其他档位有折扣也不能调用。
因此,用户在选择模型前可以清楚了解:
- 模型基础刊例价;
- 当前账号有哪些可用档位;
- 每个已配置档位对应的折后价;
- 当前模型是折后价、全价还是不可用。
4. 统一查看使用情况
用户可以按 API Key、模型和时间查看调用情况,了解:
- Token 总量;
- 请求次数;
- 调用成功率;
- 错误率;
- 响应延迟;
- 不同模型和 API Key 的使用趋势。
三、先理解三个核心概念
| 概念 | 它解决的问题 | 用户如何理解 |
|---|---|---|
| 模型 | 选择要使用的 AI 能力 | 例如代码生成、文本理解、图片生成 |
| 服务档位 | 选择希望以什么样的服务方式使用模型 | 经济型、标准型、高质量型 |
| API Key | 让某个业务或应用获得调用权限 | 一个 API Key 对应一个服务档位 |
术语速查
| 术语 | 含义 |
|---|---|
| 刊例价 | 模型的统一基础价格 |
| 折扣 | 当前账号在某个模型上的价格优惠比例 |
| 折后价 | 应用折扣后实际展示的模型价格 |
| 全价 | 仅当账号没有任何生效的专属折扣时,模型才按照刊例价使用;账号已有折扣时,当前模型在当前档位无折扣即不可用 |
| 服务档位 | 经济型、标准型或高质量型服务方式 |
| SLA | 对服务可用性、稳定性和响应保障的约定 |
模型:我想让 AI 完成什么任务
模型广场中展示平台当前可以使用的模型。
不同模型在能力、适用场景、价格和调用方式上可能存在差异。选择模型时,优先根据业务任务选择,而不是只看模型名称。
服务档位:我希望以什么方式使用模型
服务档位不是模型名称,也不是模型能力标签。
它用于表示不同的服务层级:
- 经济型:适合低成本试用、非关键任务和模型可用性验证;
- 标准型:适合常规业务和大多数日常调用;
- 高质量型:适合正式生产系统、自动化任务和对连续性要求较高的场景。
同一个模型在不同服务档位下可能有不同价格,同一个服务档位下不同模型也可能有不同折扣。因此,服务档位不能简单理解为固定折扣。
API Key:哪个业务可以调用
API Key 是业务系统调用 AI Gateway 时使用的访问凭证。
创建 API Key 时,需要选择该 Key 对应的服务档位。一个 API Key 对应一个服务档位。
如果一个客户同时使用多个档位,应分别创建不同的 API Key,例如:
创建 API Key 时选择服务档位即可,具体模型折扣和实际价格在模型广场中查看。
四、服务档位的基本选择
| 服务档位 | 重点 | 适合场景 |
|---|---|---|
| 经济型 | 成本优先 | 临时测试、个人试用、非关键业务 |
| 标准型 | 成本与日常可用性平衡 | 常规内部工具、日常问答、普通辅助任务 |
| 高质量型 | 更稳定的服务链路 | 正式生产、自动化 Agent、多步骤任务 |
服务档位的详细定义、选择建议、价格规则和常见问题,请参阅《服务档位与价格指南》。
五、正式业务优先使用高质量型
高质量型的 SLA 保障更充分,服务链路稳定性更好,适合对连续调用和任务完成质量要求较高的业务。
以下产品建议优先使用高质量型:
| 产品 | 使用特点 | 推荐原因 |
|---|---|---|
| Data Analytics Agent | 多步骤数据分析和结果解释 | 中间调用中断可能影响整条分析流程 |
| Engineering Agent | 代码生成、调试和多轮修改 | 长上下文和连续步骤对稳定性要求较高 |
| CZ-CLI | 命令行和自动化流程调用 | 适合持续运行和脚本化调用 |
| Lakehouse AI Function | 嵌入数据处理和函数链路 | 调用结果可能直接影响上层数据任务 |
高质量型并不改变模型能力,主要提供更稳定的服务链路和更有保障的 SLA。模型仍应先按照具体任务选择,再结合业务重要程度选择档位。
不会自动跨档位切换
AI Gateway 不会因为当前服务档位暂时不可用,就自动切换到其他服务档位。
请求始终使用 API Key 已选择的服务档位和对应价格。
六、四个核心模块
| 模块 | 主要回答的问题 | 用户主要操作 |
|---|---|---|
| API Key 管理 | 哪个业务可以调用?使用哪个档位? | 创建、编辑、停用和管理 API Key |
| 模型广场 | 有哪些模型?哪个模型适合我的任务? | 查看模型、价格、档位和调用示例 |
| 用量统计 | 使用了多少?调用情况如何? | 查看 Token、请求、成功率、错误率和延迟 |
| 权限管理 | 谁可以访问和使用? | 管理账号权限和平台访问范围 |
API Key 管理
用于创建和维护业务系统的调用凭证。建议按照业务或应用分别创建 API Key,而不是所有系统共用一个 Key。
详细操作请参阅:API Key 管理
模型广场
用于发现、比较和调用模型。用户可以查看模型能力、刊例价、档位折扣、全价状态和调用示例。
详细操作请参阅:模型广场
用量统计
用于观察 API Key 和模型的实际使用情况,帮助用户定位异常并分析资源消耗。
详细操作请参阅:用量统计
权限管理
用于根据岗位、团队和业务职责控制访问范围,避免所有用户拥有相同的管理能力。
七、与其他产品协同使用
AI Gateway 可以作为企业其他 AI 产品的统一模型服务层。
| 产品 | 典型调用特点 | 建议档位 |
|---|---|---|
| Data Analytics Agent | 多步骤数据分析和结果解释 | 高质量型 |
| Engineering Agent | 代码生成、调试和多轮修改 | 高质量型 |
| CZ-CLI | 命令行和自动化流程调用 | 高质量型 |
| Lakehouse AI Function | 嵌入数据处理和函数链路 | 高质量型 |
建议为不同产品创建独立的 API Key,以便进行用量统计、权限管理和问题定位。
八、从创建到调用的完整流程
模型详情页提供调用示例。复制示例时可以选择已经创建的 API Key,生成可直接用于测试的请求代码。
